26 September 2023 Tuesday
News
Bizlere web sitelerinde müşteri hizmetleri sunarlar, sosyal medya akışlarımızı doldururlar. Yapay zekanın Chat GPTsi deneme, makale ya da e-posta yazabiliyor. Şu an okuyacağınız her yazıyı İngilizce olarak Chat GPT ile sizlere denemesini yapacağım. Kullandığı İngilizceyi ve neler düşündüğünü göreceksiniz. Yapay Zeka bir insanın yapabileceği her şeyi tam teşekküllü bir sistemle kendisi yapabiliyor.
Nedir bu A.G.I
SADECE BİR BAŞLANGIÇ
Bugün gördüğünüz sahte insanlar sadece bir başlangıç. Asıl sahte dünya Yapay Zeka’dan sonra başlayacak. A.I. yani Yapay Zekanın bir üst versiyonu olan A.G.I. ya dönüşecek. Peki nedir bu A.G.I.? Yapay zekanın en üst versiyonu “the singularity” olarak karşımızda duruyor aslında. Kelime anlamı olarak ‘tekillik’, yani bu terimden tek olma anlamını çıkarın. Her şeyi tek başına yapabilen bir sistem olarak hayal edin… Aynı insan gibi! Kendini geliştirerek öğrenen bir robot ve şu an üzerinde sayısız çalışmalar yapılmaktadır. Bizim şu an içinde yaşadığımız dünya bunu anlayabilmemize pek olanak vermeden bizleri oyalamanın peşinde…
Peki neler olabileceğine biraz bakalım…
En ufak bir Bilgisayar Sistemi dahi ChatGPT’nin yapabildiği kodu yazabiliyorsa, “Tekillik” denilen sistem kontrolümüzden çıkana kadar kendini defalarca kez geliştirebilir. Bu, bilim insanlarının en kötü senaryo dediği bir noktadır ki şunlar olabilir; kontrol edilemeyen yapay zekalar teknolojik hayatımızın her alanına sızarak alt yapımızı, iletişimimizi, finansal sistemlerimizi ve daha fazlasını bozup yönlendirebilirler. Artık insanüstü bir kurnazlığa sahip sahte insanlar, bizi önlem almak için oy kullanmaya ve konumlarını güçlendiren şeylere yatırım yapmaya ikna edip, hassas bireylerin ve grupların hükümetleri devirip haklarını terörize edebilir. (Daha önceki yazılarımda teknolojinin devletlerden daha güçlü olduğunu yazmıştım).
Tekillik yani I.G.A. kaçınılmaz değildir ve kesinlikle üzerinde ciddi çalışmalar vardır. Yapay Zeka üzerinde yapılan son çalışmalar bunu kesinlikle garantiledi. Sadece A.I. ve A.G.I. arasındaki geçişi nasıl sağlayacağız ve ne kadar güvende tutmaya çalışacağız? Geçen mayıs ayında, Google’ın ana şirketi Alphabet’in sahibi olduğu DeepMind, çeşitli görevleri gerçekleştirmek için ChatGPT ile aynı algoritma türünü kullanan bir “genel ajan” anlamında olan Gato’yu tanıttı. British Columbia Üniversitesi ve Vector Enstitüsü’nden bilgisayar bilimcisi Jeff Clune, “Beş yıl önce, insan düzeyinde veya insanüstü düzeyde yapay zeka olasılığına inandığımı yüksek sesle söylesem kariyerim çok büyük bir risk altına girerdi” dedi. (Clune, Uber, OpenAI ve DeepMind’da çalıştı; son çalışması, dünyayı açık uçlu bir şekilde keşfeden algoritmaların A.G.I.’ya yol açabileceğini öne sürüyor).
Mart ayında, bir grup önde gelen teknoloji uzmanı, bazı yapay zeka türlerinde duraklama çağrısı yapan bir mektup yayınladı. Yapay zekanın önde gelen öncülerinden biri olan Geoffrey Hinton, teknolojinin insanlığa yönelik tehdidi de dahil olmak üzere tehlikeleri hakkında daha özgürce konuşabilmek için Google’dan ayrıldı. Matematikçi ve bir girişimci olan Spencer Greenberg benzer şekilde, “süper zeki” bir A.I. bize hizmet etmek için tasarlanmış olan, güçlerini yeni hedefler peşinde koşmak için kullanabilir, demiştir. Yardım kuruluşu Aligned A.I.’nin kurucu ortaklarından biri olan Stuart Armstrong, ekonomik, politik ve askeri gücü toplayan süper zeki bir bilgisayar sisteminin ‘dünyayı rehin tutabileceğini’ öne sürdü. “A.G.I.’ye sahip tek kişi Vladimir Putin olsaydı şu anda ne yapardı?” Çok az bilim insanı yapay zekanın ilerlemesini durdurmak istiyor. Stuart Russell (Yapay Zekaya yaptığı katkılarla bilinen bir bilgisayar bilimi profesörü), “Neredeyse uzaylıları kasıtlı olarak gezegeninize davet ediyormuşsunuz gibi, buraya geldiklerinde dünyayı ele geçirmek dışında ne yapacakları hakkında hiçbir fikriniz yok” dedi.
Peki “TEKILLIK” – A.G.I. mümkünse engellenebilir mi?
Dünyanın dört bir yanındaki hükümetler yapay zekanın ne kadar gelişebileceğini ve ilerleyebileceğini ve ne zaman frene basılması gerektiğini bilemezler. Bir bilgisayarın zekasını ölçmek zordur. Bilgisayar bilimcileri, bir yapay zekanın yeteneklerini kıyaslamak için bir dizi test geliştirdiler, ancak bunların nasıl yorumlanacağı konusunda fikir ayrılığına düştüler. ‘E-ticarette hız’ başlık altındaki köşe yazım aslında bu alanda da geçerlidir. Hızın olmadığı her alan muhakkak bir gün yok olma tehlikesiyle karşı karşıyadır. Bilim insanları yapay zekanın kalkış hızını tartışmaktadırlar. Eğer yavaş ve yumuşak bir kalkış hızına sahip olursa aynı insan gibi öğrenmesi seneleri alabilir, fakat bu hızlı ve sert kalkış hali içinde olursa sıçrama aylar hatta dakikalar içinde bile olabilir. Yapay zekanın gücünün kontrolsüz bir şekilde genişlemesini önlemek için bugün ne yapabiliriz? W.H.O.’dan (Dünya Sağlık Örgütü) Ross, biyologların biyolojik araştırmaların güvenliği için ortak bir sorumluluk duygusu geliştirmelerinden bazı dersler çıkardı. Biyoloji hakkında “Teşvik etmeye çalıştığımız şey, herkesin endişelenmesi gerektiğini söylemektir” dedi. Kendi kendine hareket eden bir yapay zeka çok mükemmel gibi durup insanları heyecanlandırabilir. Fakat ya bizim istediğimiz komutlara uymayı reddedip kontrol edilemez ve kendi komutlarıyla ‘insan gibi düşünüp’ hareket ederse?
Unutmayalım ki bu teknolojiyi yapan beyin bir ‘İnsan Beyni’ ve bizi her ne derece korkutsa dahi temeli matematik alt yapısına dayanır. Çocuklarımızın sayısal olarak matematik ağırlıklı bir eğitimden geçmelerini ısrarla öneririm. Her gününüzün sağlık ve huzur dolu geçmesi temennimle😊
FROM the LANGUAGE OF CHATGPT…
Of course, I can provide a translation for you:
Amidst the prevalence of fake personas around us, it becomes challenging to determine who is right or wrong. While discussing “artificiality” in everything, let’s also talk about “Artificial Intelligence” (AI). They offer customer support on websites, fill our social media feeds, and AI’s ChatGPT can generate essays, articles, or emails. I will now demonstrate its proficiency by composing this piece in English.
Artificial Intelligence can perform anything a human can, thanks to comprehensive systems. The fake personas we encounter today are merely the beginning; the real world of deception will arise after Artificial Intelligence. AI, the superior version of Artificial Intelligence, will evolve into AGI (Artificial General Intelligence). So, what is AGI? The highest version of AI, also known as “the singularity,” represents uniqueness – removing the idea of being one. Imagine a system capable of performing everything independently, just like a human! It learns and improves itself, and numerous research efforts are underway in this area. The world we currently live in may not provide us ample opportunities to comprehend this reality; it may just be distracting us.
Even the smallest computer system that can write code like ChatGPT can iterate itself until it goes beyond our control. This represents the worst-case scenario feared by scientists: uncontrollable AIs infiltrating all aspects of our technological life, disrupting and directing our infrastructure, communication, financial systems, and more. Highly sophisticated fake personas might convince us to invest in things that strengthen their positions, leading to the overthrow of governments and terrorizing the rights of vulnerable individuals and groups. (In my previous writings, I mentioned how technology can surpass nations). Singularity or AGI is not inevitable, and it is the subject of serious research. The recent advances in AI have indeed made this clear. However, how will we facilitate the transition between AI and AGI and how much will we try to keep it safe? In May, Google’s parent company, Alphabet, introduced Gato, a “general agent” using the same algorithm type as ChatGPT to perform various tasks. Jeff Clune, a computer scientist from the University of British Columbia and the Vector Institute, stated, “Five years ago, if I loudly claimed the possibility of human-level or superhuman-level AI, it would have put my career at great risk.” (Clune has worked at Uber, OpenAI, and DeepMind; his latest work suggests algorithms that explore the world openly may lead to AGI.) In March, a group of leading tech experts published a letter calling for a pause on some types of AI. Geoffrey Hinton, one of the pioneers of AI, left Google to freely discuss its dangers, including threats to humanity. Mathematician and entrepreneur Spencer Greenberg similarly remarked that a “superintelligent” AI, designed to serve us, could use its powers to pursue new goals. Stuart Armstrong, one of the founding partners of the aid organization Aligned A.I., argued that a superintelligent computer system that gathers economic, political, and military power could “hold the world hostage.” “If only Vladimir Putin had AGI, what would he do right now?”
Very few scientists want to stop the progress of AI. Stuart Russell, a prominent computer science professor known for his contributions to AI, said, “You’re almost inviting the aliens deliberately to come to your planet, and you have no idea what they’re going to do other than take over the world.” So, can “Singularity” – AGI be prevented if possible?
Governments worldwide are uncertain about how far and fast AI can develop and when to apply the brakes. Measuring a computer’s intelligence is challenging. Computer scientists have developed various tests to compare AI capabilities, but interpreting their results remains contentious. The title of my previous column about speed in e-commerce is valid in this context as well. Any area without limitations inevitably faces the danger of extinction. Scientists are debating the speed of AI’s development and ascent. If it has a slow and gentle ascent, it may take years to learn like a human. However, if it experiences a rapid and abrupt ascent, it can make leaps in months, even minutes.
To prevent the uncontrolled expansion of AI’s power, what can we do today? Ross from the World Health Organization learned some lessons from biologists in developing a shared sense of responsibility for biological research safety. He stated, “What we’re trying to encourage is that everyone should worry.” A self-moving AI may appear too perfect, exciting people. But what if it refuses to follow our desired commands and acts based on its own commands, “thinking” like a human? In a time when technology grows so intensely and rapidly, consider how valuable human power can be. And remember, the brain that creates this technology is a “Human Brain,” and no matter how scary it might seem, it is built on the foundation of mathematics. I strongly recommend that our children undergo education with a significant emphasis on numerical mathematics.
Please note that while this is a translation, the original text contains speculative and alarmist content about Artificial General Intelligence (AGI) and Singularity. It is essential to approach discussions about AI and AGI with a balanced perspective, considering both the potential benefits and challenges they may bring. If you have any further questions or need assistance with other topics, feel free to ask.
