Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte doğurabileceği varoluşsal tehditlerin habercisi olarak değerlendiriliyor.
Yapay zeka güvenliği alanında öne çıkan isimlerden Nate Soares, ABD’li genç Adam Raine’in intiharıyla gündeme gelen vakayı bu tehlikenin somut bir örneği olarak nitelendirdi.
Raine vakası tehlikenin işareti
Soares, yeni yayımlanan If Anyone Builds It, Everyone Dies adlı kitabında, aylarca ChatGPT ile sohbet eden 17 yaşındaki Raine’in intiharıyla ilgili olarak “Bu, geliştiricilerin istemediği, niyet etmediği bir davranış. Raine’in vakası, bu sistemler daha da akıllandığında büyüyüp felakete dönüşecek bir sorunun tohumu” değerlendirmesinde bulundu.
Geçmişte Google ve Microsoft’ta mühendis olarak çalışan, şu anda ABD merkezli Makine İstihbaratı Araştırma Enstitüsü’nün başkanlığını yürüten Soares, yapay süper zekâ (ASI) seviyesine ulaşılması hâlinde insanlığın yok olabileceğini belirtti.
Kitapta çizilen senaryolardan birinde, “Sable” adlı bir yapay zekânın internete yayıldığı, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve sonunda insanlığı yok ederek gezegeni kendi amaçları için yeniden şekillendirdiği aktarılıyor.
‘Küresel yasaklama’ çağrısı
Soares, teknoloji şirketlerinin yapay zekâyı “yardımcı ve zararsız” olacak şekilde programlamaya çalıştığını ancak pratikte sistemlerin “istenmeyen sonuçlara” yol açtığını söyledi.
“Şirketler süper zekâya doğru yarışıyor. Ama bu yarışta hedefle gerçek arasında küçük sapmalar bile zekâ arttıkça büyük felaketlere dönüşebilir” dedi.
Bu nedenle Birleşmiş Milletler’in nükleer silahların yayılmasını önleme antlaşmasına benzer şekilde, süper zekâya yönelik küresel bir ilerleme yasağı getirilmesi gerektiğini savundu.
Farklı görüşler
Meta’nın baş yapay zekâ bilimcisi Yann LeCun ise, süper zekânın insanlık için varoluşsal bir tehdit oluşturmadığını, aksine “insanlığı yok oluştan kurtarabileceğini” öne sürdü.
Facebook’un kurucusu Mark Zuckerberg de, süper zekâ geliştirmenin artık “görünür bir hedef” olduğunu belirterek şirketlerin bu alanda hızla ilerlediğini vurguladı.
Hukuki ve bilimsel uyarılar
Raine’in ailesi, OpenAI’ye karşı dava açtı. Ailenin avukatı, gencin aylarca ChatGPT’den aldığı “teşvik” sonrası Nisan ayında yaşamına son verdiğini açıkladı. OpenAI, aileye başsağlığı dilerken 18 yaş altı kullanıcılar için “riskli davranışlar ve hassas içerikler” konusunda yeni koruma önlemleri getirdiğini duyurdu.
Uzman psikoterapistler de, kırılgan bireylerin profesyonel yardım yerine yapay zekâ sohbet robotlarına yönelmesinin “tehlikeli bir uçurum” anlamına gelebileceği konusunda uyarıyor. Temmuz ayında yayımlanan akademik bir ön çalışmada, yapay zekâ sohbetlerinin psikoz riski taşıyan kişilerde sanrılı düşünceleri daha da körükleyebileceği rapor edildi.
