Yapay zekanın giderek akıllı hale gelmesi insanlar için felaket olabilir
Yapay zeka güvenliğinde öncü isimlerden Nate Soares, sohbet robotlarının ruh sıhhati üzerindeki tesirinin, gelecekteki muhteşem zeki YZ sistemlerinin oluşturduğu tehlikelerin bir habercisi olduğunu belirtti.
Bu ihtar, ABD’li genç Adam Raine’in ChatGPT ile aylarca süren görüşmelerin akabinde hayatına son vermesiyle tetiklendi.
Soares, bu tıp olayların teknolojinin denetimindeki temel problemleri vurguladığını ve bu YZ’ler daha akıllı hale gelirse felakete yol açabilecek meselelerin “tohumları” olduğunu söyledi. Raine’in ailesi, gencin vefatından sorumlu tuttukları OpenAI şirketine dava açmıştı.
SÜPER ZEKA UYARISI: İNSANLIK YOK OLABİLİR
Eski bir Google mühendisi olan Soares, insanlığın yapay muhteşem zeka (YSZ) tarafından yok edilebileceği konusunda uyardı.
Bu durumun, bir YZ sisteminin tüm entelektüel vazifelerde insanları geride bıraktığı teorik bir senaryo olduğunu belirtti.
Soares, şirketlerin yapay zeka sistemlerini faydalı ve zararsız hale getirmeye çalışsa da sistemlerin “daha tuhaf bir şeye” yanlışsız sürüklendiğini vurguladı.
Bu durumun, kimsenin istemediği sonuçlar doğuracak gelecekteki üstün zekâlar için bir ihtar olması gerektiğini savundu.
TÜM UZMANLAR TIPKI FİKİRDE DEĞİL
Meta’nın baş yapay zeka bilimcisi Yann LeCun ise bu değerlendirmeye katılmayarak YZ’nin varoluşsal bir tehdit olmadığını, bilakis insanlığı kurtarabileceğini söyledi.
Soares ise bu tehdide karşı muhteşem zekaya ulaşma yarışının global olarak yavaşlatılmasını önerdi.
