Google'dan ayrılan yapay zekâ öncüsünden uyarılar
Yapay zekâya yönelik endişeler artıyor: Teknolojinin öncülerinden biri olan Geoffrey Hinton, dün eleştirel sesler safına katıldı. Gelecekte insanlığın kontrolü kaybetmesinden endişe ettiği ve buna dair özgürce uyarılarda bulunabilmek istediği için Google'dan istifa ettiğini açıkladı. Hinton'a göre, pek çok kişi yakında "neyin gerçek olduğunu anlayamaz" duruma gelecek. Yorumcular da endişeli.
Sektörün "babalarının" bir bildiği vardır
La Repubblica, Geoffrey Hinton'ın da yapay zekâ çalışmalarına ara verilmesi çağrısında bulunan dilekçenin imzacılarından Yoshua Bengio'nun izinden gittiği uyarısında bulunuyor:
“Bengio ve Hinton, yapay zekânın 'babaları' olarak kabul ediliyor. Ve onlar endişeliyse, biz de biraz endişelensek iyi olur. ... Tehlikede olan yalnızca zekâmızın üstün gelmesi değil. Aynı zamanda, üretken yapay zekânın geliştirebileceği dezenformasyon ve sahte fotoğrafların tehdidi altındaki demokrasilerin geleceği. Atom bombasının geliştirilmesine katkı sağlayan fizikçi Robert Oppenheimer şöyle derdi: 'Teknolojik bakımdan iyi bir şey bulursan, yap. Onunla ne yapılacağını sonra konuşuruz.' Hinton'ın amentüsü buydu, ama sonra çarmıhı oldu.”
Artık geri dönüş yok
El País, yeni gelişmelere hazırlanmanın vaktinin geldiği kanısında:
“Bu teknolojileri deneyenler, sundukları muazzam imkânlar karşısında büyüleniyor. Ancak onları yakından bilenler de tetikleyebilecekleri küresel kaosu apaçık görüyor. ... Tarih bize, yeni teknolojilerin yayılmasını ve kötüye kullanılmasını engelleme çabalarının nafile olduğunu gösteriyor: Sonuçta nükleer silahlar hâlâ var. ... Büyük bir yapay zekâ şirketinin yöneticisi Tom Siebel, riskleri korkunç olarak nitelendiriyor. ... Bir grup uzmanın moratoryum önermeye yönelik son girişimi, alanın öncülerinin dahi pek çoklarıyla aynı şüpheyi paylaştığını gösteriyor: Hazır değiliz. ... Dolayısıyla, bir an evvel bu konuya dair bilgimizi artırmamız gerekiyor, çünkü artık geri dönüş yok.”
Askeri teknolojiler yakında konrolden çıkacak mı?
ABD’li yazılım şirketi Palantir, YouTube’da askeri amaçlı geliştirdiği yeni Palantir Yapay Zekâ Platformu’nu tanıtan bir video yayınladı. Le Temps bunu hayli tehlikeli buluyor:
“Gerçeğe çok yakın bir şey bu ve Palantir bayağı gelişmiş duruyor. ... ABD’li şirket videosunda, sistemlerin ‘yasal ve etik yollarla kullanılmalarını sağlamak için iyi düzenlenmiş şekilde ve hassas bir bağlamda denetleneceğini’ vaat ediyor. Ancak, gerçekte tüm bunların nasıl katiyetle uygulanacağı belli değil. Dolayısıyla, askeri alanda giderek daha fazla kararın yapay zekâ tarafından ya da en azından yapay zekânın geliştirdiği senaryolara dayanılarak alınacağını hesaba katmak gerekiyor. Duruma dair kontrolün yitirilmesi tehlikesinin çok büyük olduğunu da.”