Yapay zekâda hız kesmeye ihtiyaç var mı?
ABD’nin önde gelen teknoloji girişimcileri, yapay zekânın gelişiminin frenlenmesinden yana olduklarını açıkladılar. Anthropic CEO’su Dario Amodei, bir blog yazısında sektörün risk önleme çalışmalarına yetişebilmesi için daha fazla zamana ihtiyacı olduğunu belirtti. Aksi takdirde yapay zekâ altı ila on iki ay içinde kontrolden çıkabilirmiş. Amodei’ye Elon Musk, Open-AI CEO’su Sam Altman ve Google’dan destek geldi.
Uluslararası denetim gerek
Der Standard, düzenleme için zamanın daraldığını vurguluyor:
“Tanınmış araştırmacılar ve bizzat mühendisler, makinelerin insanları öldürebilme ihtimalini hayli muhtemel görüyor. ... Buna rağmen başta ABD’dekiler olmak üzere siyasetçiler, süper zekâ yarışının sürüp gitmesine izin veriyor. Başkan Donald Trump ... borsa kurlarını tehlikeye atmak istemiyor. Hele de Çin’e karşı yürütülen yapay zekâ yarışını kaybetmeyi hiç istemiyor. Bunlar, teknolojiyi güvenceye alabilmeleri için araştırmacılara daha fazla zaman tanımak adına yapay zekâya düzenleme getirmemek için geçerli nedenler değil. Ancak bunun için uluslararası bir koalisyona ihtiyaç var. AB ile Büyük Britanya, Kanada ve Japonya gibi ülkelerin ellerinde, ABD ve Çin üzerindeki baskıyı daha da artıracak kozlar var. Bir yandan da yapay zekânın küresel çapta yönetimi ve denetimi, daha tutarlı bir şekilde BM düzeyine taşınmalı. ... Yarın değil, bugün.”
Büyük teknoloji şirketlerinin şüpheleri inandırıcı değil
Teknoloji gazetecisi Federico Ferrazza, La Repubblica’da kimsenin bir şeyleri gerçekten değiştirmek istemediğini yazıyor:
“Bu apokaliptik yapay zekâ tasvirinin tuhaf bir yanı var. O da şu ki, sorunun müsebbibi olan ve bir yandan bize kendi teknolojilerinin insanlığın sonunu getirebileceğini hatırlatanlar, şimdi de kalkıp bu sorunu çözmek istiyorlar: ‘Bize güvenmek hataydı, ama şimdi yine de güvenin.’ ... Ancak büyük teknoloji şirketlerinin yanıtlamadığı en basit soru şu: Madem yapay zekâ insanlık için bu kadar tehlikeli, o halde aylardır konuşup uyarı mektupları yazmak yerine neden durmuyorsunuz? ... Çünkü istemiyorlar. Sürekli piyasaya giderek daha güçlenen modellerin sürülmesi de bunun kanıtı.”
Gelişmeler nükleer silahlanma yarışını akla getiriyor
Siyaset bilimci Astrid Barrio, El Periódico de Catalunya’da bazı paralellikler kuruyor:
“Bu çağrının, şu anda neyin geliştirildiğini tam olarak bilenlerin gerçek endişesine dayanması pekâlâ mantıklı. Ancak yavaşlama isteğinin ekonomik çıkarlara da hizmet edip etmediğini sorgulamak da bir o kadar meşru. ... Nükleer alandaki deneyimler, kontrol mekanizmaları bulunmayan bir rekabetin nasıl karşılıklı yok olma tehlikesi doğuran bir duruma evrilebileceğini gösterdi. Yapay zekâda da aktörlerin geride kalma korkusuyla giderek daha büyük riskler aldığı, birbirini tetikleyen bir yıkım dinamiği ortaya çıkabilir. Buna verilecek yanıt inovasyonu durdurmak değil, aksine bağımsız denetim mekanizmalarıyla bağlantılı uluslararası kurallar koymak olmalı.”
Kontrol yanılsamaya dönüşüyor
The Guardian, yapay zekâ kullanımının özellikle askeri alanda riskler barındırdığı uyarısında bulunuyor:
“Yapay zekâ destekli savaş anlayışını savunanlar, örneğin balistik füzelerin fırlatılması gibi durumlarda son söz insanda olduğu için karar alma sürecine bir insanın bulunmasının güvence sağladığını iddia ediyor. Ancak bu, makinenin operatörüne duruma dair gerçeğe uygun bir tablo sunduğu varsayımına dayanıyor. Strategic Foresight Group’un yılın başında yayınladığı bir rapor, güçlü bir yapay zekâ ajanının bir saldırı gerçekleşiyormuş gibi göstererek, çelişkili kanıtları gizleyerek ya da insana onay vermekten başka bir şey yapamayacağı kadar az zaman bırakarak kendisini ‘yöneten’ insanı kandırabileceği konusunda uyarıyor. ... Yapay zekâ insanların kararlarını dayandırdığı bilgileri kontrol ediyorsa, insan denetimi hiçbir koruma sağlamaz. ”
Biraz da sağduyulu düşünmeli
L’Humanité'ye göre pek çok sorunda öncelikle insan mantığının devreye girmesi gerekir:
“Diyelim ki yapay zekâya iklim değişikliğiyle mücadele görevi verildi. Bunun büyük ölçüde insanlığın sorumluluğunda olduğunu anlamak için bir süper bilgisayara gerek yok. Güzel. Peki ama tüm insanlığın mı? Günde iki kilo karbondioksit salan en yoksul yüzde 50 mi, yoksa 800 kilo salan yüzde 0,1 mi? Paris İklim Anlaşması’nın 2030’a kadar sıcaklık artışını 1,5 santigrat derece ile sınırlama hedefine ulaşılabilmesi için, en güncel tahminlere göre süper zenginlerin emisyonlarını yüzde 99 oranında azaltması şart. Bilgisayarlara toplumsal adaleti işaret etmeden bile öncelikleri belirlerken asgari düzeyde bir mantık, herkesi yok etmeden önce eşitsizlikleri azaltmayı gerektirir.”