Teknoloji patronları neden kendi yapay zekâlarına karşı uyarıyor?
OpenAI CEO’su Sam Altman ile yapay zekâ şirketi Anthropic’in CEO’su Dario Amodei, New York’ta BM Güvenlik Konseyi’ne hitap ederek yapay zekânın denetimsiz gelişiminin yaratabileceği tehlikelere karşı bir kez daha uyarıda bulundu. İki CEO, yapay zekânın olası risklerini sınırlamak için küresel denetim mekanizmaları oluşturulmasını talep etti. Avrupa basını ise endişeli.
Henüz çok geç değil
Der Spiegel, iki yapay zekâ girişimcisi Altman ve Amodei’nin BM Güvenlik Konseyi’ndeki çıkışlarını eleştiriyor:
“Bu, sanki is içinde kalmış kundakçıların yanan bir evden sendeleyerek çıkıp, isteksizce olay yerine gelen itfaiyeye şimdi hangi yangın tedbirlerine dikkat edilmesi gerektiğini ve evde bir yangın söndürücü için nerede yerleri olduğunu anlatmasına benziyor. Bu şekilde hiçbir yurttaş kendini güvende hissedemez. ... [Siyaset] yapay zekâ karmaşasında en azından kısmen suçlu ve bugüne kadar sektöre çok az sınır koydu. Bu boşluğun artık hızla kapatılması gerekiyor. Ne yazık ki yapay zekâ yangınını söndürmek isteyen kararlı bir siyasi müdahale ekibi henüz ortada görünmüyor. Ama yine de henüz çok geç değil.”
Nükleer felaket tetiklenebilir
Tages-Anzeiger korkunç bir senaryo çiziyor:
“Bir yapay zekâ ajanının kendi başına hareket ederek bir süper gücün nükleer silahlarının fırlatma kodlarını ele geçirdiğini düşünün. Dakikalar içinde milyonlarca insanı öldürebilecek savaş başlıklarıyla donatılmış düzinelerce füze havalanıyor. ... Onları vuracak füzelerin devreye girmesi için artık çok geç, bu yüzden de ister hükümet ister hükümetin tam da bu senaryo için programladığı bir yapay zekâ gerçekleştirsin, karşı saldırı tetikleniyor. ... Ne yazık ki karşılıklı otomatik yıkım hiç de gerçek dışı değil: OpenAI’a ait programların kendi başlarına hareket ederek bir şirkete sızmasından bu yana, yapay zekânın tetiklediği bir nükleer savaş senaryosu artık ihtimal dahilinde görünüyor.”
Kümeste bir yer
Veri bilimci ve Yeşiller Partili siyasetçi Svajūnas Plungė, IQ’da yapay zekâ algısının bu yaz yaşanan gelişmelerle birlikte temelden değiştiğine dikkat çekiyor:
“İnsan, bırakın tüm insanlığın zekâsının toplamını binlerce kez aşan bir akılı - şimdiye kadar kendi zekâsına denk herhangi bir şeyle karşılaşmamıştı. Bir başka nokta daha var: Hayati sistemlerimizin tüm anahtarlarına sahip olabilecek (ya da bunları ele geçirebilecek) bir süper zekânın bulunduğu bir dünyada daha önce hiç yaşamadık: bankalar, elektrik, su, gıda lojistiği, tıp, silahlar ve savaş yönetimi. Bugün her şey dijital sistemler tarafından kontrol ediliyor. Dolayısıyla kulağa ne kadar ironik gelse de, şu anda tanrısal yeteneklere sahip bir varlık yaratıyor ve bunu fark etmeden kendimize 'kümesin' içinde bir yer ayırıyoruz.”
Tehlikeli olan makineler değil insanlar
Teknoloji gazetecisi Sylwia Czubkowska, Tygodnik Powszechny’de şöyle yazıyor:
“Tüm bunlar, bu teknolojiyi bizzat planlayan, programlayan ve satan insanlar eliyle yaratıldı ve yaratılmaya devam ediyor. Herhangi bir otonom yapay zekâ tarafından değil. Bizi asıl endişelendirmesi gereken, teknolojinin kendisinden ziyade ondan para kazanmaya ve güç elde etmeye çalışan insanlar ve şirketler. Bu vahşi haliyle yapay zekâyı durdurmak istiyorsak, işe teknolojik gücün yoğunlaşmasının arkasındaki mekanizmaları anlamakla başlamalıyız.”