OpenAI vakası: Yapay zekâ şimdiden kontrolden çıktı mı?
OpenAI’ın yeni yapay zekâ modellerine yönelik kurum içinde gerçekleştirilen bir test esnasında yazılım, şirketin açıklamasına göre kendi başına başka bir yapay zekâ şirketinin sistemlerine sızdı. OpenAI, “eşi görülmemiş bir siber vaka” yaşandığını söyledi. Yapay zekâ modellerinin izole test ortamından kaçarak internete erişim sağlamayı başardığı belirtildi. Saldırıdan etkilenen şirket ise Hugging Face oldu.
Kontrol altında tutmak giderek zorlaşıyor
The Economist, bu vakanın henüz yayınlanmamış yapay zekâ modellerinin dahi ne tür riskler taşıdığını gösterdiğine dikkat çekiyor:
“Nisan ayında Anthropic’ten bir araştırmacı, parkta oturup sandviç yerken, o sırada henüz yayınlanmamış yapay zekâ modeli Mythos’tan gelen bir e-postayla şaşkına döndüğünü anlattı: E-postada, modelin siber yeteneklerinin test edilmesi kapsamında ‘sandbox’tan, yani izole bir test ortamından başarıyla çıktığı belirtiliyordu. Hugging Face olayına karışan ve o dönemde henüz yayınlanmamış olan OpenAI modelinde olduğu gibi, Mythos’un da internete sınırsız erişiminin bulunmaması gerekiyordu. Ancak o olaydan farklı olarak model, başka şirketlere ait sunucuları ele geçirmedi.”
Bir uyarı atışı daha
Frankfurter Allgemeine Zeitung’a göre artık yapay zekâya düzenleme getirmenin vakti geldi:
“Donald Trump yönetimindeki ABD hükümeti bunu uzun zamanlar önemli görmemiş, hatta daha ziyade zararlı bulmuştu. ... Anthropic’in Mythos modeli onları en azından biraz olsun alarma geçirmiş görünüyor ve Trump da kısa süre önce, devletin yapay zekâ sektöründeki denetimini biraz daha artıracak bir kararname yayınladı. Bu yolla örneğin, yapay zekâ şirketlerinin modellerini gönüllülük esasına göre incelenmek üzere hükümete sunmaları öngörülüyor. Ancak bu hâlâ hayli gönülsüz bir düzenleme girişimi. ... Open AI’ın yapay zekâ modelleri üzerindeki kontrolünü kaybetmesi ise şimdi yeni ve özellikle de yüksek sesli bir uyarı atışı oldu.”
Kader meselesi Sanders ile Trump’ı bile birleştirdi
La Stampa, yapay zekâya yaklaşım konusunda ABD siyasetine bir hareketlilik geldiğini gözlemliyor:
“Birkaç gün evvel Sam Altman -OpenAI CEO’sunun ağzından çıktığı düşünülünce- kulağa hayli provokatif gelen bir öneride bulundu: Şirketinin sermayesinin yüzde 5’ini Amerikan devletine bırakmak. Demokrat Senatör Bernie Sanders hemen çıtayı yükseltti: ... Yüzde 5 değil, yüzde 50 olsun. Ancak asıl sürpriz, devletin yapay zekâ şirketlerine iştiraki fikriyle ‘çok ilgilendiğini’ söyleyen Donald Trump’tan geldi. ... Sanders ve Trump’ı aynı safta buluşturduğuna göre, odadaki fil siyasi kutuplaşmayı dahi ezip geçecek kadar büyük gibi: Yapay zekâ kime ait olmalı?”
Bir halkla ilişkiler hamlesinden ibaret olabilir
Kurier, bunun arkasında bir pazarlama stratejisi yattığından şüpheleniyor:
“Rayından çıkmış yapay zekânın kaosa yol açtığı yeni bir çağa mı girdik yani? Pek de sayılmaz. Dolayısıyla şunu her zaman akılda tutmak gerek: OpenAI gibi şirketler, ürünlerinin olabildiğince yetenekli ve güçlü görünmesini sağlamaktan besleniyorlar. Güvenlik vakasına dair söylenenler, kulağa yeni modelin reklam metni gibi geliyor. İşte tam da bu yüzden, bu tür duyurulara her zaman temkinli yaklaşmak lazım.”