OpenAI vakası: Yapay zekâ şimdiden kontrolden çıktı mı?
Geçtiğimiz hafta OpenAI’ın yeni yapay zekâ modellerine yönelik kurum içinde gerçekleştirilen bir test esnasında yazılım, şirketin açıklamasına göre kendi başına başka bir yapay zekâ şirketinin sistemlerine sızmıştı. Yapay zekâ modellerinin izole test ortamından kaçarak internete erişim sağlamayı başardığı belirtilmişti. Yorumcular yaşananları endişeyle takip ediyor ve bunun sonuçları olmasını istiyor.
Geleceğe doğru tehlikeli bir yol
Jornal de Notícias, OpenAI’da yaşananların ardından endişelerini dile getiriyor:
“Kendi başına hareket eden bir ‘kötü niyetli aktör’ tarafından yaratılan ve kamuoyuna yansıyan ilk güvenlik açığı örneklerinden biri bu. Sistemlere son derece hâkim olanları bile şaşırtan bir gelişme. Bu durum laboratuvarda üretilen bir virüsün kontrollü tesislerden kaçıp koca bir mahalleyi yok etmesine benziyor. Şüpheciler, çok uluslu yapay zekâ şirketlerinin pazarlama stratejilerinin de borsada değer kazanmak için korkuyu kullandığını fısıldıyorlar. Fakat bu doğru olsa dahi, fütüristik uçuruma doğru giden yolun tehlikeli derecede kaygan olduğunu inkâr edemeyiz.”
Yapay zekâ için sağlam kafesler şart koşulsun
Hukukçu Juli Ponce Solé, El País’te Avrupa’daki mevzuatın katılaştırılmasını istiyor:
“2027 sonu itibarıyla uygulamaya girecek olan 2024 tarihli Siber Dayanıklılık Yasası, üye devletlerin piyasaya sürülmeden önce yenilikçi ve dijital ürünleri geliştirmek, test etmek ve doğrulamak için kontrollü ortamlar tesis etmesine olanak tanıyor. Katılım gönüllü olsa da doğru yönde atılmış bir adım bu. ... OpenAI vakasındaki kritik ihmallerden biri, yapay zekânın kontrol edilmemesiydi. ... Dolayısıyla, sağlam kafesler inşa etmeliyiz. ... Bu da etik ve öz denetimden fazlasını gerektiriyor: Kamu çıkarı doğrultusunda devletin -özel sektörle işbirliği içinde- düzenlemesine ve yönlendirmesine ihtiyaç var.”
Uluslararası bir denetim organı kurulmalı
Vakanın acilen uluslararası bir denetim organına ihtiyaç duyulduğunu gösterdiğini belirten Expressen, nükleer enerjiyle karşılaştırma yapıyor:
“İnsanlığın kendi kendini yok etmemesi herkesin çıkarına. Rusya ile Ukrayna arasındaki savaş sırasında bile IAEA [Uluslararası Atom Enerjisi Kurumu] müfettişleri, doğrudan cephe hattında bulunan Zaporijya Nükleer Santrali’nde görev yapıyor. Yapay zekâ geliştiren şirketler için şeffaflık zorunlulukları uygulanmalı. Ne yaptıklarını ve neden yaptıklarını açıklamalı, güvenlik tedbirlerini bağımsız bir denetime tabi tutmalı. Hataları gidermek için en iyi yöntemler şirketler arasında serbestçe paylaşılmalı. ‘Yapay Zekâ IAEA’sı’ bir an önce kurulmalı.”
Hukuk düzeni yeniden ele alınmalı
Tarihçi Julien Broch, Le Monde'da yapay zekânın hukuk düzenine etkili bir şekilde entegre edilmesi gerektiğini savunuyor:
“Artık mesele sadece yapay zekânın kötü niyetli hale gelmesini önlemek değil, sistemler ahlaki açıdan sorumlu tutulamayacakları eylemlerde bulunduğunda hukukun işlemesini sağlamak. … Tarih, toplumların yeni iktidar biçimlerini asla salt güvene dayanarak kontrol altına alamadıklarını gösterir. Toplumlar, iktidarı sınırlayan kurumlar meydana getirirler: Mutlakiyetçiliğin ardından kuvvetler ayrılığı geldi. Sanayi Devrimi, iş hukukunu ortaya çıkardı. … Her büyük teknolojik dönüşüm, hukuki yenilikler sayesinde dengesini bulmuştur. Muhtemelen yapay zekâ da bir istisna olmayacaktır.”
Kontrol altında tutmak giderek zorlaşıyor
The Economist, bu vakanın henüz yayınlanmamış yapay zekâ modellerinin dahi ne tür riskler taşıdığını gösterdiğine dikkat çekiyor:
“Nisan ayında Anthropic’ten bir araştırmacı, parkta oturup sandviç yerken, o sırada henüz yayınlanmamış yapay zekâ modeli Mythos’tan gelen bir e-postayla şaşkına döndüğünü anlattı: E-postada, modelin siber yeteneklerinin test edilmesi kapsamında ‘sandbox’tan, yani izole bir test ortamından başarıyla çıktığı belirtiliyordu. Hugging Face olayına karışan ve o dönemde henüz yayınlanmamış olan OpenAI modelinde olduğu gibi, Mythos’un da internete sınırsız erişiminin bulunmaması gerekiyordu. Ancak o olaydan farklı olarak model, başka şirketlere ait sunucuları ele geçirmedi.”
Bir uyarı atışı daha
Frankfurter Allgemeine Zeitung’a göre artık yapay zekâya düzenleme getirmenin vakti geldi:
“Donald Trump yönetimindeki ABD hükümeti bunu uzun zamanlar önemli görmemiş, hatta daha ziyade zararlı bulmuştu. ... Anthropic’in Mythos modeli onları en azından biraz olsun alarma geçirmiş görünüyor ve Trump da kısa süre önce, devletin yapay zekâ sektöründeki denetimini biraz daha artıracak bir kararname yayınladı. Bu yolla örneğin, yapay zekâ şirketlerinin modellerini gönüllülük esasına göre incelenmek üzere hükümete sunmaları öngörülüyor. Ancak bu hâlâ hayli gönülsüz bir düzenleme girişimi. ... Open AI’ın yapay zekâ modelleri üzerindeki kontrolünü kaybetmesi ise şimdi yeni ve özellikle de yüksek sesli bir uyarı atışı oldu.”
Kader meselesi Sanders ile Trump’ı bile birleştirdi
La Stampa, yapay zekâya yaklaşım konusunda ABD siyasetine bir hareketlilik geldiğini gözlemliyor:
“Birkaç gün evvel Sam Altman -OpenAI CEO’sunun ağzından çıktığı düşünülünce- kulağa hayli provokatif gelen bir öneride bulundu: Şirketinin sermayesinin yüzde 5’ini Amerikan devletine bırakmak. Demokrat Senatör Bernie Sanders hemen çıtayı yükseltti: ... Yüzde 5 değil, yüzde 50 olsun. Ancak asıl sürpriz, devletin yapay zekâ şirketlerine iştiraki fikriyle ‘çok ilgilendiğini’ söyleyen Donald Trump’tan geldi. ... Sanders ve Trump’ı aynı safta buluşturduğuna göre, odadaki fil siyasi kutuplaşmayı dahi ezip geçecek kadar büyük gibi: Yapay zekâ kime ait olmalı?”
Bir halkla ilişkiler hamlesinden ibaret olabilir
Kurier, bunun arkasında bir pazarlama stratejisi yattığından şüpheleniyor:
“Rayından çıkmış yapay zekânın kaosa yol açtığı yeni bir çağa mı girdik yani? Pek de sayılmaz. Dolayısıyla şunu her zaman akılda tutmak gerek: OpenAI gibi şirketler, ürünlerinin olabildiğince yetenekli ve güçlü görünmesini sağlamaktan besleniyorlar. Güvenlik vakasına dair söylenenler, kulağa yeni modelin reklam metni gibi geliyor. İşte tam da bu yüzden, bu tür duyurulara her zaman temkinli yaklaşmak lazım.”