X'te yer alan cinsel içerikli deepfake fotoğraflarla nasıl mücadele edilebilir?
Elon Musk'ın X platformundaki yapay zekâ Grok ile kullanıcılar artık fotoğraflarda kişileri yarı çıplak hale getirebiliyor. Binlerce kadının ve reşit olmayan bireylerin cinsel içerikli fotoğraflarının yayınlanmasının ardından, birçok ülkede yetkililer olaya müdahale etti. X, duruma cevap olarak bu özelliği sadece ücretli kullanıcılara sunmaya başladı.
Yasalar yetişemiyor
The Spectator, yapay zekâ tarafından üretilen çıplak resimler, ödeme duvarlarıyla önlenemez, diyor:
“Bu tür faaliyetleri düzenleyen yasalar, kadınların internette maruz kaldıkları durumlara ayak uydurmakta zorlanıyor. Rıza dışı yayılan cinsel içerikli resimlere karşı koruma sağlayan klasik yasal düzenlemeler, orijinal fotoğrafın varlığına dayanıyor. Yapay zekâ bu ilkeyi atlatıyor. Yalnızca halka açık materyallerden -bir yüz, bir video, hatta bir profil fotoğrafı- tamamen sentetik bir görüntü oluşturabiliyor ve bu görüntüyü cinsel içerikli hale getirerek manipüle edebiliyor. ... Yapay zekâ, internet sapıklarının bir tıkla mükemmel fantezilerini yaratmalarını sağlıyor – ve kadınların bunu engelleme imkânı neredeyse hiç yok.”
Koruma yerine ödeme duvarı
Le Temps, cinsel içerikli hale getirilmiş yapay zekâ görüntülerinin oluşturulmasını engellemek yerine Musk'ın bunu bir iş modeline dönüştürdüğü analizini yapıyor:
“Yapay zekâ ile ‘soyma’ kesinlikle ortadan kalkmıyor, yalnızca ücretli bir hizmet haline geliyor. Sorunlu gelişme durdurulmuyor, aksine paraya dönüştürülüyor. Bu mantık, Elon Musk'ın devralmasından bu yana ağın marka simgesi haline geldi. X'te, platformunun zehirli etkilerini ortadan kaldırmak yerine, bunları düzenliyor, gelişmelerine müsaade ediyor ve ardından bir acil çözüm vaat ediyor, ki bu da yine bir ürün haline geliyor. Böylece, premium hesaplar daha fazla özgürlük elde ederken, ödeme yapmayan kullanıcılara, sözde 'güvenliği artırmak' amacıyla kısıtlamalar getiriliyor. Ancak gerçekte durum şu: Para ödeyenler bu araçlardan faydalanıyor, ödemeyenler ise mağdur oluyor.”
Gerekirse kapatın
Frankfurter Rundschau, AB'nin kararlılıkla tepki vermesi gerektiğini savunuyor:
“AB Komisyonu, Musk'a karşı tavrını sertleştirdi. Bu olumlu, ama yetmez. AB Dijital Hizmetler Yasası'nı ihlaller o kadar bariz, X'in yarattığı tehlike o kadar büyük ki, AB mümkün olan en kısa sürede harekete geçmeli. Musk, kurallara aldırış etmediğini defalarca açıkça belirtti. Sohbet botu birçok kez kontrolden çıktı, X platformu ise tüm demokrasiler için bir tehlike haline geldi. Bu duruma artık bir son verilmeli. Son çare olarak X Avrupa'da kapatılmalı.”