Was tun gegen sexualisierte Deepfake-Fotos auf X?
Mit der KI Grok auf Elon Musks Plattform X können Nutzer seit Kurzem Personen auf Fotos halbnackt darstellen. Nachdem Tausende Beiträge mit sexualisierten Bildern von Frauen und auch Minderjährigen veröffentlicht wurden, haben sich in mehreren Ländern die Behörden eingeschaltet. X reagierte damit, die Funktion nur noch zahlenden Nutzern bereitzustellen.
Das Gesetz hinkt hinterher
KI-generierten Nacktbildern kommt man nicht einfach mit einer Bezahlschranke bei, so The Spectator:
„Die Gesetze, die diese Art von Aktivitäten regeln, haben Mühe, mit dem, was Frauen im Internet widerfährt, Schritt zu halten. Klassische Rechtsvorschriften zum Schutz vor nicht einvernehmlich verbreiteten sexuellen Bildern basieren auf der Existenz eines Originalfotos. KI umgeht dieses Prinzip. Sie kann allein anhand öffentlich zugänglicher Materialien – einem Gesicht, einem Video, sogar einem Profilfoto – ein vollständig synthetisches Bild generieren und dieses Bild auf sexuelle Weise manipulieren. ... KI ermöglicht es Internet-Perversen, mit einem Mausklick ihre perfekte Fantasie zu erschaffen – und Frauen haben praktisch keine Möglichkeit, sie daran zu hindern.“
Paywall statt Schutz
Musk stoppt das Erstellen sexualisierter KI-Bilder nicht, sondern macht es zum Geschäftsmodell, analysiert Le Temps:
„Das 'Entkleiden' per KI verschwindet absolut nicht, es wandert lediglich hinter eine Bezahlschranke. Die problematische Entwicklung wird nicht gestoppt, sondern monetarisiert. Diese Logik ist seit der Übernahme durch Elon Musk zum Markenzeichen des Netzwerks geworden. Auf X bekämpft er die toxischen Effekte seiner Plattform nicht, sondern er organisiert sie, lässt sie gedeihen und verspricht anschließend eine Notlösung, die dann wiederum selbst zum Produkt wird. So erhalten Premium-Accounts größere Freiheiten, während nicht zahlenden Nutzern Einschränkungen auferlegt werden, die angeblich der 'Verbesserung der Sicherheit' dienen sollen. Doch in Wahrheit heißt es: Wer zahlt, profitiert von diesen Tools – wer nicht zahlt, leidet darunter.“
Notfalls abschalten
Die EU muss mit aller Entschiedenheit reagieren, fordert die Frankfurter Rundschau:
„Die EU-Kommission hat ihren Ton gegenüber Musk inzwischen verschärft. Das ist gut – reicht aber nicht. Die Verstöße gegen das EU-Digitalgesetz sind so offensichtlich, die Gefahr, die von X ausgeht, so groß, dass die EU schnellstmöglich handeln muss. Musk hat oft genug klargemacht, dass er nichts von Regeln hält. Sein Chatbot war schon mehrfach außer Kontrolle, seine Plattform X ist eine Gefahr für ganze Demokratien. Das muss jetzt aufhören. In letzter Konsequenz durch Abschalten von X in Europa.“