Que faire contre les images dénudées générées sur X ?
Via l'IA Grok, les utilisateurs de la plate-forme X peuvent depuis peu "déshabiller" des personnes à partir de photos. Après que des milliers d'images sexualisées de femmes et de mineurs ont été publiées, les autorités sont montées au créneau dans plusieurs pays. X s'est contenté de rendre cette fonctionnalité payante en réponse à la polémique.
Une législation à la traîne
Ce n'est pas en rendant la fonctionnalité payante qu'on viendra à bout des nus générés par IA, estime The Spectator :
«Les lois censées réguler cette pratique ne sont pas capables de répondre correctement aux atteintes faites aux femmes en ligne. Les dispositions légales classiques, visant à lutter contre la propagation non consentie d'images sexuelles, se basent sur l'existence d'une photo originale. Or l'IA contourne ce principe. Il lui suffit de disposer de contenus accessibles – un visage, une vidéo, voire une photo de profil –, pour générer une image entièrement de synthèse et à caractère pornographique. … L'IA permet aux pervers du Web de générer leurs fantasmes en un seul clic – et les femmes ne peuvent rien faire pour les en empêcher.»
La monétisation plutôt que la protection
Musk n'entend pas renoncer à la production d'images IA sexualisées, déplore Le Temps :
«La dérive n’est pas stoppée : elle est monétisée. Cette logique est devenue la marque de fabrique du réseau depuis son rachat par Elon Musk. Sur X, il ne corrige pas les effets toxiques de sa plateforme : il les organise, les laisse prospérer, puis promet une rustine. Et cette rustine devient un produit. Les comptes premium obtiennent ainsi davantage de latitude, quand les non payants se voient imposer des restrictions censées 'améliorer la sécurité'. Dans les faits, la modération devient à deux vitesses : ceux qui paient profitent de l’outil et de la possibilité d’augmenter leur audience, alors que ceux qui ne paient pas subissent.»
Suspendre X si nécessaire
L'UE doit réagir avec la dernière rigueur, fait valoir Frankfurter Rundschau :
«La Commission européenne a haussé le ton face à Musk. C'est une bonne chose, mais cela ne suffit pas. Les atteintes à la réglementation numérique européenne sont si manifestes, le danger que représente X est si important que l'UE est tenue d'agir au plus vite. Musk a clairement fait savoir, plusieurs fois déjà, qu'il n'avait que faire des règles. Son robot conversationnel a déjà dérapé à maintes reprises, sa plate-forme X est un péril pour toutes les démocraties. Cela doit cesser. En dernier recours, en décrétant la suspension de X en Europe.»