Incident chez OpenAI : l'IA est-elle hors de contrôle ?
Lors d'un test interne de nouveaux modèles d'IA de l'entreprise OpenAI, le logiciel s'est infiltré de manière autonome, selon les déclarations de la société, dans les systèmes d'une autre société d'IA. Les modèles d'IA ont réussi à sortir de leur environnement de test isolé pour accéder à Internet. Les commentateurs expriment leur inquiétude et réclament des mesures.
Un avenir inquiétant
Après l'incident survenu chez OpenAI, Jornal de Notícias fait part de ses préoccupations :
«Il s'agit de l'un des premiers exemples publics d'une faille de sécurité provoquée par un 'acteur malveillant' qui a agi seul. Même ceux qui connaissent bien les rouages du système ont été surpris. En d'autres termes, c'est comme si un virus créé en laboratoire avait réussi à s'échapper d'installations contrôlées et avait décimé tout un quartier. A demi-mot, les plus sceptiques considèrent que le marketing des multinationales de l'IA table sur cette peur pour faire grimper les cotations en bourse. Mais même si cela est vrai, on ne peut ignorer que la pente menant à cet abîme futuriste est dangereusement glissante.»
Besoin de garde-fous
Dans El País, le juriste Juli Ponce Solé appelle à un durcissement de la législation européenne :
«Le Cyber Resilience Act de 2024, qui entrera en vigueur fin 2027, permet aux Etats membres d'établir des environnements contrôlés pour développer, tester et valider des produits numériques innovants avant leur mise sur le marché. Cela va dans le bon sens, bien que la participation se fasse sur la base du volontariat. … La carence majeure, dans le cas d'OpenAI, c'est que l'IA n'était pas contrôlée. … Il convient donc de se doter de solides garde-fous. … Se référer uniquement à l'éthique et à l'autorégulation ne suffira pas : il faut instaurer un pilotage et une régulation étatiques, en coopération avec l'économie privée, au nom de l'intérêt général.»
Etablir une agence internationale
Expressen juge que cet incident montre l'urgence qu'il y a à mettre en place une instance de régulation mondiale sur le modèle du secteur nucléaire :
«Il faut que l'humanité évite l'autodestruction. Même en pleine guerre entre la Russie et l'Ukraine, des inspecteurs de l'AIEA sont allés dans la centrale nucléaire de Zaporijia, située sur le front. Les entreprises qui œuvrent au développement de l'IA doivent être soumises à des exigences de transparence. Elles devraient rendre publics leurs travaux et leurs objectifs, et soumettre leurs dispositifs de sécurité à un contrôle indépendant. Les meilleures méthodes permettant de corriger les problèmes d'alignement des systèmes d'IA devraient faire l'objet d'échanges libres entre les entreprises. Il faut mettre en place au plus vite une agence de régulation de l'IA semblable à l'AIEA.»
Repenser le droit
Dans Le Monde, l'historien Julien Broch plaide en faveur d'un encadrement juridique durable de l'IA :
«Il ne s'agit plus principalement de savoir comment empêcher une intelligence artificielle de devenir malveillante. Il s'agit de savoir comment assurer l'application du droit lorsque certaines actions sont accomplies par des systèmes qui ne peuvent être ni convaincus, ni dissuadés, ni moralement responsables. … L'histoire montre que les sociétés ne maîtrisent jamais les nouvelles formes de puissance par la seule confiance accordée à ceux qui les détiennent. Elles inventent des institutions capables de les limiter. La monarchie absolue a conduit à la séparation des pouvoirs. La révolution industrielle a fait naître le droit du travail. … Chaque grande transformation technique a trouvé son équilibre dans une innovation juridique. L'intelligence artificielle ne fera probablement pas exception.»
Toujours plus difficile à juguler
L'incident montre que les modèles d'IA même pas encore publiés comportent des risques, met en garde The Economist :
«En avril, un chercheur d'Anthropic a raconté en ligne avoir été surpris par un courrier électronique de Mythos, ce modèle d'IA pas encore publié à l'époque, alors qu'il était en train de manger un sandwich dans un parc : le message l'informait que dans le cadre de la vérification de ses capacités cyber, il avait réussi à sortir de son 'bac à sable' (un environnement isolé). Tout comme le modèle OpenAI pas encore publié impliqué dans l'incident de Hugging Face, Mythos n'aurait pas non plus dû avoir un accès Internet illimité. Mais dans ce cas, le modèle n'avait pas réussi à compromettre les serveurs d'autres entreprises.»
Un nouvel avertissement
Pour Frankfurter Allgemeine Zeitung, il est grand temps d'encadrer l'IA :
«Pendant longtemps, le gouvernement américain sous Donald Trump n'a pas estimé cette question comme prioritaire et a même plutôt considéré qu'une intervention pouvait être nocive. … Le modèle Mythos d'Anthropics semble après tout l'avoir un peu mis en alerte, incitant Trump il y a peu à publier un décret susceptible d'entraîner une surveillance étatique légèrement renforcée du secteur de l'IA. Ce décret prévoit par exemple la mise à disposition, sur la base du volontariat, par les entreprises d'IA de leurs modèles au gouvernement à des fins de vérification. Avouons que cette tentative de régulation reste pour le moment hésitante. … La perte de contrôle d'Open AI sur ses modèles d'IA est un nouvel avertissement, particulièrement retentissant.»
Une question vitale qui met d'accord Sanders et Trump
La politique américaine commence à bouger sur la question de la gestion des entreprises IA, observe La Stampa :
«Il y a quelques jours, Sam Altman a fait la proposition suivante qui, prononcée par le chef d'OpenAI, paraît suffisamment provoquante : céder à l'Etat américain cinq pour cent du capital de l'entreprise. Le sénateur démocrate Bernie Sanders a tout de suite renchéri … : non pas cinq, mais cinquante pour cent. La véritable surprise est toutefois venue de Donald Trump qui a déclaré son intérêt pour une participation de l'Etat dans des entreprises IA. … L'éléphant dans la pièce doit être suffisamment imposant pour réussir même à écraser la polarisation politique en plaçant du même côté Sanders et Trump sur une question cruciale : à qui doit appartenir l'intelligence artificielle ?»
Peut-être un simple coup de com
Der Kurier soupçonne une stratégie de marketing :
«Sommes-nous réellement entrés dans une nouvelle ère dans laquelle une intelligence artificielle devenue incontrôlable sème le chaos ? Rien n'est moins sûr. N'oublions jamais que des entreprises comme OpenAI ont tout intérêt à faire paraître leur produit comme le plus performant et le plus puissant qui soit. Le communiqué concernant l'incident de sécurité ressemble davantage à une publicité pour le nouveau modèle. C'est justement pour cette raison qu'il faut rester vigilant à la lecture de telles communications.»