L'incident chez OpenAI : l'IA est-elle hors de contrôle ?
Lors d'un test interne de nouveaux modèles d'IA de l'entreprise OpenAI, le logiciel s'est infiltré de manière autonome, selon les déclarations de la société, dans les systèmes d'une autre société d'IA. OpenAI qualifie ce piratage de "cyberincident sans précédent". Selon elle, les modèles d'IA ont réussi à sortir de leur environnement de test isolé pour accéder à Internet. La victime de l'attaque est la société Hugging Face.
Toujours plus difficile à juguler
L'incident montre que les modèles d'IA même pas encore publiés comportent des risques, met en garde The Economist :
«En avril, un chercheur d'Anthropic a raconté en ligne avoir été surpris par un courrier électronique de Mythos, ce modèle d'IA pas encore publié à l'époque, alors qu'il était en train de manger un sandwich dans un parc : le message l'informait que dans le cadre de la vérification de ses capacités cyber, il avait réussi à sortir de son 'bac à sable' (un environnement isolé). Tout comme le modèle OpenAI pas encore publié impliqué dans l'incident de Hugging Face, Mythos n'aurait pas non plus dû avoir un accès Internet illimité. Mais dans ce cas, le modèle n'avait pas réussi à compromettre les serveurs d'autres entreprises.»
Un nouvel avertissement
Pour Frankfurter Allgemeine Zeitung, il est grand temps d'encadrer l'IA :
«Pendant longtemps, le gouvernement américain sous Donald Trump n'a pas estimé cette question comme prioritaire et a même plutôt considéré qu'une intervention pouvait être nocive. … Le modèle Mythos d'Anthropics semble après tout l'avoir un peu mis en alerte, incitant Trump il y a peu à publier un décret susceptible d'entraîner une surveillance étatique légèrement renforcée du secteur de l'IA. Ce décret prévoit par exemple la mise à disposition, sur la base du volontariat, par les entreprises d'IA de leurs modèles au gouvernement à des fins de vérification. Avouons que cette tentative de régulation reste pour le moment hésitante. … La perte de contrôle d'Open AI sur ses modèles d'IA est un nouvel avertissement, particulièrement retentissant.»
Une question vitale qui met d'accord Sanders et Trump
La politique américaine commence à bouger sur la question de la gestion des entreprises IA, observe La Stampa :
«Il y a quelques jours, Sam Altman a fait la proposition suivante qui, prononcée par le chef d'OpenAI, paraît suffisamment provoquante : céder à l'Etat américain cinq pour cent du capital de l'entreprise. Le sénateur démocrate Bernie Sanders a tout de suite renchéri … : non pas cinq, mais cinquante pour cent. La véritable surprise est toutefois venue de Donald Trump qui a déclaré son intérêt pour une participation de l'Etat dans des entreprises IA. … L'éléphant dans la pièce doit être suffisamment imposant pour réussir même à écraser la polarisation politique en plaçant du même côté Sanders et Trump sur une question cruciale : à qui doit appartenir l'intelligence artificielle ?»
Peut-être un simple coup de com
Der Kurier soupçonne une stratégie de marketing :
«Sommes-nous réellement entrés dans une nouvelle ère dans laquelle une intelligence artificielle devenue incontrôlable sème le chaos ? Rien n'est moins sûr. N'oublions jamais que des entreprises comme OpenAI ont tout intérêt à faire paraître leur produit comme le plus performant et le plus puissant qui soit. Le communiqué concernant l'incident de sécurité ressemble davantage à une publicité pour le nouveau modèle. C'est justement pour cette raison qu'il faut rester vigilant à la lecture de telles communications.»