  Intelligence artificielle

Devant le Conseil de sécurité de l'ONU à New-York, le dirigeant d'Open AI, Sam Altman, et celui de l'entreprise d'intelligence artificielle Anthropic, Dario Amodei, ont une nouvelle fois insisté sur les risques inhérents à un développement non-régulé de l'intelligence artificielle. Ils ont réclamé la mise en place de mécanismes de contrôle applicables au niveau international pour enrayer les dangers potentiels de l'IA. Inquiétude dans la presse européenne.

Des entrepreneurs techs de premier plan aux Etats-Unis ont appelé à un ralentissement du développement de l'IA. Le PDG d'Anthropic Dario Amodei a écrit sur son blog que le secteur aurait besoin de plus de temps pour rattraper les retards dans la prévention des risques. En l'absence de telles mesures, l'IA risque de devenir hors de contrôle dans les six à douze mois à venir. Elon Musk, Sam Altman, le dirigeant d'Open-AI, et Google approuvent cette mise en garde d'Amodei.

Lors d'un test interne de nouveaux modèles d'IA de l'entreprise OpenAI, le logiciel s'est infiltré de manière autonome, selon les déclarations de la société, dans les systèmes d'une autre société d'IA. Les modèles d'IA ont réussi à sortir de leur environnement de test isolé pour accéder à Internet. Les commentateurs expriment leur inquiétude et réclament des mesures.

Dans sa première encyclique, le pape Léon XIV s'est penché sur les risques de l'Intelligence artificielle. La lettre intitulée Magnifica Humanitas a été présentée au Vatican ce week-end. Le souverain pontife, âgé de 70 ans, met en garde contre les conséquences d'une utilisation non contrôlée de la technologie. Les commentateurs soulignent la formidable actualité de son analyse et sollicitent d'autres prises de position d'une même acuité.

Un tribunal américain a rejeté l'action intentée par Elon Musk contre OpenAI et son PDG Sam Altman, jugeant les faits prescrits. Musk avait déposé plainte, car lorsqu'il était investisseur d'OpenAI, il affirme qu'on lui aurait dissimulé le projet de transformer la fondation, initialement à but non lucratif, en une entreprise commerciale. Musk demandait 114 milliards d'euros de dédommagement, le limogeage d'Altman et le rétablissement du statut initial d'OpenAI.

Le groupe technologique américain Palantir a publié sur X un manifeste rédigé par son patron, Alex Karp, qui fait beaucoup parler. Selon lui, le développement des armes IA serait inévitable, et les Etats-Unis devraient obtenir la suprématie en termes de dissuasion IA. Il estime également que les différentes cultures auraient des "bilans différents" en termes de succès. Les critiques taxent Karp de "techno-fascisme".

L'IA pénètre de plus en plus de strates de nos vies et de domaines économiques, avec des technologies – notamment les robots et les drones – qui, récemment encore, relevaient de la science-fiction. Les médias s'interrogent sur la part de la destruction et de la création dans ses applications.