L'IA et ses dangers potentiels : qui pour réguler le secteur ?

Dans une prise de position, un groupe de spécialistes a mis en garde mardi contre les risques liés à l'IA, les comparant au péril que représentent les pandémies ou la prolifération nucléaire. Parmi les signataires, on trouve Sam Altman, le patron de l'entreprise OpenAI, qui a conçu ChatGPT. Il propose la création d'une instance internationale, sur le modèle de l'Agence internationale de l'énergie atomique (AIEA). Une annonce que la plupart des chroniqueurs accueillent avec scepticisme.

Ouvrir/fermer tous les articles
The Spectator (GB) /

Moins contrôlable que la prolifération nucléaire

Le cadre régulateur suggéré par OpenAI ne servira pas à grand-chose, juge The Spectator :

«Les 'ressources informatiques' ne sont pas aussi rares et traçables que le minerai d'uranium. Si la superintelligence a un potentiel aussi révolutionnaire que le suggèrent OpenAI et d'autres protagonistes, alors les incitations à tricher seront considérables, et il y aura de nombreuses opportunités pour le faire. ... Contrairement aux silos mal dissimulés de la crise des missiles de Cuba, il sera possible de transporter clandestinement une superintelligence aboutie sur un disque dur. Le risque de ce type de 'prolifération' semble plus probable. … Les régulations suggérées par OpenAI sont inadéquates, mais Altman et consorts ont le mérite d'avoir sonné l'alerte. Il faudra proposer de nouvelles idées, et le plus vite possible.»

Der Spiegel (DE) /

Se débarrasser de la patate chaude

Sascha Lobo, chroniqueur au Spiegel, estime que ceux qui tirent la sonnette d'alarme commencent déjà à assurer leur défense :

«L'intelligence artificielle est puissante et la probabilité qu'elle entraîne des évènements fâcheux est élevée. Dans cette situation, il est pratique pour les acteurs de l'IA de se glisser dans le rôle du lanceur d'alerte, car celui qui dénonce est rarement celui qui est coupable, dans la perception de l'opinion. En lançant ce genre d'avertissement, les élites de l'IA rejettent la responsabilité sur la politique, du moins partiellement. En cas de problème, ils peuvent toujours dire : nous avions plaidé pour une régulation rapide et efficace. Vous avez dormi, à vous de vous débrouiller maintenant.»

The Independent (GB) /

Ne confondons pas les rôles

The Independent critique lui aussi les admonestations du secteur de l'IA :

«Avec cet avertissement - à savoir que l'IA pourrait être aussi destructrice que les pandémies -, on a l'impression que les dangers inhérents à l'intelligence artificielle sont apparus naturellement sur notre planète, telle la mutation d'un virus. Or toute IA susceptible d'être dangereuse résulte de choix intentionnels faits par ses développeurs, et, dans la plupart des cas, des entreprises qui ont signé la récente mise en garde. ... A qui ces entreprises s'adressent-elles ? En fin de compte, ce sont elles qui créent les produits qui risquent d''anéantir la vie sur Terre'. C'est un peu comme si un cambrioleur venait vous prévenir que votre logement est insuffisamment protégé face aux risques d'effraction.»

Neue Zürcher Zeitung (CH) /

La transparence rend plus vulnérable aux attaques

Neue Zürcher Zeitung décrit les difficultés que pose une régulation :

«Si Open AI doit dévoiler comment elle entraîne son IA, premièrement, elle perd un peu de ce qui fait sa 'magie'. Deuxièmement, ses concurrents risquent de lui voler ses idées. Troisièmement, l'entreprise ne détenait pas forcément les droits nécessaires sur les données qui ont alimenté l'IA. Certains artistes ont déjà porté plainte en ce sens contre certains fabricants d'images générées par l'IA. Sont concernés ceux qui ont révélé les données qu'ils ont utilisées pour entraîner l'IA. La transparence rend plus vulnérables aux attaques. ... Il est extrêmement difficile d'assurer une transparence absolue et rigoureuse. C'est le bon droit de Sam Altman de faire du lobby contre la transparence. Et bien sûr, l'UE devrait modérer ses ardeurs quant à la nécessité d'imposer telle ou telle réglementation.»

News.bg (BG) /

La peur de l'inconnu, réaction on ne peut plus humaine

Dans l'histoire de l'humanité, les technologies novatrices ont toujours suscité des doutes, fait valoir news.bg :

«Au début de la révolution industrielle, les travailleurs croyaient que les machines les priveraient de leur moyen de subsistance. En réalité, elle a entraîné une amélioration phénoménale de la qualité de vie. Les premiers vaccins ont eux aussi été accueillis avec autant de scepticisme. ... L'arrivée de l'électricité dans les chaumières avait été considérée par certains comme une forme de satanisme. Aujourd'hui, on ne peut plus s'imaginer une vie sans électricité. Autrement dit, avec l'aide de l'IA, nous passons bien moins de temps et d'énergie à effectuer les mêmes activités, ce qui nous donne plus de temps à consacrer à des choses potentiellement plus intéressantes.»