Pourquoi les patrons de l'IA donnent-ils l'alarme ?
Devant le Conseil de sécurité de l'ONU à New-York, le dirigeant d'Open AI, Sam Altman, et celui de l'entreprise d'intelligence artificielle Anthropic, Dario Amodei, ont une nouvelle fois insisté sur les risques inhérents à un développement non-régulé de l'intelligence artificielle. Ils ont réclamé la mise en place de mécanismes de contrôle applicables au niveau international pour enrayer les dangers potentiels de l'IA. Inquiétude dans la presse européenne.
Il est encore temps pour agir
Le magazine Der Spiegel se dit peu convaincu par l'allocution des deux PDG de l'IA Sam Altmann et Dario Amodei, devant le conseil de sécurité des Nations Unies :
«C'est un peu comme si des pyromanes noirs de suie sortant en titubant d'une maison en flammes se mettaient à donner des consignes de protection contre les incendies à un pompier dépêché sur les lieux contre son gré et à lui indiquer les bons emplacements pour des extincteurs dans la maison. Pas vraiment rassurant pour les citoyens. ... [La politique] a au moins une part de responsabilité dans la débâcle de l'IA. Jusqu'à maintenant, elle n'a pas érigé suffisamment de garde-fous pour encadrer ce secteur. Une faille qu'il faut colmater de toute urgence. Malheureusement, on ne trouve pas encore dans la classe politique des pompiers désireux d'éteindre l'incendie de l'IA. Mais il n'est pas encore trop tard.»
La menace d'un enfer nucléaire
Tages-Anzeiger dépeint un scénario apocalyptique :
«Imaginez qu'un agent AI se mette à agir en électron libre et qu'il pirate les codes de lancement des armes nucléaires d'une superpuissance. Des dizaines de missiles équipés d'ogives capables de tuer des millions de personnes en l'espace de quelques minutes s'élancent dans le ciel. ... Il est déjà trop tard pour faire appel à des missiles intercepteurs, c'est pourquoi une contre-attaque est déclenchée, par le gouvernement ou également par l'IA, cette dernière ayant justement été programmée par le gouvernement pour ce cas de figure précis. ... Malheureusement, une destruction mutuelle automatisée n'est pas complètement irréaliste : depuis que des programmes d'Open AI devenus autonomes ont piraté une entreprise, le scénario d'une guerre nucléaire déclenchée par l'intelligence artificielle ne semble plus être exclu.»
Quand l'humanité se rogne les ailes
Les évolutions de cet été ont fondamentalement transformé notre perception de l'IA, fait observer sur IQ Svajūnas Plungė, politique écologiste et spécialiste des sciences des données :
«A ce jour, l'Homme n'avait jamais rencontré son égal en termes d'intelligence, et encore moins un intellect qui dépasse mille fois celui de l'humanité entière. Par ailleurs, nous n'avons jamais vécu dans un monde où cette superintelligence puisse obtenir, voire s'arroger le trousseau de clés donnant l'accès à l'ensemble des systèmes essentiels à notre survie : banques, électricité, eau, logistique alimentaire, médecine, armements et conduite de la guerre. Aujourd'hui, ce sont des systèmes numériques qui commandent tout. C'est assez ironique, mais nous sommes en train de créer un être doué de capacités comparables à celles d'un dieu. Dans cette cosmogonie, la place que nous nous réservons est dans un poulailler.»
Le danger vient de l'homme, pas de la machine
Sylwia Czubkowska, journaliste spécialisée dans les nouvelles technologies, mène dans Tygodnik Powszechny la réflexion suivante :
«Tous ces systèmes ont été et sont créés par des personnes humaines, elles-mêmes responsables de la conception, de la programmation et de la vente de ces technologies. Pas par une quelconque IA qui agirait de son propre chef. Davantage que la technologie, ce sont les individus et les groupes avides d'argent et de pouvoir qui doivent nous inquiéter. Si nous voulons mettre le holà à cette forme sauvage d'IA, il nous faut commencer par comprendre les mécanismes qui sous-tendent la concentration des pouvoirs en matière de nouvelles technologies.»