Vers une décroissance de l'IA ?
Des entrepreneurs techs de premier plan aux Etats-Unis ont appelé à un ralentissement du développement de l'AI. Le PDG d'Anthropic Dario Amodei a écrit sur son blog que le secteur aurait besoin de plus de temps pour rattraper les retards dans la prévention des risques. En l'absence de telles mesures, l'IA risque de devenir hors contrôle dans les six à douze mois à venir. Elon Musk, Sam Altman, le dirigeant d'Open-AI, et Google approuvent cette mise en garde d'Amodei.
Pour un pilotage international s'impose
Il est grand temps pour réguler, souligne Der Standard :
«Des chercheurs renommés et les ingénieurs eux-mêmes n'excluent pas l'hypothèse que les machines sont capables de tuer les humains. … Et malgré cela, la politique, notamment aux Etats-Unis, ne met pas de frein à la course autour de l'hyperintelligence. Le président Donald Trump ne veut pas mettre en danger les cours boursiers. ... Et surtout ne pas perdre la course contre la Chine. Ce ne sont pas des motifs pour ne pas réguler l'IA, pour donner plus de temps aux chercheurs pour sécuriser la technologie. Mais pour ce faire, une coalition internationale s'impose. L'UE et des pays tels que le Royaume-Uni, le Canada et le Japon disposeraient de leviers pour augmenter davantage la pression sur les Etats-Unis et la Chine. Il faut déplacer plus systématiquement le pilotage et la surveillance mondiaux de l'IA à l'échelle onusienne. … Aujourd'hui, sans attendre demain.»
Les doutes des GAFAM ne sont pas crédibles
Personne ne veut réellement s'attaquer au problème, constate Federico Ferrazza, journaliste spécialisé dans les nouvelles technologies, dans La Repubblica :
«C'est un aspect étrange du narratif apocalyptique de l'IA. A savoir que ceux qui ont causé le problème et qui nous rappellent que leurs technologies sont capables de mettre fin à l'humanité se proposent maintenant de résoudre ce problème : 'C'était une erreur de nous faire confiance, mais faites-le quand même maintenant.' … La question la plus simple à laquelle les GAFAM ne savent pas répondre est la suivante : si l'IA était à tel point dangereuse pour l'humanité, pourquoi ne vous arrêtez-vous pas, au lieu de faire de grands discours et d'écrire des courriers alarmistes depuis des mois ? … Ils ne le veulent pas. J'en veux pour preuve la sortie permanente de modèles plus puissants.»
Vers une nouvelle course aux armements
Dans El Periódico de Catalunya, la politiste Astrid Barrio établit un parallèle :
«Il est parfaitement plausible que cet appel repose sur la préoccupation sérieuse de ceux qui connaissent pertinemment les capacités développées en ce moment. Mais il est tout aussi légitime de se demander si l'appel en faveur d'un ralentissement ne répondrait pas aussi à des intérêts économiques. … L'expérience nucléaire a montré qu'une compétition sans mécanismes de contrôle pouvait conduire à la situation d'une potentielle destruction mutuelle assurée. Pour l'IA aussi, la dynamique d'une destruction mutuelle accélérée pourrait surgir, les acteurs prenant de plus en plus de risques par peur de rester à la traîne. Pour y répondre, il ne faudrait pas arrêter l'innovation, mais miser sur des règles internationales, associées à des mécanismes de contrôle indépendants.»
Un contrôle illusoire
Dans le domaine militaire, le recours à l'IA présente des risques importants, rappelle The Guardian :
«Les partisans d'une guerre assistée par l'IA affirment que la présence d'un 'humain dans la boucle' offre un garde-fou ultime, ce dernier ayant par exemple le dernier mot pour déclencher le lancement de missiles balistiques. Cela implique cependant que la machine donne à son opérateur un récit véridique de la situation. Un rapport du Strategic Foresight Group a mis en garde au début de cette année contre la possibilité pour un agent IA performant de tromper l'humain qui le 'contrôle' en simulant une attaque, en supprimant des preuves contradictoires ou en ne lui laissant pas suffisamment de temps pour faire autre chose que valider. … Une supervision humaine ne garantit pas de protection lorsqu'une IA contrôle les informations dont dépendent les décisions des humains.»
Faire appel au bon sens
Pour beaucoup de problèmes, la logique humaine est primordiale, estime L'Humanité :
«Supposons qu'elle ait pour mission de faire face au dérèglement climatique. Il ne faut pas sortir d'un super-ordinateur comme de la cuisse de Jupiter pour savoir que les humains, globalement, en sont responsables. Dont acte. Mais tous les humains ? Les 50 pour cent les plus pauvres qui émettent 2 kilos de CO2 par jour ou les 0,1 pour cent qui en émettent 800 ? Pour respecter l'objectif fixé par l'accord de Paris de + 1,5 degré Celsius d'ici 2030, les ultrariches, d'après les estimations les plus récentes, devraient réduire leurs émissions de 99 pour cent. Sans même parler aux ordinateurs de justice sociale, un brin de logique dans l'ordre des priorités pourrait commander de réduire les inégalités avant d'exterminer tout le monde.»