Le débat qu’on suit depuis des semaines — Amodei qui plaide pour ralentir l’IA, Trump qui rejette l’idée, des utilisateurs qui poursuivent maintenant les entreprises pour s’être « trop » concertées — vient d’atteindre l’instance la plus haute qui existe en matière de sécurité mondiale.
Mercredi, le Conseil de sécurité de l’ONU a tenu sa toute première rencontre consacrée spécifiquement au risque que l’humanité perde le contrôle de l’intelligence artificielle la plus avancée. Convoquée par la France, la séance a réuni autour de la même table Sam Altman (OpenAI), Dario Amodei (Anthropic), Clément Delangue (Hugging Face) et Yoshua Bengio, le chercheur québécois qui coprés014 le comité scientifique de l’ONU sur l’IA.
Bengio a ouvert le bal avec une image frappante : il a comparé la situation actuelle à rouler en voiture, à l’aveugle, dans un épais brouillard — avec ses propres enfants et petit-fils assis à ses côtés. Il a identifié trois menaces précises que pose l’IA de pointe : son usage malveillant par des groupes terroristes, la concentration extrême de pouvoir entre quelques mains, et la perte de contrôle pur et simple sur des systèmes de plus en plus autonomes. Sa proposition : encadrer l’IA de pointe comme on le fait déjà pour les médicaments, l’aviation ou le nucléaire, avec obligation de rapporter tout incident de sécurité.
Le secrétaire général de l’ONU, Antonio Guterres, avait donné le ton dès mardi devant l’Assemblée générale, appelant à ce que jamais des décisions de vie ou de mort ne soient laissées à des machines. Le président américain Donald Trump, lui, a plutôt vanté l’arrivée prochaine d’une « superintelligence » — illustrant, une fois de plus, le fossé qui sépare les visions en présence. Delangue, de son côté, a défendu une piste différente de celle d’Amodei : plutôt que de ralentir, miser sur des modèles ouverts pour mieux se défendre collectivement contre les cyberattaques.
Pourquoi ça vous concerne : quand l’instance la plus haute de la diplomatie mondiale consacre, pour la première fois de son histoire, une séance entière à la question de savoir si l’humanité risque de perdre le contrôle d’une technologie, ça vaut la peine de suivre où ce débat nous mène — parce que les décisions qui en découleront, ou l’absence de décision, façonneront directement l’IA que vous utiliserez dans les années à venir.
