L’intelligence artificielle prend une place grandissante dans les opérations militaires, au risque de réduire le contrôle humain sur les décisions de combat et d’accroître les dangers d’escalade, y compris dans le domaine nucléaire, a averti mardi un responsable des Nations unies.
« La guerre menée par les machines se rapproche toujours davantage », a déclaré Robin Geiss, directeur de l’Institut des Nations unies pour la recherche sur le désarmement (UNIDIR), lors d’une conférence de presse à New York. Il a appelé la communauté internationale à répondre à une question centrale : jusqu’où les États sont-ils prêts à laisser les machines sélectionner et attaquer des cibles humaines?
L’inquiétude ne concerne pas uniquement les armes entièrement autonomes. L’intelligence artificielle intervient déjà dans plusieurs étapes des opérations militaires, notamment l’analyse du renseignement, l’identification des cibles, le pilotage de drones et les cyberopérations.
Cette évolution accélère les cycles de décision et peut réduire le temps disponible pour une intervention humaine. Selon M. Geiss, cette tendance concerne également le domaine nucléaire, où une erreur d’analyse ou une mauvaise interprétation pourrait avoir des conséquences particulièrement graves.
Les systèmes dont le fonctionnement est difficile à interpréter présentent aussi des risques d’erreur et de calcul, susceptibles de provoquer une escalade involontaire entre adversaires.
Les entreprises appelées à prendre leurs responsabilités
L’ONU s’inquiète également du rôle croissant des entreprises privées dans le développement de technologies militaires. Les décisions prises lors de la conception des systèmes, de la sélection des données d’entraînement et du développement des logiciels peuvent influencer leur comportement une fois déployés sur le terrain.
L’UNIDIR prépare, avec le Haut-Commissariat des Nations unies aux droits de l’homme, un cadre de conduite responsable destiné aux entreprises du secteur. Il doit proposer des recommandations pratiques fondées sur le droit international et les principes des Nations unies relatifs aux entreprises et aux droits de l’homme.
Ces recommandations seront toutefois volontaires. L’initiative doit réunir des groupes de défense, des entreprises technologiques, des développeurs de logiciels, des sous-traitants et des investisseurs, en collaboration avec les gouvernements et la société civile.
La crainte d’une diffusion des technologies
Les Nations unies redoutent par ailleurs que l’accès plus facile à certains outils d’intelligence artificielle permette à des groupes terroristes ou criminels de perfectionner leurs opérations.
Selon Robin Geiss, des recherches montrent que des acteurs mal intentionnés utilisent déjà ces technologies pour faciliter la planification, l’exécution et la logistique de leurs activités.
Les mécanismes traditionnels de contrôle des exportations et de non-prolifération, conçus notamment pour surveiller les équipements et les technologies sensibles, sont confrontés à de nouvelles difficultés lorsque les capacités concernées reposent sur des outils numériques largement accessibles.
L’UNIDIR travaille avec l’Institut des Nations unies pour la formation et la recherche (UNITAR) et l’Autriche sur des moyens de limiter ces détournements sans entraver les usages pacifiques de l’intelligence artificielle.
Des initiatives pour faciliter les négociations
Les efforts diplomatiques restent compliqués par les divergences entre grandes puissances sur les restrictions à imposer aux systèmes d’armes autonomes. Les discussions sont réparties entre plusieurs enceintes internationales, tandis que les technologies évoluent rapidement.
Pour faciliter les échanges, l’UNIDIR prévoit de lancer un lexique commun destiné à clarifier des notions comme l’autonomie, la sûreté et la sécurité, dont les définitions peuvent varier d’un gouvernement à l’autre.
Un forum réunissant des représentants des États, de l’industrie, du monde universitaire et de la société civile doit également être inauguré avec la Suisse et le Pakistan. Cette initiative s’inscrit dans les travaux du centre d’excellence de l’UNIDIR sur l’intelligence artificielle, la paix et la sécurité, établi à Genève.
M. Geiss a également évoqué une proposition américaine formulée en septembre visant à instaurer avec la Chine une ligne de communication consacrée aux incidents liés à l’intelligence artificielle susceptibles de menacer la sécurité nationale.
Le secrétaire général de l’ONU, António Guterres, plaide pour sa part en faveur d’un traité juridiquement contraignant sur les armes autonomes.
Pour les Nations unies, l’enjeu consiste à faire progresser la coopération et les mécanismes de contrôle au rythme d’une technologie qui transforme déjà la conduite des opérations militaires.
