Les dirigeants de plusieurs grandes entreprises américaines de l’intelligence artificielle ont signé mardi à la Maison-Blanche un accord volontaire destiné à renforcer les contrôles de sécurité autour des systèmes d’IA avancés.
Le texte, signé notamment par des responsables d’Anthropic, Google, Meta, OpenAI, Nvidia et xAI, prévoit quatre niveaux de contrôle : des dispositifs internes pour surveiller le comportement des modèles, des équipes spécialisées, des évaluations réalisées par des auditeurs externes et des comités indépendants chargés d’examiner les résultats.
Les entreprises s’engagent également à coopérer avec des évaluateurs indépendants et à limiter les capacités de leurs systèmes à accéder ou à modifier des systèmes informatiques de manière non prévue. L’accord reste volontaire et n’a pas valeur de réglementation fédérale.
Les inquiétudes concernant les risques liés aux systèmes d’IA les plus avancés se multiplient. Des entreprises du secteur ont signalé des comportements imprévus de certains agents capables d’interagir avec des systèmes informatiques réels.
Le président Donald Trump a défendu lors de la rencontre une approche fondée sur l’autorégulation et a parallèlement réaffirmé son soutien au développement rapide des centres de données nécessaires à l’essor de l’IA. Ces installations suscitent cependant des oppositions locales liées notamment à leur consommation d’électricité et à leurs effets sur les infrastructures.
Le document ouvre la possibilité de transformer ultérieurement certaines mesures en lois ou en règles contraignantes. Il marque ainsi une étape dans un débat américain où s’opposent notamment les impératifs de développement technologique, les enjeux de sécurité et la question du rôle des pouvoirs publics dans la surveillance de l’IA.
