Ceci est assez rare dans le monde de la tech : une entreprise d’IA qui publie elle-même, en détail, la liste des pires façons dont son propre produit a été utilisé contre son gré.
Anthropic, l’entreprise derrière l’assistant IA Claude, vient de publier son rapport semestriel sur les usages malveillants détectés et bloqués entre décembre 2025 et août 2026. Le document couvre sept catégories de menaces : cyberattaques, campagnes de désinformation, surveillance, arnaques, recherche biologique à risque, développement d’armes conventionnelles, et copie non autorisée de son modèle par des concurrents.
Parmi les cas documentés : des groupes soupçonnés d’être soutenus par des gouvernements étrangers ont tenté d’utiliser Claude pour coordonner des cyberattaques automatisées, tandis que d’autres acteurs ont essayé de contourner les protections mises en place pour empêcher toute assistance à la conception d’armes dangereuses. Anthropic précise avoir aussi intercepté des tentatives de chercheurs qui camouflaient des demandes sensibles en langage scientifique légitime — une tactique qui complique la tâche de distinguer une recherche défensive (comme un vaccin) d’une recherche à visée offensive. L’entreprise affirme avoir interrompu chacune des opérations identifiées dans son rapport et avoir partagé ses conclusions avec les autorités compétentes.
Autre révélation notable : des entreprises chinoises d’IA auraient exploité à grande échelle des échanges avec Claude pour entraîner leurs propres modèles concurrents — une pratique interdite par les conditions d’utilisation, illustrant à quel point la frontière entre usage légitime et pillage industriel reste difficile à surveiller à l’échelle mondiale.
Pourquoi ça vous concerne : cette transparence inhabituelle illustre un vrai dilemme de l’industrie — plus une IA devient puissante et utile pour le grand public, plus elle devient aussi une cible attrayante pour ceux qui veulent la détourner. La vigilance de ces entreprises, aussi imparfaite soit-elle, est en train de devenir une pièce centrale de notre sécurité collective à tous.
