Armes biologiques, espionnage de masse : ce que le créateur de l'IA Claude révèle sur les détournements de sa technologie
Entre décembre 2025 et août 2026, Anthropic a bloqué des détournements de Claude pour la propagande, la surveillance de masse ou des projets d’armes. Ce rapport Threat Intelligence soulève désormais une question clé sur le vrai niveau de risque des IA génératives.
Laboratoire d’intelligence artificielle encore peu connu du grand public en France, Anthropic vient de rendre public un document qui tranche avec les discours enthousiastes sur les modèles génératifs. Il y détaille comment son assistant Claude a été sollicité pour des projets allant de la propagande politique à la mise au point d’armes, en passant par des expériences à haut risque biologique.
Ce rapport Anthropic septembre 2026, issu de l’équipe interne Threat Intelligence, recense des tentatives réelles mais interrompues d’usages « nuisibles » de Claude entre fin 2025 et l’été 2026 : espionnage et surveillance de masse, cyberattaques, campagnes d’influence, escroqueries, projets d’armes conventionnelles ou encore recherche sensible sur des agents pathogènes. De quoi éclairer d’un jour nouveau la course aux capacités de l’IA.
Un rapport d’Anthropic pour cartographier les usages nuisibles de Claude
Anthropic explique avoir systématisé la traque de ces détournements via une cellule dédiée. Dans son rapport « Countering misuse of AI: September 2026 », l’entreprise écrit : « Au cours des huit derniers mois, notre équipe Threat Intelligence a identifié et interrompu des opérations dans lesquelles des acteurs malveillants tentaient d’utiliser Claude à des fins nuisibles. Ce rapport couvre les activités que nous avons interrompues entre décembre 2025 et août 2026 dans sept catégories de risques : cyberopérations, opérations d’influence, surveillance, escroqueries et fraudes, détournements dans le domaine biologique et développement d’armes conventionnelles et distillation », résume le document.
Les tentatives documentées émanent « des groupes soupçonnés d’être soutenus par des États, des criminels motivés par l’appât du gain, des fournisseurs commerciaux de logiciels espions, des organismes étatiques de propagande et des individus animés par des motivations politiques », détaille Anthropic. L’entreprise précise que « les cas présentés ici ne sont pas représentatifs des usages abusifs habituels » de son IA, mais visent plutôt à mettre en lumière « les activités malveillantes les plus notables et inédites identifiées à ce jour ». Le but affiché est de montrer comment les risques augmentent, et pourquoi développeurs et acteurs chargés de protéger la société « vont devoir agir afin de les rendre plus sûrs », en ajustant en parralèle les garde-fous des modèles.
| Catégorie | Exemple cité | Acteurs impliqués | Ce que Claude apporte | Réponse d’Anthropic |
|---|---|---|---|---|
| Cyberopérations | Chaîne d’attaque informatique automatisée | Groupes criminels, hackers étatiques | Gain de vitesse et volume d’attaques | Suspension d’accès, partage d’indicateurs |
| Opérations d’influence | Contenus pro-russes diffusés en RCA | Organes de propagande liés à Moscou | Production massive de messages ciblés | Blocage, détection accrue de propagande |
| Surveillance | Plateforme Lakana 360 au Mali | Agence Nationale de la Sécurité d’État | Analyse de métadonnées à grande échelle | Interdiction d’usage, alerte aux partenaires |
| Escroqueries et fraudes | Campagnes de phishing plus crédibles | Cybercriminels motivés par le gain | Rédaction d’emails et sites trompeurs | Filtrage renforcé des scénarios d’arnaque |
| Détournements biologiques | Projet de subvention sur le chikungunya | Chercheurs manipulant des agents pathogènes | Aide à structurer protocoles et arguments | Blocage, revue manuelle des échanges sensibles |
| Développement d’armes conventionnelles | Cellule au nord du Yémen | Groupe armé non étatique | Assistance au code de guidage | Clôture des comptes, politiques durcies |
| Distillation | Reproduction illicite de modèles similaires | Laboratoires tiers et acteurs privés | Extraction de capacités via requêtes massives | Limitation d’usage, suivi des volumes |
Entre risques biologiques, espionnage et projets d’armes téléguidées
Sur le terrain de l’influence, le rapport décrit une opération pilotée par l’État russe en République centrafricaine, où Claude aurait servi à générer des contenus pro-russes et anti-français relayés par la station Radio Lengo Songo 98.9 FM. Anthropic mentionne aussi un projet de surveillance de masse au Mali, porté par l’Agence Nationale de la Sécurité d’État autour de la plateforme Lakana 360, censée suivre environ 25 millions de cartes SIM avec l’aide de l’IA.
Autre illustration, une cellule basée dans le nord du Yémen aurait tenté d’utiliser Claude pour concevoir des armes téléguidées, en s’appuyant sur l’assistant comme sur une équipe d’ingénierie logicielle pour le code de guidage. Les scénarios les plus sensibles restent toutefois ceux liés aux risques biologiques : le document évoque une demande de financement pour des expériences de gain-of-function sur le virus du chikungunya, des échanges prolongés autour de l’adaptation à des mammifères de la grippe aviaire H5, ainsi que des travaux sur l’évasion immunitaire d’orthopoxvirus et sur des toxines ou peptides. Sans détailler d’éventuelle mise en pratique, Anthropic affirme avoir coupé ces usages et ajusté ses modèles pour mieux repérer ce type de recherches à double usage.
En bref
- De décembre 2025 à août 2026, l’équipe Threat Intelligence d’Anthropic a enquêté sur les usages malveillants de son assistant d’IA Claude.
- Le rapport “Countering misuse of AI: September 2026” détaille sept catégories de menaces, des cyberopérations aux projets d’armes et détournements biologiques.
- En filigrane, Anthropic admet que Claude peut amplifier vitesse et échelle d’attaques tout en appelant États et entreprises à renforcer leurs propres garde-fous.
