Anthropic et les armes biologiques se retrouvent au cœur d’un nouveau rapport consacré aux détournements de Claude. L’entreprise affirme avoir bloqué plusieurs utilisateurs dont les recherches pouvaient contribuer au développement d’agents biologiques dangereux, tout en reconnaissant qu’elle ne peut pas toujours établir leurs intentions.
Cinq cas de recherches biologiques préoccupent Anthropic
Anthropic a publié jeudi 10 septembre un vaste rapport sur les usages malveillants détectés entre décembre 2025 et août 2026. L’entreprise y documente des activités liées aux cyberattaques, à la surveillance, aux escroqueries, à la propagande, aux armes conventionnelles et aux risques biologiques.
Cinq cas concernent spécifiquement des scientifiques qui ont utilisé Claude pour des recherches biologiques sensibles. Certains auraient contourné les restrictions géographiques d’Anthropic ou cherché à masquer la finalité exacte de leurs travaux. L’entreprise a finalement fermé les comptes concernés.
Anthropic ne révèle ni l’identité des chercheurs ni celle de leurs institutions. Surtout, elle ne prétend pas avoir prouvé qu’ils préparaient réellement des armes biologiques.
Cette nuance est essentielle. Une même connaissance scientifique peut servir à développer un vaccin ou, dans un autre contexte, faciliter la création d’un agent pathogène plus dangereux.
Claude utilisé pour des recherches sur le chikungunya
L’un des cas les plus sensibles concerne un scientifique qui préparait une demande de financement autour du chikungunya. Selon Anthropic, le projet devait être mené dans un institut de recherche militaire et concernait des travaux susceptibles de modifier les propriétés du virus.
Un autre utilisateur situé dans une région où Anthropic ne propose pas ses services aurait passé plusieurs semaines à préparer avec Claude des expériences portant sur la grippe aviaire. Les systèmes de sécurité ont limité son accès aux modèles les moins performants.
Ces situations illustrent le problème du « double usage ». Des travaux sur la transmission ou les caractéristiques d’un virus peuvent faire progresser la prévention des épidémies. Les mêmes connaissances peuvent aussi devenir dangereuses lorsqu’elles permettent d’accroître les capacités d’un agent pathogène.
Anthropic a donc choisi de bloquer certaines demandes même lorsqu’elle ne pouvait pas démontrer une intention malveillante.
Les capacités des nouveaux modèles changent le niveau de risque
Cette prudence s’explique aussi par les progrès rapides de l’IA. Anthropic estime que ses modèles les plus avancés peuvent désormais apporter une assistance significative dans certaines tâches biologiques complexes.
Claude Fable 5, par exemple, peut surpasser des experts sur certaines évaluations spécialisées. Anthropic a donc initialement bloqué presque toutes les requêtes biologiques sur ce modèle avant d’affiner progressivement ses protections.
La société réserve par ailleurs les capacités biologiques les plus avancées de Mythos 5.1 à un nombre limité d’organisations vérifiées. Sa version destinée à une diffusion plus large intègre des restrictions supplémentaires pour les requêtes sensibles.
Le problème n’est donc plus seulement de savoir si une IA connaît des informations disponibles dans la littérature scientifique. Les chercheurs en sécurité cherchent surtout à déterminer si elle peut réduire suffisamment les compétences, le temps ou les ressources nécessaires pour transformer ces connaissances en menace réelle.
Cyberattaques, surveillance et armes également détectées
Le volet biologique ne constitue qu’une partie du rapport. Anthropic affirme avoir identifié des utilisateurs qui exploitaient Claude pour développer des logiciels associés à des armes conventionnelles, notamment des drones armés, des missiles et d’autres systèmes militaires.
L’entreprise rapporte aussi des opérations de cyberespionnage, des campagnes d’influence et des systèmes de surveillance. Certaines activités auraient notamment visé des dissidents ou des communautés expatriées.
Des groupes criminels ont également utilisé Claude. Anthropic cite des escroqueries en ligne et des cyberattaques dans lesquelles l’IA facilite des tâches qui exigeaient auparavant davantage de compétences techniques.
Le rapport ne signifie cependant pas que Claude a mené librement toutes ces opérations. Anthropic documente précisément des activités qu’elle affirme avoir détectées puis perturbées.
Anthropic réclame une réponse qui dépasse les laboratoires
Ces révélations renforcent un débat déjà engagé sur l’encadrement des modèles les plus puissants. Anthropic considère que les développeurs ne pourront pas répondre seuls aux risques biologiques à mesure que les capacités progressent.
L’entreprise appelle donc à une coopération avec les gouvernements, les chercheurs et les autres laboratoires d’IA. Elle partage également certaines informations sur les menaces avec les autorités et ses partenaires industriels.
Ses propres règles interdisent déjà à Claude d’apporter une aide substantielle à la création d’armes biologiques, chimiques, nucléaires ou radiologiques capables de provoquer des pertes humaines massives.
Le rapport sur Anthropic et les armes biologiques montre néanmoins la difficulté centrale. Plus les modèles deviennent performants en recherche scientifique, plus la frontière entre assistance légitime et utilisation dangereuse devient difficile à surveiller. Bloquer les demandes clairement malveillantes ne suffit donc plus : il faut aussi détecter celles qui cherchent précisément à ne pas paraître dangereuses.
