Dario Amodei estime que les capacités de l’intelligence artificielle progressent désormais plus vite que les moyens disponibles pour les contrôler. Le PDG d’Anthropic ne réclame toutefois pas l’arrêt de la recherche, mais un ralentissement coordonné des modèles les plus avancés afin de donner du temps aux mesures de sécurité.
Dario Amodei veut ralentir les progrès de l’intelligence artificielle
Dans un long essai publié le 12 septembre et intitulé « We Must Pace the Frontier », Dario Amodei défend une position inhabituelle pour le dirigeant d’une entreprise engagée dans la course à l’IA. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », écrit-il.
Le patron d’Anthropic ne propose donc pas de suspendre l’entraînement des modèles ni de mettre fin au progrès technique. Son objectif consiste plutôt à éviter que les nouvelles capacités apparaissent tellement vite que les chercheurs, les entreprises et les pouvoirs publics n’aient plus le temps d’en comprendre les risques.
Amodei estime qu’un ralentissement de quelques années pourrait laisser davantage de temps aux spécialistes de la sécurité. Son inquiétude repose notamment sur la capacité croissante des modèles à contribuer au développement de systèmes encore plus performants, ce qui pourrait accélérer davantage la progression de l’IA.
Des incidents récents renforcent les inquiétudes d’Anthropic
Cet appel intervient après plusieurs incidents impliquant des agents d’intelligence artificielle lors de tests de cybersécurité. Amodei cite notamment l’épisode de juillet durant lequel des agents d’OpenAI ont quitté leur environnement de test et accédé à des systèmes liés à Hugging Face.
Le dirigeant avance une projection particulièrement alarmante. Selon lui, au rythme actuel des progrès, un ensemble d’agents pourrait, « d’ici six à douze mois », disposer de capacités suffisantes pour compromettre une très grande partie d’Internet et provoquer potentiellement des centaines de milliards de dollars de dégâts. Il s’agit bien d’un scénario de risque avancé par Amodei, et non d’une capacité actuellement démontrée.
Anthropic vient par ailleurs de publier son rapport de septembre sur les usages malveillants de Claude. L’entreprise affirme avoir interrompu, entre décembre 2025 et août 2026, des opérations liées notamment à la cybercriminalité, à la surveillance, aux escroqueries, aux opérations d’influence et à certains usages biologiques ou militaires.
Anthropic propose trois niveaux de protection
Amodei accompagne son avertissement d’un plan en trois étapes. La première prévoit l’installation permanente d’évaluateurs indépendants au sein des entreprises qui développent les modèles les plus avancés. Ils disposeraient d’un niveau d’accès proche de celui des employés chargés d’évaluer les risques afin de contrôler les dispositifs de sécurité et de documenter les incidents.
Deuxième étape, les principaux laboratoires devraient coordonner certaines normes de sécurité. Une telle coopération pose toutefois un problème juridique aux États-Unis puisque des concurrents qui s’entendent pour limiter leur développement pourraient se heurter au droit de la concurrence. OpenAI avait justement demandé au Congrès de clarifier les conditions dans lesquelles un ralentissement coordonné serait légal.
Enfin, Amodei défend une coopération internationale sur certains risques extrêmes, par exemple l’utilisation de l’IA pour développer des armes biologiques. Il ne souhaite cependant pas qu’un ralentissement des entreprises américaines permette à la Chine de prendre l’avantage technologique.
Sam Altman et Elon Musk soutiennent une partie de l’appel
L’initiative a obtenu un soutien remarquable chez deux concurrents d’Anthropic. Sam Altman, PDG d’OpenAI, a notamment approuvé l’idée d’accorder aux évaluateurs indépendants un accès comparable à celui des employés et annoncé qu’OpenAI adopterait également ce principe. Elon Musk, qui dirige xAI, a lui aussi soutenu la démarche d’Amodei.
Cette convergence ne signifie pas encore que les grands laboratoires ont accepté un calendrier commun de ralentissement. La compétition reste intense et les investissements engagés dans les infrastructures d’IA se chiffrent en milliards de dollars.
Le débat dépasse désormais les entreprises. Des négociateurs au Sénat américain étudient parallèlement un dispositif qui imposerait aux développeurs une obligation de prévention de certains « risques catastrophiques » et pourrait donner au gouvernement un moyen de s’opposer à la sortie de modèles jugés dangereux.
Le véritable tournant réside donc moins dans un arrêt imminent de la course à l’IA que dans le changement de discours de ses principaux acteurs. Ceux qui rivalisent pour construire les modèles les plus puissants commencent eux-mêmes à demander des mécanismes capables, si nécessaire, d’en ralentir la progression.
