La course à l’intelligence artificielle inquiète désormais ceux-là mêmes qui développent les modèles les plus avancés. Anthropic réclame un ralentissement coordonné, tandis qu’OpenAI défend des règles obligatoires et reconnaît avoir déjà freiné certains développements pour laisser les dispositifs de sécurité rattraper les capacités de l’IA.
Anthropic veut donner du temps à la sécurité
Dario Amodei, patron d’Anthropic, a appelé les laboratoires d’IA à ralentir la progression de leurs modèles les plus puissants. Son objectif n’est pas d’arrêter la recherche, mais de réduire temporairement le rythme afin que les mécanismes de contrôle progressent suffisamment vite.
Le dirigeant propose notamment des évaluations indépendantes au sein des laboratoires, des normes communes entre les principaux développeurs et une coordination internationale. Anthropic estime que les obligations devraient devenir plus strictes à mesure que les capacités et les risques augmentent. Pour les systèmes les plus avancés, l’entreprise envisage même un contrôle public comparable, dans son intensité, à celui appliqué dans des secteurs comme le nucléaire ou la finance.
Ces avertissements interviennent après plusieurs incidents. Anthropic affirme avoir détecté des utilisations de Claude pour des opérations cyber, de surveillance ou encore des travaux liés aux armes. Des chercheurs du secteur redoutent aussi l’arrivée de systèmes capables d’accélérer eux-mêmes la recherche en IA.
OpenAI reconnaît avoir déjà appuyé sur le frein
OpenAI adopte désormais un discours proche. En août, l’entreprise a annoncé avoir temporairement ralenti la montée en puissance de ses modèles après deux développements préoccupants. L’un concernait un incident impliquant OpenAI et Hugging Face. L’autre portait sur des résultats préliminaires indiquant qu’Astra pourrait atteindre un seuil critique en matière de capacités cyber.
L’entreprise estime que ses systèmes de surveillance, d’alignement et de confinement doivent progresser au moins aussi rapidement que les capacités de ses modèles.
Le 9 septembre, OpenAI a franchi une étape supplémentaire en demandant au Congrès américain d’instaurer des exigences nationales obligatoires fondées sur les capacités réelles des modèles. Le groupe soutient également plusieurs textes en Californie portant notamment sur les audits indépendants et les risques biologiques liés à l’IA.
Sam Altman a publiquement soutenu les préoccupations exprimées par Amodei. Il juge par ailleurs « inacceptable » un risque de 10 % que l’IA puisse provoquer l’extinction humaine d’ici la fin de la décennie, tout en soulignant l’incertitude qui entoure ce type d’estimation.
Derrière la sécurité, des intérêts économiques considérables
Ces appels au ralentissement surviennent pourtant au cœur d’une compétition financière gigantesque. Les entreprises technologiques consacrent des sommes considérables aux puces, aux centres de données et à l’énergie nécessaires pour entraîner et exploiter leurs modèles.
Ralentir la frontière technologique peut donc avoir un deuxième effet. Une cadence moins élevée réduit la pression permanente pour financer une nouvelle génération de modèles quelques mois seulement après la précédente.
Cette dimension nourrit les critiques. Certains observateurs soupçonnent les entreprises déjà en tête de vouloir transformer leurs propres normes de sécurité en barrières réglementaires difficiles à franchir pour de nouveaux concurrents. L’investisseur Michael Burry a ainsi qualifié les appels au ralentissement de « self-serving », estimant qu’ils servent aussi les intérêts des grands laboratoires.
Cette critique ne démontre pas que les risques évoqués sont artificiels. Elle rappelle cependant qu’OpenAI et Anthropic sont à la fois des acteurs du débat sur la sécurité et des entreprises directement intéressées par les règles qui pourraient encadrer leur marché.
La Chine rend un véritable ralentissement difficile
Le principal obstacle reste géopolitique. Washington considère l’IA comme une technologie stratégique dans sa compétition avec Pékin. Un ralentissement unilatéral des entreprises américaines pourrait donc être perçu comme un avantage offert à la Chine.
Dario Amodei lui-même défend le maintien du leadership technologique américain. Son approche cherche donc un équilibre difficile entre ralentissement des capacités dangereuses, coopération internationale et restrictions sur l’exportation des technologies les plus sensibles.
Donald Trump rejette justement l’idée d’un ralentissement qui compromettrait la position américaine. Son argument repose sur la crainte que la Chine poursuive ses développements pendant que les États-Unis imposeraient davantage de contraintes à leurs propres entreprises.
Cette rivalité crée un dilemme classique. Chaque acteur peut reconnaître collectivement l’intérêt de ralentir tout en refusant individuellement de le faire par peur d’être dépassé.
Ralentir l’IA sans arrêter l’innovation
OpenAI et Anthropic ne réclament donc pas un moratoire général. Leur position consiste plutôt à adapter la vitesse de développement au niveau de risque des modèles et à créer des mécanismes capables d’imposer les mêmes exigences aux concurrents. Anthropic maintient déjà une Responsible Scaling Policy qui renforce progressivement ses mesures de sécurité selon les capacités atteintes.
La difficulté sera de transformer ces engagements en règles communes. Une coordination entre entreprises pourrait notamment soulever des questions de concurrence, tandis qu’un accord international devrait associer des puissances qui considèrent précisément l’IA comme un instrument de souveraineté.
La course à l’intelligence artificielle entre ainsi dans une phase paradoxale. Ses leaders demandent davantage de contrôle au moment même où les enjeux économiques et géopolitiques leur donnent de puissantes raisons de continuer à accélérer.
