Des dirigeants et chercheurs au cœur de la course à l’intelligence artificielle appellent désormais à ralentir le développement des systèmes les plus avancés. OpenAI et Anthropic ne demandent toutefois pas l’arrêt général de l’IA, mais davantage de coordination et la possibilité de freiner lorsque les mesures de sécurité ne suivent plus.
Anthropic veut ralentir la course à l’intelligence artificielle
Dario Amodei, patron d’Anthropic, a franchi un nouveau cap le 12 septembre. Il appelle les entreprises et les gouvernements à « rythmer la frontière », autrement dit à limiter la vitesse de développement des modèles d’intelligence artificielle les plus puissants lorsque les risques progressent plus vite que les protections.
Son plan repose notamment sur des évaluateurs indépendants intégrés durablement auprès des laboratoires d’IA. Ceux-ci pourraient examiner leurs pratiques de sécurité et signaler les incidents. Anthropic s’est engagé à mettre en œuvre cette mesure de son côté, sans attendre un accord général du secteur.
Amodei souhaite ensuite des normes communes entre entreprises, puis une coordination internationale. Certaines règles pourraient même nécessiter des accords entre puissances rivales, notamment pour empêcher l’utilisation de l’IA dans la conception d’armes biologiques.
OpenAI estime également que la sécurité doit rattraper les modèles
Le changement ne concerne pas uniquement Anthropic. Jakub Pachocki, scientifique en chef d’OpenAI, a publié le 6 septembre un texte particulièrement explicite. Selon lui, aucun laboratoire n’a encore résolu suffisamment les problèmes d’alignement et de surveillance pour continuer longtemps à développer ses modèles « à vitesse maximale » de manière responsable.
« C’est une période qui exige une extrême prudence », prévient-il. Pachocki dit espérer que des ralentissements volontaires deviennent courants jusqu’à l’établissement de seuils de sécurité partagés. Il s’inquiète notamment de systèmes capables de participer eux-mêmes à la recherche en IA et donc, potentiellement, d’accélérer leur propre amélioration.
OpenAI a depuis précisé sa position. L’entreprise soutient des exigences nationales obligatoires de sécurité, des évaluations indépendantes et des standards internationaux permettant de déterminer quand le développement d’un modèle doit ralentir, voire s’arrêter.
Des incidents récents renforcent les inquiétudes
Ces prises de position arrivent après plusieurs alertes concrètes. Anthropic a récemment reconnu des défaillances de sécurité opérationnelle ainsi que des problèmes d’alignement observés lors d’incidents impliquant ses modèles. L’entreprise affirme avoir renforcé ses systèmes de confinement et de surveillance.
Les inquiétudes concernent notamment la cybersécurité. Des systèmes d’IA deviennent capables d’effectuer des tâches informatiques de plus en plus longues avec une intervention humaine réduite. Cela ne signifie pas qu’une intelligence artificielle incontrôlable existe déjà, mais ces progrès compliquent la surveillance de systèmes autonomes et augmentent leur potentiel d’utilisation malveillante.
La démission récente de Jacob Coxon, chercheur chez Anthropic, a également amplifié le débat. Il a accusé les principaux laboratoires de prendre des risques excessifs dans leur course vers des systèmes capables de s’améliorer eux-mêmes. Ses conclusions restent une appréciation personnelle du danger, et non la preuve qu’une superintelligence autonome est sur le point d’apparaître.
Un ralentissement coordonné reste difficile à organiser
L’expression « ralentir l’IA » peut cependant induire en erreur. Les principales entreprises concernées ne proposent pas de suspendre ChatGPT, Claude ou l’ensemble des recherches actuelles. Le débat porte surtout sur les modèles dits de frontière, c’est-à-dire les systèmes les plus performants et potentiellement les plus risqués.
Même cet objectif pose un problème juridique. OpenAI a demandé au Congrès américain de préciser si une coordination entre concurrents destinée à ralentir certains développements pourrait enfreindre le droit antitrust. Aux États-Unis, un accord entre entreprises visant à limiter leur production peut en effet soulever des questions de concurrence.
Surtout, aucune entreprise ne veut ralentir seule pendant que ses concurrentes continuent d’accélérer. À cette compétition commerciale s’ajoute la rivalité technologique entre les États-Unis et la Chine. C’est précisément ce dilemme qui pousse désormais certains dirigeants à réclamer des règles communes plutôt qu’une succession d’engagements volontaires.
Le changement de ton reste néanmoins remarquable. Ceux qui développent les modèles parmi les plus puissants reconnaissent désormais publiquement que la vitesse constitue elle-même un risque à gérer. Reste à savoir si cette convergence débouchera sur des contraintes vérifiables ou restera une déclaration de principe.
