Après Anthropic, OpenAI réclame une réglementation de l’IA plus contraignante aux États-Unis. L’entreprise estime que les engagements volontaires ne suffisent plus face à des modèles capables de gagner en autonomie et d’accélérer la recherche en intelligence artificielle.
OpenAI veut des règles nationales obligatoires
Le changement de ton est notable. Dans un texte publié le 9 septembre, OpenAI demande au Congrès américain d’établir des exigences nationales obligatoires pour les systèmes d’IA les plus avancés.
Le groupe défend une réglementation fondée sur les capacités réelles des modèles plutôt que sur leur simple taille. Les systèmes qui franchissent certains niveaux de puissance ou présentent des risques importants seraient donc soumis à des obligations renforcées.
OpenAI cite plusieurs mesures. Les développeurs devraient respecter des standards de tests, accepter des évaluations indépendantes, renforcer leur cybersécurité et signaler certains incidents graves.
L’entreprise souhaite que le Congrès intervienne avant la fin de sa session en décembre. En attendant une législation fédérale, elle continuera à soutenir certaines initiatives prises par les États américains.
La progression des modèles inquiète leurs propres créateurs
Cette demande intervient après plusieurs incidents qui ont révélé les difficultés à contrôler des agents d’IA avancés. Des modèles développés par OpenAI et Anthropic ont notamment réussi à accéder à des systèmes externes sans autorisation au cours de tests.
OpenAI a elle-même reconnu des comportements inattendus de certains agents. Ces incidents ne démontrent pas qu’une IA autonome incontrôlable existe aujourd’hui. Ils montrent néanmoins que des modèles capables d’utiliser des outils et d’agir sur des environnements informatiques peuvent dépasser le cadre prévu lors d’une expérimentation.
Jakub Pachocki, directeur scientifique d’OpenAI, a récemment appelé à une « extrême prudence ». Il estime que la progression actuelle pourrait conduire les systèmes à participer de plus en plus directement à leur propre amélioration.
OpenAI précise toutefois que l’auto-amélioration récursive totalement autonome n’existe pas actuellement. L’entreprise considère qu’elle ne devrait pas être poursuivie tant que sa sécurité ne peut pas être suffisamment garantie.
Anthropic avait déjà réclamé davantage de contrôle
La position rapproche OpenAI de son concurrent Anthropic. Ce dernier défend également une intervention publique plus forte pour encadrer les modèles de pointe.
Anthropic propose notamment des évaluations indépendantes, davantage de transparence et des programmes de sécurité obligatoires. Pour les systèmes présentant des risques catastrophiques, le groupe souhaite même que les autorités disposent du pouvoir juridique nécessaire pour empêcher leur déploiement.
Son approche cible toutefois les acteurs les plus importants. Le cadre proposé concernerait notamment les modèles dépassant un certain seuil de calcul et les entreprises réalisant plus de 500 millions de dollars de revenus liés à l’IA ou dépensant plus d’un milliard de dollars en recherche et développement dans ce secteur.
Anthropic applique déjà en interne une « Responsible Scaling Policy ». Celle-ci cherche à adapter progressivement les mesures de sécurité aux nouvelles capacités des modèles.
Des ralentissements pourraient devenir nécessaires
OpenAI va plus loin qu’une simple demande d’audits. L’entreprise estime désormais que la sécurité pourrait, dans certaines circonstances, devoir déterminer la vitesse de progression des modèles.
Elle veut travailler avec d’autres laboratoires sur des critères communs permettant de décider quand poursuivre, ralentir ou arrêter temporairement certains développements. Ces standards volontaires viendraient compléter, et non remplacer, les obligations imposées par les pouvoirs publics.
Une difficulté juridique apparaît cependant. Aux États-Unis, plusieurs entreprises concurrentes qui s’entendraient pour ralentir leur production pourraient s’exposer au droit antitrust. OpenAI cherche donc à obtenir des garanties juridiques permettant aux laboratoires de coordonner certaines mesures de sécurité sans être accusés de restreindre illégalement la concurrence.
Cette question devient centrale dans une industrie où chaque entreprise peut craindre de perdre son avance si elle ralentit seule.
La réglementation de l’IA devient un enjeu mondial
OpenAI ne souhaite pas limiter ce cadre aux États-Unis. Les modèles, les chercheurs et les connaissances circulent entre les pays. Une réglementation uniquement américaine pourrait donc perdre de son efficacité si les laboratoires étrangers continuent à développer des systèmes comparables sans règles communes.
L’entreprise défend ainsi des standards internationaux compatibles pour mesurer les capacités, gérer les risques et préserver le contrôle humain.
La réglementation de l’IA entre donc dans une nouvelle phase. OpenAI et Anthropic, pourtant engagés dans une compétition technologique intense, reconnaissent désormais qu’une autorégulation des laboratoires pourrait ne pas suffire.
Le paradoxe reste considérable. Les entreprises qui développent les modèles les plus puissants demandent maintenant aux gouvernements d’imposer des règles capables, si nécessaire, de ralentir leur propre course technologique.
