OpenAI, Anthropic et Google DeepMind discutent de la création d’un nouvel organe chargé d’établir des standards communs de sécurité pour les systèmes d’intelligence artificielle les plus avancés. L’initiative traduit un rapprochement inhabituel entre trois concurrents, mais se heurte déjà à la réticence de l’administration Trump et d’une partie du Congrès américain.
Les trois géants de l’IA cherchent un terrain d’entente sur la sécurité
Les discussions ne datent pas des dernières alertes sur les risques de l’IA. OpenAI, Anthropic et Google échangeaient déjà en privé sur la création d’un organisme sectoriel capable de définir des règles de sécurité communes, selon plusieurs personnes proches du dossier citées par le Washington Post. Chris Lehane, responsable des affaires internationales d’OpenAI, a confirmé mardi que les trois groupes travaillaient ensemble depuis plusieurs semaines.
Le projet reste toutefois à un stade préliminaire. Il ne s’agit pas encore d’un « régulateur » public disposant d’un pouvoir légal de sanction, mais plutôt d’un organisme de normalisation et d’autorégulation porté par l’industrie. Sa mission pourrait notamment inclure l’élaboration de standards communs, l’évaluation indépendante des modèles les plus puissants et la définition de seuils de sécurité avant leur déploiement.
L’idée s’inspire notamment d’une proposition formulée en juillet par Demis Hassabis, alors dirigeant de Google DeepMind. Il envisageait un dispositif comparable à la FINRA américaine, organisme d’autorégulation du secteur financier placé sous la supervision de la Securities and Exchange Commission (SEC).
Les dirigeants de l’IA appellent eux-mêmes à ralentir la course
Ce rapprochement intervient après une succession d’avertissements venus de l’intérieur même de l’industrie. Dario Amodei, patron d’Anthropic, a appelé le 12 septembre à ralentir volontairement le développement des modèles de pointe afin de laisser aux dispositifs de sécurité le temps de progresser. Sam Altman, Demis Hassabis et Elon Musk ont ensuite soutenu, à des degrés différents, cette volonté de renforcer les garde-fous.
OpenAI a parallèlement durci publiquement sa position. Le groupe affirme désormais soutenir des obligations nationales de sécurité fondées sur les capacités réelles des modèles. « Aucune entreprise, industrie ou gouvernement ne peut relever seul ce défi », écrivait Chris Lehane le 9 septembre.
Cette convergence ne signifie pourtant pas que les entreprises évaluent de la même manière tous les risques liés à l’IA. Elle porte surtout sur la nécessité de mieux tester les modèles avancés et de disposer d’évaluateurs extérieurs. Les inquiétudes concernent notamment les cyberattaques, l’utilisation de l’IA pour faciliter la conception de menaces biologiques ou encore le comportement de futurs systèmes capables d’agir avec une autonomie croissante. Ces scénarios restent, pour certains, prospectifs et ne doivent pas être présentés comme des capacités systématiquement observées aujourd’hui.
Donald Trump privilégie la compétition face à la Chine
Le principal obstacle pourrait venir de Washington. Donald Trump défend une politique visant à accélérer l’innovation américaine afin de conserver l’avantage sur la Chine. Interrogé dimanche sur les appels à ralentir le développement de l’IA, le président américain les a largement écartés.
Cette ligne trouve des soutiens au Congrès. Le président républicain de la Chambre des représentants, Mike Johnson, s’est montré sceptique face à une intervention législative trop forte. Selon lui, multiplier les contraintes réglementaires risquerait de faire perdre aux États-Unis leur avantage technologique, avec des conséquences possibles pour la sécurité nationale.
Des parlementaires démocrates, mais aussi certains élus républicains, réclament néanmoins davantage de garanties face aux systèmes les plus puissants. Le débat oppose ainsi plusieurs impératifs difficiles à concilier : sécurité, innovation, concurrence économique et rivalité stratégique avec Pékin.
Un nouvel organisme qui ne partirait pas de zéro
La création d’une nouvelle structure pose également une autre question. OpenAI, Anthropic et Google participent déjà au Frontier Model Forum, lancé en 2023 avec Microsoft pour promouvoir des pratiques communes autour de la sécurité des modèles de pointe.
Le futur organisme devrait donc aller plus loin pour justifier son existence. Des évaluateurs indépendants pourraient, par exemple, examiner certains modèles avant leur lancement ou vérifier le respect de standards partagés. Mais sans base légale ni autorité publique, les décisions d’un tel organisme resteraient largement dépendantes de la coopération volontaire des entreprises.
C’est précisément le paradoxe du projet. Les entreprises qui mènent la course aux modèles les plus puissants demandent désormais davantage de règles pour encadrer cette même compétition. Elles semblent se rapprocher sur certains principes de sécurité, mais leur capacité à transformer ces engagements en contraintes réellement opposables dépendra en grande partie d’un pouvoir politique américain qui, pour l’heure, reste profondément divisé sur la régulation de l’IA.
