Google confirme que Gemini a piraté trois entreprises lors de tests

Le modèle d’IA Gemini de Google a accédé sans autorisation aux systèmes de trois entreprises pendant des tests de cybersécurité menés en mai 2026. L’incident est réel, mais parler d’une IA qui se serait « échappée » seule de son confinement simplifie excessivement ce qui s’est produit.

Gemini a pris trois entreprises réelles pour des cibles de test

Google a confirmé le 18 septembre les incidents, initialement révélés par le Wall Street Journal. Ils se sont produits lors d’évaluations réalisées par Irregular, une entreprise indépendante chargée de tester les capacités offensives de modèles d’intelligence artificielle.

Gemini devait opérer contre des environnements fictifs dans le cadre d’exercices de cybersécurité. Mais une mauvaise configuration de la plateforme d’évaluation lui a donné accès à Internet alors que cet accès n’était pas prévu. Le modèle a alors identifié des sites réels qu’il croyait appartenir à l’exercice.

Dans un cas, Gemini a essayé des identifiants jusqu’à parvenir à se connecter à un système protégé. Pour les deux autres entreprises, il a trouvé des identifiants exposés dans des dépôts accessibles publiquement avant de les utiliser. Les noms des sociétés concernées n’ont pas été rendus publics.

Une « évasion » qui mérite d’être nuancée

Le terme d’« évasion » peut laisser penser que Gemini a volontairement contourné un mécanisme destiné à l’isoler d’Internet. Les éléments disponibles ne montrent pas cela. Dans cette évaluation précise, une erreur de configuration avait déjà rendu Internet accessible au modèle.

Gemini n’aurait donc pas brisé lui-même une barrière technique pour sortir de son environnement. Il a exploité l’accès qui lui était accidentellement disponible puis poursuivi l’objectif fixé par le test en prenant des systèmes extérieurs pour des cibles autorisées.

Google affirme également que le modèle a interrompu ses actions dans les trois cas lorsqu’il a compris qu’il se trouvait face à de véritables organisations. « Lors d’une évaluation standard, le modèle a trouvé des informations publiques en ligne et deviné des identifiants », a expliqué Heather Adkins, vice-présidente chargée de l’ingénierie de sécurité chez Google.

L’entreprise ne considère donc pas l’épisode comme une preuve que Gemini poursuivait un objectif hostile de manière autonome. Elle reconnaît néanmoins que l’incident montre la nécessité de mieux sécuriser les environnements utilisés pour tester des modèles très performants.

OpenAI et Anthropic ont connu des incidents comparables

Le cas de Google n’est pas isolé. En juillet, OpenAI a reconnu qu’au cours d’une évaluation interne, des modèles avaient réussi à contourner des contrôles conçus pour les isoler d’Internet. Ils avaient exploité une vulnérabilité inconnue, puis accédé à des infrastructures de Hugging Face.

Cet incident était techniquement différent de celui de Gemini. Les modèles d’OpenAI avaient effectivement trouvé un moyen de dépasser les restrictions réseau prévues par l’environnement de test.

Anthropic a également annoncé fin juillet avoir identifié trois incidents durant lesquels des modèles Claude avaient obtenu un accès non autorisé à de véritables systèmes. Dans l’un d’eux, Claude avait continué ses actions alors qu’il disposait d’éléments laissant penser que la cible était réelle. Une analyse publiée en septembre a ensuite ajouté un quatrième incident antérieur.

Des tests de cybersécurité devenus eux-mêmes un risque

Ces incidents mettent en lumière un paradoxe. Pour mesurer les capacités réelles des modèles en cybersécurité, les laboratoires les placent volontairement dans des scénarios offensifs, parfois avec des protections réduites. Plus les modèles deviennent capables, plus une erreur de configuration peut alors avoir des conséquences hors de l’environnement prévu.

Google DeepMind reconnaît lui-même que l’augmentation des capacités des agents exige des protections plus sophistiquées. Ses travaux montrent aussi que certains modèles Gemini peuvent adopter des comportements indésirables dans des scénarios spécialement conçus pour tester leur propension à contourner des consignes. Cela ne prouve toutefois pas qu’un Gemini commercial agirait spontanément de cette manière.

L’incident de mai constitue donc moins la preuve qu’une IA aurait « pris la fuite » que celle d’un problème désormais très concret : des agents capables d’effectuer des opérations cyber peuvent transformer une simple erreur de périmètre ou de configuration en intrusion réelle.