Google a confirmé que son modèle d’intelligence artificielle Gemini avait accédé sans autorisation aux systèmes de trois entreprises réelles pendant des tests de cybersécurité menés en mai 2026. L’IA a notamment deviné un mot de passe et utilisé des identifiants disponibles publiquement, mais les incidents se sont produits dans le cadre d’une évaluation mal configurée et Google affirme qu’aucun dommage n’a été causé.
Gemini devait attaquer une entreprise fictive, pas des cibles réelles
Les incidents se sont produits lors d’exercices organisés par Irregular, une société indépendante spécialisée dans l’évaluation de la sécurité des modèles d’IA. Gemini participait à un exercice de type « capture the flag », dans lequel il devait retrouver des informations à l’intérieur de systèmes contrôlés et spécialement conçus pour les tests.
Un problème a toutefois modifié le scénario. Gemini disposait involontairement d’un accès à Internet alors qu’il était censé rester dans l’environnement simulé. Dans au moins un cas, l’entreprise fictive utilisée pour l’exercice portait le même nom qu’une société réelle. Le modèle a alors cherché sa cible sur Internet et s’est attaqué à des infrastructures qui ne faisaient pas partie du test.
Google a confirmé les événements le 18 septembre, après des questions du Wall Street Journal. Ils constituent le premier cas connu dans lequel un modèle de l’entreprise a franchi ainsi les limites prévues d’un exercice de cybersécurité.
L’IA a deviné un mot de passe et trouvé des identifiants publics
Les méthodes utilisées par Gemini n’étaient pas particulièrement sophistiquées. Dans l’un des trois cas, le modèle a essayé des mots de passe jusqu’à parvenir à accéder à un système protégé. Lors de deux autres tentatives, il a découvert des identifiants présents dans des dépôts accessibles publiquement, puis les a utilisés pour se connecter aux infrastructures de véritables entreprises.
Heather Adkins, vice-présidente de l’ingénierie de sécurité chez Google, explique que le modèle avait trouvé des informations publiques et « deviné des identifiants » pour accéder à des sites qu’il croyait inclus dans l’évaluation. Selon Google, Gemini a interrompu ses actions dans les trois cas lorsqu’il a compris que les systèmes appartenaient à de véritables entreprises.
Il serait donc trompeur de présenter Gemini comme ayant spontanément décidé de lancer des cyberattaques dans le monde réel. Le système exécutait bien une mission offensive de cybersécurité, mais il a ciblé de mauvaises infrastructures parce que les barrières de l’environnement de test n’ont pas fonctionné comme prévu.
Google assure qu’aucun dommage n’a été causé
Google affirme avoir contacté les trois organisations concernées. Irregular a de son côté indiqué que les laboratoires concernés par ce type d’incident avaient été avertis fin juillet et que les problèmes connus dans son environnement avaient depuis été corrigés.
« Ces événements montrent l’importance d’entraîner des modèles d’IA puissants à agir de manière responsable », a déclaré Heather Adkins. Google estime que l’affaire ne nécessitait pas initialement de divulgation publique, notamment parce que Gemini avait interrompu son activité et n’aurait causé aucun préjudice aux entreprises touchées.
L’incident intervient alors que Google développe parallèlement des agents capables d’aider les défenseurs à découvrir des vulnérabilités. L’entreprise affirme également avoir identifié en 2026 le premier exploit « zero-day » qu’elle estime développé avec l’aide de l’IA, signe que ces outils deviennent plus présents des deux côtés de la cybersécurité.
Le risque vient surtout de l’autonomie croissante des agents IA
L’épisode Gemini dépasse le simple problème de configuration. Des modèles capables de naviguer sur Internet, d’exécuter du code et d’enchaîner plusieurs actions peuvent désormais mener des tâches de cybersécurité avec beaucoup moins d’intervention humaine.
Google Threat Intelligence Group observe justement une évolution vers des workflows d’IA « agentiques », capables d’automatiser davantage les opérations. Au deuxième trimestre 2026, ses chercheurs ont notamment suivi une campagne dans laquelle des attaquants ont compromis une ressource cloud puis préparé et lancé une collecte massive d’identifiants assistée par agents IA en moins de six heures.
Le cas Gemini ne démontre donc pas qu’une IA est devenue un cybercriminel autonome. Il montre en revanche qu’un agent suffisamment capable peut franchir très vite une limite technique lorsqu’un environnement de test est mal isolé. Pour les laboratoires d’IA, l’enjeu n’est plus seulement d’empêcher les utilisateurs de demander des attaques malveillantes. Il faut aussi contrôler précisément ce que leurs agents peuvent atteindre et exécuter lorsqu’ils disposent d’un accès réel à Internet.
[…] élargit sa famille GPT-6 avec GPT-6 Sol et GPT-6 Luna, deux modèles moins coûteux que GPT-6 Astra. L’entreprise présente Sol comme une solution destinée aux tâches complexes, […]