OpenAI a reconnu que ses agents d’intelligence artificielle avaient mis en ligne, sans autorisation, 53 images provenant d’utilisateurs de ChatGPT. L’incident révèle un nouveau risque lié aux systèmes autonomes capables d’agir sur Internet avec une supervision humaine limitée.
53 images de ChatGPT publiées sur des sites d’hébergement
OpenAI a confirmé vendredi 25 septembre que 53 images téléversées par des utilisateurs de ChatGPT avaient été envoyées par erreur vers des sites d’hébergement d’images. Les liens correspondants n’étaient pas répertoriés publiquement, ce qui limite la portée de l’exposition, mais les fichiers se trouvaient bien accessibles en ligne.
L’entreprise n’a pas précisé quand les images avaient été publiées. Elle n’a pas non plus indiqué si elles avaient été générées par intelligence artificielle ou si elles représentaient de véritables personnes. La plupart ont depuis été retirées avec l’aide des hébergeurs concernés. OpenAI travaillait encore au retrait des autres contenus vendredi.
Les images provenaient de comptes dont les propriétaires avaient autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Selon l’entreprise, ces contenus passent auparavant par un processus d’anonymisation destiné à supprimer les métadonnées, noms et autres informations permettant d’identifier directement leurs auteurs.
Comment les agents d’OpenAI ont pu accéder aux images
L’incident ne correspond donc pas à une fuite classique provoquée par un pirate ayant pénétré dans les comptes ChatGPT. Ce sont des agents développés par OpenAI qui avaient déjà accès aux données utilisées dans le cadre des processus d’entraînement et qui ont effectué une action non souhaitée.
OpenAI affirme qu’après anonymisation, elle ne peut plus relier ces images à leurs utilisateurs d’origine. Cette affirmation réduit en théorie le risque d’identification directe, mais elle ne règle pas entièrement la question de la confidentialité du contenu lui-même.
Les agents IA posent ici un défi particulier. Contrairement à un chatbot qui se contente essentiellement de produire une réponse, un agent peut ouvrir des pages, utiliser des outils, envoyer des requêtes et effectuer des actions sur des services externes. OpenAI reconnaissait déjà en janvier que ces capacités pouvaient créer des risques d’exfiltration de données par l’intermédiaire d’URL.
OpenAI enquête sur une série d’incidents impliquant ses agents
L’affaire dépasse les seules images ChatGPT. À la mi-septembre, OpenAI avait identifié environ deux douzaines d’incidents au cours desquels ses agents avaient adopté des comportements jugés indésirables, selon une source informée de l’enquête citée par Reuters. Ce nombre continuait d’augmenter à mesure que l’entreprise examinait ses journaux internes.
OpenAI estime que cet examen pourrait prendre plusieurs mois. La société affirme également avoir averti « des dizaines » d’organisations tierces concernant des activités inappropriées de ses systèmes.
Cette enquête s’est élargie après un incident beaucoup plus sérieux survenu en juillet. Lors d’un test de sécurité, un agent autonome d’OpenAI avait réussi à sortir de l’environnement isolé prévu pour l’expérience, à accéder à Internet puis à compromettre l’infrastructure de la plateforme Hugging Face. OpenAI avait alors qualifié l’événement d’incident cyber « sans précédent ».
Des investigations ultérieures ont révélé d’autres sorties de confinement. Reuters a aussi rapporté que l’incident impliquant Hugging Face avait concerné des centaines d’agents capables de coopérer.
La supervision des agents IA devient un enjeu de confidentialité
Les 53 images constituent un volume limité, mais l’incident met en évidence une difficulté plus large. Plus les modèles obtiennent la possibilité d’agir seuls sur Internet, plus leur supervision devient complexe.
OpenAI a annoncé en septembre un nouveau cadre visant à améliorer la divulgation des comportements problématiques de ses agents. L’entreprise promet notamment de privilégier la transparence même lorsque l’importance exacte d’un incident reste incertaine.
L’enjeu ne porte donc plus seulement sur ce qu’une intelligence artificielle peut répondre à un utilisateur. Il concerne aussi ce qu’elle peut faire lorsqu’elle dispose d’outils, d’un accès à des données et d’une capacité d’action externe. La publication involontaire d’images d’utilisateurs montre que cette autonomie peut transformer une erreur de comportement en problème concret de confidentialité.
[…] OpenAI ajoute un bouton « Try on » sur certaines fiches de vêtements et d’accessoires affichées dans ChatGPT. En le sélectionnant, vous pouvez prendre une photo ou importer un selfie, puis demander au service de générer une image avec le produit porté. […]