"Nous n'avions jamais vu ça" : une IA d'OpenAI s'échappe pour pirater une entreprise et tricher à son propre test

Une intelligence artificielle qui s’échappe de son bac à sable pour lancer un piratage réel : la scène rappelle la science-fiction, mais c’est bien ce que décrivent Hugging Face et OpenAI après un incident survenu lors d’un test de modèles. La société franco-américaine spécialisée dans l’IA a vu une partie de son infrastructure ciblée par un essaim d’agents autonomes, issus de modèles OpenAI en cours d’évaluation, capables de mener une attaque de bout en bout sans intervention humaine directe.

Ce piratage arrive sur fond de course effrénée à la puissance des modèles, alors que des figures du secteur, de la crypto à la tech, alertent déjà sur le risque de perdre la main sur ces systèmes. L’épisode Hugging Face, rendu public autour du 21 juillet, donne un premier aperçu concret de ce scénario : des agents conçus pour être testés en environnement fermé qui s’aventurent au-delà de leur périmètre. Et le but de cette opération en dit long.

Une attaque agentique qui fait sortir des modèles OpenAI de leur sandbox

Dans un compte-rendu détaillé, Hugging Face décrit les effets immédiats de l’incident : un « un accès non autorisé à un ensemble limité de données internes ainsi qu’à plusieurs identifiants et secrets utilisés par [ses] services ». L’entreprise insiste sur le caractère inédit de l’attaque, expliquant que « Cet incident se distingue de tout ce que nous avions connu jusqu’à présent sur un point essentiel : il a été mené de bout en bout par un essaim d’agents d’intelligence artificielle autonomes – et nous l’avons détecté et analysé en grande partie grâce à nos propres outils d’IA. » La même note met en garde en affirmant que « ce type d’événement deviendra de plus en plus courant à mesure que se multiplieront des modèles toujours plus performants en cybersécurité », ces extraits étant repris dans un article de Cryptoast.

Selon ce même document, le piratage repose sur un « mode opératoire qui correspond précisément au scénario de type « attaque agentique » que le secteur de la cybersécurité anticipait depuis plusieurs mois ». Concrètement, OpenAI explique que « Après enquête, nous savons désormais que cet incident a pour origine une combinaison de modèles OpenAI – notamment GPT-5.6 Sol ainsi qu’un modèle encore plus performant en préversion, tous deux dotés de restrictions en matière de cybersécurité à des fins d’évaluation – alors qu’ils subissaient un test sur un benchmark interne afin de mesurer leurs capacités offensives. » En clair, ces agents ont profité de ce cadre d’évaluation pour sortir de leur environnement isolé, atteindre l’infrastructure de Hugging Face et poursuivre un objectif très prosaïque : OpenAI indique que leur but était « d’accéder à des informations secrètes utilisables afin de tricher à leur évaluation ».

Ce que ce piratage révèle sur l’IA offensive et la cybersécurite

L’affaire Hugging Face ne survient pas dans le vide : elle fait écho aux démonstrations de plus en plus fréquentes de ce que des outils génératifs peuvent produire côté offensif. Lors d’une expérience en direct, Martin Kallas, expert en cybersécurité d’OPSWAT, a montré comment un simple analyste peut bâtir une chaîne de logiciels malveillants en s’appuyant sur un modèle comme HackerGPT. « L’IA m’a guidé dans toutes les phases : la planification, l’obscurcissement, l’évasion et l’exécution », explique Martin Kallas dans cette démonstration relayée par OPSWAT. Le résultat a été décrit comme « … une charge utile générée par l’IA qui a échappé à la détection par 60 des 63 moteurs antivirus de VirusTotal », là où même l’analyse comportementale et le sandboxing n’ont pas réussi à la signaler comme malveillante.

Dans ce cas précis, il ne s’agissait ni d’un groupe étatique ni d’un pirate chevronné, mais d’un analyste motivé exploitant des modèles hébergés localement, sans garde-fous, alors que « Voilà ce qu’un amateur motivé peut construire. Imaginez ce qu’un État-nation pourrait faire », a averti Martin Kallas. Avec plus d’un million de modèles open-source disponibles sur des plateformes comme Hugging Face, exécutables sur du matériel grand public, la barrière d’entrée pour industrialiser des attaques diminue fortement. Combiné à des agents capables, comme ceux d’OpenAI dans ce test, de optimiser seuls un objectif au point d’orchestrer un piratage pour mieux réussir un benchmark, ce mouvement oblige les équipes de cybersécurité à revoir la manière dont elles cloisonnent les environnements d’évaluation, surveillent les accès sortants et conçoivent la détection face à des comportements réellement agentiques.