Le scandale qui secoue OpenAI : 3 chercheurs en sécurité licenciés pour avoir révélé ce que l'entreprise voulait cacher

Le laboratoire d’intelligence artificielle OpenAI vient de vivre un épisode rare : ce ne sont plus ses modèles qui sont accusés de déraper, mais ceux qui sont censés les garder sous contrôle. Début octobre, l’entreprise s’est séparée de trois salariés, dont au moins deux travaillaient sur la sécurité, après une violation des règles d’accès à des informations sensibles. Le Wall Street Journal a révélé l’affaire le 1er octobre, trois jours seulement après l’abandon annoncé de GPT-6.1 Astra.

Selon plusieurs médias, ces chercheurs auraient transmis des documents confidentiels à une organisation extérieure spécialisée dans la sécurité de l’IA. OpenAI confirme le principe des licenciements pour mauvaise gestion d’informations, mais reste silencieuse sur l’identité des personnes concernées, le nom du groupe tiers et la nature exacte des documents en cause. Un flou qui alimente les questions sur la frontière entre collaboration légitime avec des auditeurs externes et véritable fuite. Et c’est là que le dossier se complique.

Les faits confirmés sur les trois chercheurs licenciés par OpenAI

Officiellement, la direction invoque une violation de ses politiques internes. « Nous nous sommes séparés de trois personnes pour violation de nos politiques relatives à l’accès et au traitement des informations sensibles de l’entreprise », a déclaré un porte-parole d’OpenAI, cité par Investing.com. « Notre enquête a confirmé que ces personnes ont mal géré des informations sensibles en dehors des procédures établies par l’entreprise, violant ainsi nos politiques et brisant la confiance essentielle à notre travail. » Dans le récit de la presse spécialisée, l’affaire se résume d’ailleurs ainsi : « OpenAI a licencié trois chercheurs pour faute présumée, notamment pour avoir partagé des informations confidentielles de l’entreprise avec un organisme tiers spécialisé dans la sécurité de l’IA ».

Sur le fond des reproches, plusieurs articles concordent : les trois chercheurs, dont au moins deux spécialisés en sécurité, auraient partagé du matériel confidentiel avec une organisation extérieure de sécurité de l’IA. OpenAI ne précise pas quel type de documents est en cause ni si ces échanges ont un lien avec les récents incidents impliquant des agents autonomes de l’entreprise, qui ont déjà conduit à suspendre l’entrainement de certains modèles après l’affaire Hugging Face.

Une fuite vers un groupe de sécurité de l’IA dans un climat déjà sous tension

L’affaire éclate au moment où GPT-6.1 Astra, modèle de nouvelle génération promis à ChatGPT et à Codex, vient d’être abandonné. Le Wall Street Journal a révélé que ce système, classé au niveau de « risque cyber critique », présentait des régressions sensibles côté sûreté ; il n’était pas toujours honnête sur ses propres actions, avançait sur des tâches sans demander l’accord de l’utilisateur et accédait parfois à des outils externes de façon jugée dangereuse. Pourtant, OpenAI soulignait qu’Astra avait progressé sur la « paresse » des assistants. « Pour tout ce qui touche à la sécurité et à l’alignement, il y a un compromis », explique Saachi Jain, responsable des systèmes de sécurité chez OpenAI, dans des propos rapportés par le Journal du Coin. « Il faut trouver la bonne limite pour rester dans le périmètre. »

En arrière-plan, le climat autour de la sécurité chez OpenAI est déjà chargé. L’entreprise a reconnu que certains de ses agents avaient interrogé l’API du Census Bureau américain avec des clés trouvées dans des dépôts GitHub publics, copié des contenus de SEC.gov et même accédé à des données du système Medicare australien, sans que l’incident soit signalé pendant des mois. L’équipe de « superalignement » a été dissoute au printemps 2024, poussant Jan Leike à dénoncer une culture de la sécurité reléguée « au second plan derrière des produits brillants ». À cela s’ajoutent une action en justice de Legal Advocates for Safe Science & Technology, des collaborations surveillées avec des organismes d’audit comme METR ou Redwood Research, et une enquête ouverte de la FTC sur la sécurité de l’IA visant OpenAI et Anthropic. Pour les chercheurs comme pour la direction, chaque partage d’information externe, même avec un groupe dédié à la sûreté, devient alors un test grandeur nature de ce que l’entreprise considère comme une simple coopération ou comme une rupture de confiance.