IA : "Elle pourrait tous nous tuer", la démission choc de cet ex-chercheur d'Anthropic qui dénonce la course folle d'OpenAI

Un nouvel avertissement venu de l’intérieur agite la communauté de l’intelligence artificielle. Après avoir occupé des postes successifs consacrés à l’entraînement préalable des modèles pour les géants OpenAI et Anthropic, le chercheur Jacob Coxon a annoncé qu’il quittait son poste, inquiet de la direction prise par les systèmes d’IA les plus avancés.

Dans un message publié début septembre 2026 sur X (ex-Twitter), il décrit des laboratoires lancés dans une course effrénée vers des systèmes toujours plus puissants, proches des scénarios de science-fiction popularisés par la saga Terminator, qu’il présente comme un véritable enjeu pour la survie de notre civilisation. Il accuse même certains acteurs de jouer avec le feu à un niveau inédit : pour lui, le compte à rebours a déjà commencé.

Jacob Coxon quitte Anthropic et accuse les géants de l’IA

Chez OpenAI puis chez Anthropic, Jacob Coxon a travaillé sur le pré-entraînement de modèles de langage de grande taille, c’est-à-dire la phase où l’on expose ces systèmes à d’immenses volumes de textes pour façonner leurs capacités. Fort de cette expérience d’initié, il affirme aujourd’hui qu' »aucune de ces deux entreprises n’agit de manière responsable », dénonçant une industrie qui chercherait à « foncer tête baissée vers une superintelligence auto-améliorante en jouant à la roulette russe avec nos vies », selon des propos rapportés par Cryptoast.

Dans sa description, OpenAI privilégierait une forme de déni des risques, quand Anthropic les reconnaîtrait tout en poursuivant la course, par peur de laisser la main à un concurrent jugé moins prudent. Il résume la situation en expliquant que chez Anthropic, « les enjeux semblent bien compris, mais ils sont engagés dans une course pour y arriver en premier, en estimant que personne d’autre n’agira de manière responsable, donc ils doivent le faire eux-mêmes, malgré le risque ». Un équilibre précaire qui, à ses yeux, fait de l’IA un enjeu civilisationnel plutôt qu’un simple sujet technologique ou économique.

Une superintelligence qui « pourrait tous nous tuer » d’ici la fin de la décennie ?

Jacob Coxon va plus loin en affirmant que « les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie ». Il ne parle pas des modèles actuels déployés auprès du grand public, mais d’une possible superintelligence auto-améliorante : des systèmes capables d’améliorer eux-mêmes leur code, de trouver de nouvelles stratégies et, dans certains scénarios étudiés par les spécialistes de sûreté, de prendre la main sur des infrastructures critiques. Des chercheurs de sûreté au sein même d’Anthropic, comme Evan Hubinger, qui pilote les travaux d’alignement de ces modèles, ont déjà indiqué publiquement estimer à plus de 10 % la probabilité qu’une IA très avancée provoque l’extinction de l’humanité au cours de la prochaine décennie, ce qui alimente encore l’inquiétude.

Pour ce spécialiste, les développements actuels de ce qu’il décrit comme une « phase finale » vers ces systèmes surhumains « ne devraient pas être lancés depuis le Slack d’une entreprise privée ». Il se dit pourtant « optimiste quant aux possibilités de coordination », tout en estimant que la compétition mondiale pourrait « nécessiter des mesures coûteuses, comme une interdiction temporaire de toute amélioration des capacités des modèles ». Son message intervient dans un contexte où les autorités commencent déjà à traiter certains modèles comme sensibles : en juin 2026, le gouvernement américain a par exemple imposé des restrictions d’accès aux modèles Fable 5 et Mythos 5 d’Anthropic, avant de les lever fin juin, pour des raisons de sécurité nationale. Il pousse aussi les chercheurs à ne pas rester silencieux et à questioner leur rôle, en leur demandant frontalement : « Si vous êtes chercheur au sein d’un laboratoire, je vous invite vivement à réfléchir à ce que les prochaines années vont réellement représenter. Voulez-vous vraiment lancer une phase d’entraînement par renforcement d’une superintelligence sans avoir une compréhension rigoureuse de son fonctionnement mental ? Devriez-vous simplement garder la tête baissée sous prétexte que ‘cela arrivera de toute façon’, ou saisir ce moment pour réclamer que les choses se déroulent dans d’autres conditions ? » Une chronologie récente des décisions et prises de parole illustre ce climat de tension.