Un chercheur d’Anthropic démissionne : « Ils jouent avec nos vies »

Le 8 septembre 2026, Jacob Coxon, chercheur britannique de 27 ans, a annoncé quitter Anthropic — l’entreprise derrière Claude — et, plus largement, l’industrie de l’intelligence artificielle.

Dans une série de messages sur X, repris notamment par Al Arabiya English, il accuse OpenAI et Anthropic de « courir droit vers une superintelligence capable de s’améliorer toute seule » et de « jouer avec nos vies ».

Ce n’est pas une revolte isolée.

Le Wall Street Journal a confirmé sa démission et l’a interviewé. En quelques heures, son message a été vu des dizaines de millions de fois.

Coxon a étudié les mathématiques à Cambridge. De 2023 à juillet 2026, il a travaillé chez OpenAI, notamment sur le pré-entraînement de modèles, et figure parmi les contributeurs de GPT-4o.

Il a ensuite rejoint Anthropic, justement parce que cette entreprise se présente comme plus prudente sur la sécurité. Il n’y est resté que quelques mois.

Son métier, le pré-entraînement, est le cœur technique des grands modèles : c’est la phase où le système apprend à grande échelle, avant d’être affiné. Ce n’est donc pas un commentateur extérieur, c’est un insider. Il a vu de l’intérieur comment ces systèmes sont construits.

Trois points structurent son alerte :

1. La course s’accélère vers des systèmes qui s’améliorent seuls.
   Une « superintelligence auto-améliorante » désigne un modèle assez capable pour concevoir une version plus puissante de lui-même. Coxon estime que cette trajectoire n’est plus théorique. Au WSJ, il a déclaré que, dans les scénarios les plus agressifs, « d’ici la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle ». Dans les laboratoires, on parlerait désormais de « crunchtime » et d’« endgame ».
2. Les systèmes à venir pourraient avoir un pouvoir réel.
   Selon lui, ils seront bientôt « superhumains » : capables de pirater à grande échelle, de bouleverser un domaine entier du jour au lendemain, et d’acquérir des ressources concrètes. « Ne sous-estimez pas la puissance de cette technologie », écrit-il.
3. Les gens qui construisent ces systèmes le savent.
   « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de communication. » Il ajoute que beaucoup d’exécutifs et de chercheurs seniors atténuent leurs propos en public, mais expriment la même peur en privé.
4. Aucune autre activité humaine, selon lui, n’atteint ce niveau de danger.

Il distingue les deux entreprises : chez OpenAI, beaucoup n’auraient « pas pleinement intériorisé l’enjeu civilisationnel » ; chez Anthropic, l’enjeu serait bien compris, mais l’entreprise se croirait obligée de gagner la course, « parce que personne d’autre n’agira de façon responsable ».

Le plus frappant n’est pas seulement la démission.

Le plus surprenant c’est qu’un responsable encore en poste chez Anthropic lui a donné raison en public. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a répondu : « Jacob a raison — nous croyons vraiment que l’IA pourrait tuer tous les êtres humains. Personnellement, je pense que c’est plus de 10 % dans la prochaine décennie. » Il a ajouté qu’Anthropic « fait de son mieux », mais qu’il n’existe pas encore de plan pour aligner une superintelligence, et que l’entreprise n’est « clairement pas sur la bonne voie » pour en avoir un.

Autrement dit : un chercheur part en disant que le risque est réel ; un cadre chargé de la sécurité répond que oui, le risque est réel, et que la solution n’est pas encore là.

D’autres voix internes ou récemment parties vont dans le même sens. Alexander Turner, ancien de Google DeepMind, a écrit que « beaucoup de chercheurs pensent construire quelque chose qui pourrait tuer tout le monde sur la planète » et que c’était « littéralement [son] travail quotidien d’essayer d’empêcher cela ».

Chez Anthropic, ce n’est pas la première alerte : plus tôt en 2026, Mrinank Sharma, qui dirigeait une équipe de safeguards, avait déjà quitté l’entreprise en parlant d’un monde « en péril ».

Ce qu’il faut garder en tête et je vous revoie au texte que je viens de publier il y a quelques heures :

• des chercheurs au cœur des deux laboratoires les plus avancés affirment que la course commerciale précède la maîtrise ;
• certains d’entre eux chiffrent un risque d’extinction à plus de 10 % d’ici dix ans ;
• même les responsables sécurité reconnaissent qu’ils n’ont pas encore de méthode fiable pour contrôler une IA plus capable que nous ;
• la compétition entre laboratoires américains, et avec la Chine rend le système incontrôlable: c’est l’escalade.

Le débat n’est plus seulement technique. Il devient politique. Qui a le droit de lancer, depuis une entreprise privée, une technologie dont les constructeurs eux-mêmes disent qu’elle pourrait échapper à tout contrôle ?