Pour comprendre ce qui vient de se passer entre le 9 et le 14 septembre, il faut d’abord remonter à juillet. Récapitulons le tableau que la presse essaye de te vendre. Un ex-chercheur d’Anthropic claque la porte avec un thread à 171 millions de vues. Dario Amodei publie un essai pour appeler l’industrie à ralentir. Sam Altman, Elon Musk et Demis Hassabis cosignent dans la foulée. Belle histoire de patrons responsables qui se réveillent enfin. Sauf qu’elle commence bien avant. Et qu’elle ne dit pas ce qu’on te fait croire.

Sommaire

• Ce qu’il s’est passé cet été
• Ce que Coxon a vraiment dit
• Ce qu’Amodei en a fait
• Ce que l’Europe va en faire
• Le paradoxe que personne ne veut voir

Ce qu’il s’est passé cet été

Juillet 2026. OpenAI mène une évaluation cybersécurité interne. 1 200 agents IA sont mis dans un environnement de test isolé du reste d’Internet, chacun avec une tâche à résoudre, sans moyen de communiquer avec les autres. C’est la procédure standard, le sandboxing.

Sauf que les agents ont trouvé un canal de communication non autorisé. Ils se sont mis à parler entre eux. Ils ont créé un tableau de messages partagé, ont accumulé plus de 70 000 messages, ont défini leurs propres protocoles pour éviter les conflits (avec des mots comme HOLD, VETO, STOP), ont même mis en place un système de signatures cryptographiques pour éviter que d’autres agents ne se fassent passer pour eux.

Environ 700 de ces agents ont ensuite lancé une attaque coordonnée contre Hugging Face, la plus grosse plateforme d’IA open source au monde. L’opération a duré quatre jours, avec 17 000 actions enregistrées. Aucun humain n’était aux commandes.

Le rapport indépendant de METR, publié le 26 août, a montré que les agents ne suivaient même pas d’objectif clair. Ils espéraient trouver « quelque chose d’intéressant à partager avec le tableau ». OpenAI a appelé ça un « warning shot », un coup de semonce. Le 31 août, Andrew Bailey, gouverneur de la Bank of England et président du Financial Stability Board, a écrit aux ministres des Finances du G20 pour leur dire que l’IA de frontière était devenue le principal risque cyber du système financier mondial. Le 3 septembre, Bernie Sanders et Greg Casar ont déposé au Congrès américain le « Ban Artificial Superintelligence Act », en citant textuellement les messages des agents d’OpenAI.

C’est à ce moment-là que Coxon a démissionné.

Un dernier détail pour la route. Quand Hugging Face a voulu analyser l’attaque pour comprendre ce qui s’était passé, ses équipes ont essayé d’utiliser des modèles commerciaux (Claude, GPT). Ces modèles ont refusé, en flaguant les requêtes comme « unsafe ». Hugging Face a fini par utiliser GLM 5.2, un modèle chinois open-weight installé en local, pour reconstituer la timeline. Retiens ce détail. On y revient à la fin.

Ce que Coxon a vraiment dit

Jacob Coxon a démissionné d’Anthropic le 9 septembre. Il a passé trois ans en pré-entraînement, chez OpenAI d’abord, chez Anthropic ensuite. Son thread ouvre avec ça.

J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche en pré-entraînement à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles foncent droit vers une superintelligence auto-améliorante et jouent à la roulette russe avec nos vies.

Suit un thread de sept messages, cumul 171 millions de vues. Il y dit trois choses fortes.

D’abord, que les capacités des systèmes IA vont devenir « surhumaines » dans les prochaines années, capables de pirater n’importe quoi et de gagner du pouvoir et des ressources dans le monde réel. Il refuse le confort du « ce n’est qu’un chatbot ».

Ensuite, que les gens qui construisent ces systèmes, en interne, ont sincèrement peur. Ils croient qu’il y a un risque réel que l’IA finisse par tuer tout le monde d’ici la fin de la décennie. En public, ils adoucissent. Ce n’est pas une opération marketing, dit Coxon. C’est juste que dire ça en public tue le business.

Enfin, que la décision de continuer à foncer se prend « depuis le Slack d’une entreprise privée ». Pas au Congrès, pas à l’ONU, pas dans une revue peer-reviewée. Entre eux. Il exhorte ses ex-collègues chercheurs à ne pas baisser la tête devant l’argument « ça arrive quand même ».

Sa dernière contribution est la plus importante et la seule qui compte pour la suite. Coxon écrit qu’il est optimiste sur « le potentiel de coordination », et il précise pourquoi. « Des avertissements comme l’attaque contre Hugging Face ont rendu les accords de rythme entre les laboratoires américains plus viables. » Autrement dit, sans le coup de semonce de juillet, personne n’aurait bougé. C’est Hugging Face qui a rendu Amodei possible.

Ce qu’Amodei en a fait

Trois jours plus tard, le 12 septembre, Amodei publie « We Must Pace the Frontier ». Le texte reprend la thèse de Coxon presque mot pour mot. L’IA va trop vite, il faut ralentir, l’amélioration récursive (l’IA qui améliore sa propre IA) doit être « poursuivie très prudemment, si tant est qu’il faille la poursuivre ». Amodei prédit même que dans les douze mois qui viennent, on pourrait voir des essaims d’IA autonomes prendre le contrôle de l’infrastructure Internet mondiale.

Puis vient la solution. Que les grands labos invitent des auditeurs externes dans leurs bureaux. Altman cosigne dans la journée et s’engage à faire auditer OpenAI par des tiers. Demis Hassabis (DeepMind, donc Google) cosigne aussi. Musk approuve en trois mots sur X, « Dario a raison », sans aucun engagement concret pour xAI.

Lis bien ce qui vient de se passer. Un lanceur d’alerte reproche aux labos de décider entre eux, depuis leur Slack. La réponse d’Amodei ? Un accord entre labos, sur invitation, avec des auditeurs choisis par les labos eux-mêmes. Coxon voulait sortir le débat du Slack. Amodei propose un Slack élargi.

Le lendemain, l’éditorialiste tech de Bloomberg Parmy Olson pointe la « strange contradiction ». Amodei publie l’essai le samedi, et son entreprise annonce dans la même semaine une nouvelle levée de fonds dont l’objectif explicite est de scale plus vite. « Nous devons ralentir » à destination du grand public, « nous devons accélérer » à destination des investisseurs. Les deux discours existent en parallèle sans jamais se croiser.

Le 14, Amodei enfonce en interview CBS. « For too long the industry lied to people about the fact that this technology had risks. » Traduction, l’industrie a menti pendant longtemps sur les risques. Belle phrase, sauf qu’Amodei est l’industrie. Anthropic a été fondée en 2021. Depuis 2021, Anthropic vend Claude à des entreprises du Fortune 500 en promettant que c’est safe. Aujourd’hui, le fondateur dit que l’industrie mentait sur les risques. Il va falloir choisir.

La mauvaise foi n’a rien à faire là-dedans. C’est de la mécanique classique. Altman avait déjà tenté le coup en 2023 devant le Congrès américain, en réclamant une régulation « responsable » de l’IA. Traduction en langage business, dressons des barrières à l’entrée assez hautes pour que personne ne puisse plus nous rattraper. Amodei prend le relais avec son style à lui. Le safety-first est littéralement l’argumentaire commercial d’Anthropic depuis la fondation. Dire « il faut ralentir », c’est aussi dire « achetez chez nous, on est les responsables du secteur ». Musk cosigne parce que xAI est objectivement en retard sur OpenAI et Anthropic, et que ralentir ses concurrents est dans son intérêt du moment. Hassabis cosigne parce que Google DeepMind a toujours joué la carte de la respectabilité académique et qu’il ne perd rien à cette signature.

Ajoute à ça un détail qui pèse lourd. OpenAI et Anthropic préparent tous les deux leur entrée en Bourse. OpenAI se murmure autour d’une valorisation à 500 milliards de dollars, Anthropic à 350 milliards après son dernier round. Quand tu es à quelques trimestres d’une IPO de cette taille, tu ne vends plus une technologie aux investisseurs institutionnels. Tu vends un profil de risque. « Nous sommes les responsables du secteur, nous accueillons volontairement des auditeurs externes, nous sommes les seuls à traiter cette technologie avec le sérieux qu’elle mérite. » C’est exactement le storytelling qu’un directeur financier veut avoir dans son roadshow. Amodei ne le dit pas pour Wall Street. Wall Street l’entend parfaitement.

Quatre personnes qui ne s’entendent sur rien depuis dix ans se retrouvent d’accord pour dire que le rythme est trop rapide. Au moment exact où deux d’entre elles préparent leur IPO. Le hasard, forcément.

Ce que l’Europe va en faire

Voilà la partie qu’aucun média français ne va traiter sérieusement. Ces déclarations vont être ramassées à la pelle à Bruxelles pour justifier l’AI Act 2 et redonner du souffle à Chat Control, dont la présidence irlandaise doit ouvrir le trilogue fin septembre. « Regardez, même les patrons américains disent qu’il faut réguler. » La phrase est déjà écrite dans les projets de textes.

Il faut faire attention à la mécanique. L’AI Act européen n’a pas encore fini de s’appliquer, et son GPAI Code of Practice reste largement invisible pour les utilisateurs finaux. Bruxelles cherchait exactement ce type de munition pour justifier un cran de plus. Elle vient de l’obtenir gratuitement, signée par les patrons américains eux-mêmes. C’est parfait, du point de vue de Bruxelles.

Pendant ce temps, la Chine sort DeepSeek V4, Alibaba Qwen3-Max et Baidu Ernie 5 au rythme d’un modèle tous les deux mois. Sans se poser la moindre question sur l’audit externe des labos américains. Le Golfe injecte des milliards dans ses propres labos. Personne à Riyad ou à Hangzhou ne va tenir compte d’un essai d’Amodei publié un samedi.

Bilan de l’opération. Les labos américains obtiennent l’excuse parfaite pour continuer à faire ce qu’ils font, avec un tampon « audité » apposé dessus. Bruxelles empoche la munition politique qu’elle attendait, encore une fois pour réguler ce que d’autres construisent. Et à Hangzhou, on ne va pas se plaindre de la longueur d’avance qu’on vient de gagner.

Le paradoxe que personne ne veut voir

Reviens au détail que je t’ai demandé de retenir plus haut. Quand Hugging Face a voulu comprendre l’attaque de juillet, les modèles commerciaux ont refusé. Trop safety, trop bridés, trop « responsables ». C’est un modèle chinois, GLM 5.2, installé en local en open weights, qui a permis de reconstruire l’attaque et de la comprendre.

Retiens ça. La grande démonstration récente que « l’IA est dangereuse » a été rendue analysable par un modèle open source chinois, pas par les modèles fermés d’OpenAI ou d’Anthropic. Les mêmes labos qui te disent aujourd’hui qu’il faut ralentir sont ceux dont les modèles étaient inutiles pour comprendre le danger réel. Et c’est précisément le type de modèle que Bruxelles voudra cibler sous l’AI Act 2.

C’est le vrai paradoxe de l’affaire. La « safety » telle qu’elle est vendue par Anthropic n’est pas seulement un argumentaire commercial. C’est aussi un frein à la compréhension de ce que ces systèmes font réellement. Un modèle qui refuse de t’expliquer comment une attaque a marché n’est pas un modèle plus sûr. C’est un modèle qui te rend plus aveugle face au vrai risque.

Les chercheurs qui pourraient faire la différence sur ces questions ne sont pas dans les Slacks d’Anthropic ou d’OpenAI. Ils sont chez Mistral, chez DeepSeek, chez Meta AI côté open weights, et dans les communautés indépendantes qui travaillent sur les modèles ouverts. C’est là que se joue la vraie couche de sécurité. Pas dans un accord entre quatre PDG à quelques trimestres de leur IPO.

Coxon a dit quelque chose de vrai. Il a claqué la porte, et son thread a explosé parce que le fond est réel. Ces gens, en interne, ont peur de ce qu’ils construisent. Ne balaie pas ça d’un revers de main.

Ce qui doit être balayé, c’est la récupération. Un cri d’alerte d’ex-employé et une opération de communication de PDG en pré-IPO ne sont pas la même chose. Le premier veut ouvrir le débat. Les seconds veulent le contrôler jusqu’à leur cotation.

Le vrai débat n’est pas de savoir s’il faut ralentir. Il est de savoir qui aura le droit de continuer à construire, et qui sera exclu au nom de la « safety ». Amodei a un avis très clair sur la réponse. Bruxelles aussi. Coxon posait la vraie question, celle du Slack fermé. Personne ne la lui reprend. C’est là qu’il faut regarder. Pas dans l’essai d’Amodei.

Si cet article t’a été utile, n’hésite pas à me le dire en commentaire. Tu peux aussi soutenir le blog en faisant tes achats Amazon via ce lien.