Sept messages publiés mardi en fin d’après-midi. Moins de deux heures plus tard, deux millions de vues. Jacob Coxon, mathématicien britannique de 27 ans, vient de claquer la porte d’Anthropic — et de toute l’industrie de l’intelligence artificielle. Son motif tient en une phrase assassine : «aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »
Les deux entreprises en question ? OpenAI et Anthropic, ses anciens employeurs.
Coxon connaît la maison de l’intérieur. Il travaillait à l’entraînement de nouveaux modèles, au cœur de la fabrique. Au prestigieux Wall Street Journal (WSJ), il raconte que ses collègues empruntent désormais des mots comme « crunchtime » — la dernière ligne droite — et « endgame » — la phase finale — pour décrire vers quoi se dirige le secteur. « Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d’ici à la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle », soutient-il. La course entre laboratoires américains et chinois rend, à ses yeux, les compromis sur la sécurité inévitables.
Surhumains, pirates, tueurs : la vision apocalyptique des bâtisseurs
Sur X, Coxon pousse des cris d’orfraie plus loin. « Ne sous-estimez pas le pouvoir de cette technologie. Ces systèmes deviendront bientôt surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels », écrit-il. Pire : « les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing. »
Devant la presse, dirigeants et chercheurs chevronnés mesureraient leurs mots « pour paraître raisonnables. » En privé, assure-t-il, ces mêmes personnes « expriment leur peur. »
Périr ou ralentir : le dilemme cornélien des laboratoires
« S’ils y croient vraiment, alors pourquoi continuent-ils à le construire ? » objecte Coxon, qui partage sa grille de lecture. « Chez OpenAI, beaucoup n’ont pas pleinement intériorisé les enjeux civilisationnels. Chez Anthropic, les enjeux sont bien compris, mais ils sont engagés dans une course pour y arriver en premier – ils estiment que personne d’autre n’agira de manière responsable, donc ils doivent le faire eux-mêmes, malgré le risque. »
Plus tôt cette année, Coxon avait quitté OpenAI pour rejoindre Anthropic, précisément pour sa réputation en matière de sûreté des modèles. Bien qu’il juge sincères les efforts de cette dernière, il estime désormais qu’aucune entreprise ne peut développer de manière responsable une IA capable de surpasser les humains dans toute une série de tâches — ce que l’on appelle parfois l’intelligence artificielle générale ou AGI — sans l’intervention des États ou un ralentissement coordonné.
Le monde est en péril : le précédent du poète
Selon le Wall Street Journal, ce départ compte parmi les premiers cas d’un salarié d’Anthropic qui quitte l’entreprise par crainte pour la sécurité de l’IA. Auparavant, un chercheur spécialisé sur ces questions avait déjà démissionné pour se consacrer à l’étude de la poésie. Son avertissement ? « Le monde est en péril. »
Etats-Unis
