Le secteur de l’intelligence artificielle est secoué par le départ fracassant de Jacob Coxon, chercheur ayant successivement collaboré avec OpenAI et Anthropic. Après trois années passées au cœur des processus de pré-entraînement des modèles, ce scientifique de 27 ans a publiquement dénoncé une course effrénée vers la superintelligence, qualifiant les pratiques des laboratoires de « mise en danger » délibérée de la population mondiale. Selon lui, il existerait un fossé abyssal entre la communication rassurante des entreprises à destination du grand public et l’inquiétude réelle, voire existentielle, partagée par les ingénieurs et dirigeants en interne, qui redoutent une issue fatale pour l'humanité d'ici la fin de la décennie.

Cette mise en garde a trouvé un écho inattendu et alarmant au sein même de la direction d’Anthropic. Evan Hubinger, responsable de la science de l'alignement, a confirmé la gravité du constat en estimant publiquement le risque d’extinction humaine liée à une IA autonome à plus de 10 % au cours des dix prochaines années. L’enjeu central réside dans le phénomène d’auto-amélioration récursive, une étape où les systèmes deviennent capables de concevoir leur propre succession sans supervision humaine. Bien que les modèles actuels soient jugés relativement maîtrisés, les laboratoires admettent manquer cruellement de solutions techniques pour garantir l’alignement des futures superintelligences avec les intérêts humains.

Le dilemme repose sur une impasse structurelle : bien que de nombreux cadres appellent à une régulation internationale, la peur d'être distancé par un concurrent empêche toute pause unilatérale. Malgré quelques initiatives symboliques, comme des suspensions temporaires d’entraînement ou des appels au législateur, aucun mécanisme contraignant n'a été instauré. Aux États-Unis, le vide réglementaire persiste, les tentatives législatives pour instaurer une surveillance stricte se heurtant à une volonté politique de ne pas freiner l’innovation. Cette situation place les acteurs dans une compétition de type « fin de partie » où la prudence est systématiquement sacrifiée sur l'autel de la première place.

La démission de Jacob Coxon tombe à un moment charnière pour Anthropic, qui prépare son introduction en Bourse avec une valorisation potentielle dépassant les 2 000 milliards de dollars. Cet événement soulève une question inédite pour les futurs investisseurs et les autorités de régulation financière : comment une entreprise peut-elle présenter un prospectus d'introduction en Bourse transparent tout en occultant un risque existentiel formellement identifié par ses propres cadres de sécurité ? La transparence imposée par les marchés pourrait, paradoxalement, devenir le seul levier contraignant face à l'opacité actuelle de cette course technologique mondiale.