Le secteur de l'intelligence artificielle est secoué par des interrogations sur la structure de pouvoir entourant Anthropic. L'analyste Kevin Bass a récemment soulevé une controverse majeure en suggérant que le laboratoire pourrait constituer un risque systémique similaire à ce que fut la plateforme FTX pour l'écosystème des cryptomonnaies. Au cœur de ces critiques réside l'idée d'une capture réglementaire orchestrée, où des liens financiers et organisationnels trop étroits entre les entreprises d'IA, leurs investisseurs et les entités chargées de leur sécurité créeraient un écosystème opaque et potentiellement biaisé.
Le point de tension principal concerne l'influence de fondations philanthropiques, notamment Good Ventures, qui soutiennent à la fois la recherche sur la sécurité de l'IA et le financement direct d'Anthropic. Cette configuration soulève des questions sur l'indépendance réelle des acteurs de l'AI safety. Par extension, l'organisation METR, spécialisée dans l'évaluation des modèles de pointe, se retrouve sous le feu des projecteurs. Bien que METR assure maintenir une autonomie stricte vis-à-vis des laboratoires, ses collaborations techniques étroites avec les leaders du marché entretiennent un sentiment de proximité préoccupant pour certains observateurs.
Le paradoxe dénoncé réside dans la stratégie d'Anthropic qui, tout en développant des modèles d'une puissance inédite, promeut activement des réglementations strictes et des audits externes. Pour les détracteurs, ces exigences normatives, bien que justifiées par la sécurité, pourraient servir de barrières à l'entrée, consolidant la position dominante des acteurs déjà bien établis tout en pénalisant les nouveaux concurrents. Cette dynamique renforcerait une forme de monopole intellectuel et financier sur les standards de l'industrie, rendant le marché particulièrement vulnérable à une défaillance de l'un de ses piliers.
L'analogie avec FTX souligne les enjeux de cette concentration. Si aucune fraude n'est à ce jour démontrée, le risque est celui d'une crise de confiance systémique capable de paralyser tout un pan de l'économie technologique. Avec des investissements massifs atteignant des centaines de milliards de dollars dans les infrastructures IA, la moindre remise en cause de la gouvernance ou de l'intégrité des audits pourrait provoquer un effet domino dévastateur. Le Congrès américain est ainsi appelé à examiner ces connexions, signe que la régulation de l'IA est devenue un enjeu politique autant qu'industriel.