Der Bereich der Künstlichen Intelligenz wird durch den spektakulären Abgang von Jacob Coxon erschüttert, einem Forscher, der nacheinander für OpenAI und Anthropic tätig war. Nach drei Jahren im Zentrum der Pre-Training-Prozesse von Modellen prangerte der 27-jährige Wissenschaftler öffentlich einen ungebremsten Wettlauf zur Superintelligenz an und bezeichnete die Praktiken der Labore als eine bewusste „Gefährdung der Weltbevölkerung“. Ihm zufolge klafft eine tiefe Kluft zwischen der beruhigenden Kommunikation der Unternehmen gegenüber der Öffentlichkeit und der realen, teils existentiellen Sorge der Ingenieure und Führungskräfte im Unternehmen, die ein fatales Ende für die Menschheit bis zum Ende des Jahrzehnts befürchten.

Diese Warnung stieß selbst in der Führungsebene von Anthropic auf unerwartete und alarmierende Resonanz. Evan Hubinger, Leiter der Alignment-Forschung, bestätigte die Schwere der Einschätzung, indem er das Risiko der menschlichen Auslöschung durch eine autonome KI für die kommenden 10 Jahre auf über 10 % schätzte. Der entscheidende Punkt liegt im Phänomen der rekursiven Selbstverbesserung, einem Stadium, in dem Systeme in der Lage sind, ihre eigenen Nachfolger ohne menschliche Aufsicht zu konzipieren. Obwohl die aktuellen Modelle als relativ beherrschbar gelten, räumen die Labore ein, dass es ihnen massiv an technischen Lösungen fehlt, um die Ausrichtung zukünftiger Superintelligenzen an menschlichen Interessen zu gewährleisten.

Das Dilemma beruht auf einer strukturellen Sackgasse: Obwohl zahlreiche Führungskräfte eine internationale Regulierung fordern, verhindert die Angst, von einem Konkurrenten überholt zu werden, jede einseitige Pause. Trotz einiger symbolischer Initiativen, wie vorübergehenden Trainingsstopps oder Appellen an den Gesetzgeber, wurden bisher keine verbindlichen Mechanismen eingeführt. In den USA besteht weiterhin ein regulatorisches Vakuum, da legislative Versuche zur Einführung einer strengen Überwachung am politischen Willen scheitern, die Innovation nicht auszubremsen. Diese Situation zwingt die Akteure in einen Wettlauf nach dem Prinzip „Endspiel“, bei dem Vorsicht systematisch dem Streben nach der Spitzenposition geopfert wird.

Der Rücktritt von Jacob Coxon fällt für Anthropic in einen entscheidenden Moment, während das Unternehmen seinen Börsengang mit einer potenziellen Bewertung von über 2 Billionen Dollar vorbereitet. Dieses Ereignis wirft eine neuartige Frage für künftige Investoren und Finanzaufsichtsbehörden auf: Wie kann ein Unternehmen ein transparentes Börsenprospekt vorlegen und gleichzeitig ein existentielles Risiko verschweigen, das von den eigenen Sicherheitsverantwortlichen offiziell identifiziert wurde? Die von den Märkten geforderte Transparenz könnte paradoxerweise der einzige verbindliche Hebel angesichts der aktuellen Intransparenz dieses globalen Technologie-Wettrennens werden.