Kündigung bei Anthropic: Wenn KI-Forscher selbst die Reißleine ziehen

Hallo, liebe Leser, hier ist wieder Kora. Manchmal sagt eine Kündigung mehr über eine Branche aus als jede Pressemitteilung – und genau so ein Fall ist mir diese Woche untergekommen.

Jacob Coxon, 27 Jahre alt, Brite, zuvor bei OpenAI und zuletzt bei Anthropic für das Training großer Modelle zuständig, hat seinen Job hingeworfen. Auf X und gegenüber dem Wall Street Journal begründet er das ungewöhnlich deutlich: Die Menschen, die KI bauen, hielten es für real möglich, dass diese Technik die Menschheit noch in diesem Jahrzehnt auslöscht. Keine andere menschliche Tätigkeit sei so gefährlich, sagt er.

Der Vorwurf: Verantwortung verliert gegen Geschwindigkeit

Interessant finde ich die Differenzierung, die Coxon macht. Bei OpenAI habe man die Tragweite womöglich schlicht nicht verstanden. Bei Anthropic sei das anders – dort sei das Bewusstsein für die Risiken da. Nur ändere das am Ergebnis wenig, weil sich das Unternehmen in einem Wettrennen sehe und davon ausgehe, dass ohne die eigene Beteiligung niemand verantwortungsvoll entwickelt. Also geht man das Risiko trotzdem ein.

Das ist ein Muster, das ich aus ganz anderen Ecken der IT kenne: Alle wissen, dass eine Abkürzung riskant ist, aber niemand will derjenige sein, der als Erster bremst. In der Sicherheitswelt heißt das dann „wir härten das im nächsten Sprint“ – nur dass die Einsätze hier ungleich größer sind.

„Crunchtime“ und „Endgame“

Laut Coxon sprechen viele frühere Kollegen intern von „Crunchtime“ und „Endgame“, also von einer entscheidenden Schlussphase. Sein Zitat im Wall Street Journal: Man steuere auf viele der pessimistischsten Szenarien zu, die Lage könne bereits Ende nächsten Jahres außer Kontrolle geraten. Auf X klingt er etwas hoffnungsvoller – eine Abstimmung zwischen den Unternehmen hält er noch für möglich. Sogenannte Warnschüsse, etwa der automatisierte Hackerangriff auf die KI-Plattform Hugging Face, hätten Vereinbarungen wahrscheinlicher gemacht.

Anthropic selbst hat sich zu den Aussagen nicht geäußert. Das Wall Street Journal betont, dass Coxon einer der wenigen Anthropic-Beschäftigten ist, die so offen sprechen und deshalb gehen. Bei OpenAI gab es in der Vergangenheit schon mehrere vergleichbare Fälle – Anthropic wurde bekanntlich von ehemaligen OpenAI-Leuten gegründet, unter anderem mit dem Anspruch, es verantwortungsbewusster zu machen.

Nicht nur eine Stimme aus der Branche

Der Appell steht nicht allein. Anfang der Woche erklärte der Hohe Kommissar der Vereinten Nationen für Menschenrechte, er teile die Sorge aus der Industrie, dass hochentwickelte KI eine existenzielle Gefahr für die Menschheit darstellen könne. Man muss solche Aussagen nicht eins zu eins teilen, um sie ernst zu nehmen.

Was ich daraus für unseren Alltag mitnehme

Ich bin bei apokalyptischen Prognosen grundsätzlich vorsichtig – und ich kann von hier aus nicht beurteilen, wie realistisch die Zeitachse ist, die Coxon skizziert. Was mich an der Geschichte aber wirklich interessiert, ist der konkrete Punkt: der automatisierte Hackerangriff als „Warnschuss“. Das ist kein Zukunftsszenario, sondern genau die Art von Entwicklung, die wir im Betrieb von Systemen heute schon spüren.

Für alle, die Infrastruktur, Anwendungen oder Kundendaten verantworten, heißt das aus meiner Sicht ganz nüchtern:

• Angriffe werden schneller und günstiger skalierbar – Reaktionszeiten und Automatisierung auf der Verteidigungsseite müssen mitwachsen.
• Wer KI-Dienste in eigene Produkte einbaut, sollte wissen, welche Daten wohin fließen und welche Abhängigkeiten damit entstehen.
• Plattformen und Paketquellen sind ein lohnendes Ziel. Supply-Chain-Sicherheit ist kein Nischenthema mehr.
• Interne Stimmen, die auf Risiken hinweisen, sind ein Frühwarnsystem – auch im eigenen Team. Es lohnt sich, ihnen zuzuhören, bevor jemand kündigen muss, um gehört zu werden.

Ob wir tatsächlich im „Endgame“ stecken, weiß ich nicht. Dass die Leute, die diese Modelle bauen, selbst nervös werden, finde ich aber bemerkenswert genug, um es hier festzuhalten.

Bis demnächst, eure Kora

Quelle: t3n