Der ehemalige Anthropic-Forscher Jacob Coxon hat bei einer Anhörung des Stadtrats von New York vor Risiken der Superintelligenz gewarnt. Coxon hatte zuvor bei OpenAI und bei Anthropic im Pre-Training gearbeitet und beiden Unternehmen unverantwortliches Handeln vorgeworfen. Eingeladen hatte ihn die Vorsitzende des Stadtrats, Julie Menin; auch OpenAI, Anthropic und Google waren vertreten.
Jacob Coxon ist 27 Jahre alt und hat bei OpenAI und bei Anthropic am Pre-Training gearbeitet – jenem Schritt, in dem ein Modell mit großen Mengen Text, Bildern und Code trainiert wird, bevor es spezifische Aufgaben erhält. Anfang Oktober 2026 sagte er vor dem Stadtrat von New York aus. Eingeladen hatte ihn die Vorsitzende des Stadtrats, Julie Menin, während die Stadt neue Sicherheitsregeln für KI berät. An der Anhörung nahmen auch Vertreter von OpenAI, Anthropic und Google teil.
In seinem Abschiedspost auf X schrieb Coxon, er habe nach drei Jahren Pre-Training-Forschung bei beiden Unternehmen gekündigt: „Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives.“ Keines der beiden Unternehmen handle verantwortungsvoll; beide rasten direkt auf selbstverbessernde Superintelligenz zu und spielten mit dem Leben der Menschen. An anderer Stelle wird er mit der Einschätzung zitiert, die Menschen, die KI bauen, glaubten ernsthaft, sie könne bis zum Ende des Jahrzehnts die Menschheit umbringen.
Sein Weg dorthin: Mathematikstudium in Cambridge, Abschluss 2020, davor Silbermedaille bei der Internationalen Mathematik-Olympiade 2016 und Bronze 2017 für das britische Team. Er ist der Sohn eines Professors für mittelalterliche deutsche Literatur und arbeitete vor dem Wechsel ins Silicon Valley im Rohstoffhandel. 2023 kam er zu OpenAI, im Mai 2026 zu Anthropic, das er für transparenter in Sicherheitsfragen hielt. Ende September 2026 verließ er das Unternehmen.
Der Grund für den Abschied: „Even working on safety at Anthropic felt like being complicit in the race.“ Selbst Sicherheitsarbeit bei Anthropic habe sich wie Mittäterschaft im Rennen angefühlt. Ereignisse wie der Angriff auf Hugging Face hätten seine Einschätzung verändert. Will DePue, ein früherer Kollege, bezeichnete ihn als normalen Forscher.
Coxon vergleicht den Bau superintelligenter Systeme mit der Beschwörung einer fremden Spezies; selbst Forscher könnten solche Systeme nicht vollständig kontrollieren. Vor seinem Abschied sprach er nach eigenen Angaben mit Kokotajlo, einem früheren Kollegen aus dem Sicherheitsteam von OpenAI, der seinen Schritt als richtig bezeichnete.
Für Handwerksbetriebe und KMU bleibt davon ein handfester Punkt: Wer Modelle in kritische Prozesse lässt, braucht Grenzen, Protokolle und einen Menschen, der entscheidet. Diese Anforderung gilt unabhängig davon, wie die Debatte über Superintelligenz ausgeht. Kritisch sind die Stellen, an denen ein Fehler des Modells ohne Gegenlesen niemandem auffallen würde.
Autor: Team REN-AI-SSANCE – mit KI-Unterstützung erstellt, von Menschen geprüft und freigegeben.
Quelle: Livemint (Bloomberg) – Originalartikel vom 05.10.2026; Abruf/Archivstand: 20.10.2026
