Jacob Coxon hätte wohl nie gedacht, dass er die Firma, bei der er gerade erst aus Überzeugung begonnen hatte, so schnell wieder verlassen würde.
Der 27-jährige britische Mathematiker trainierte bis vor Kurzem KI-Modelle bei OpenAI, bevor er zu Anthropic wechselte, weil die Firma größeren Wert auf Sicherheit lege.
Doch nun warf auch Coxon bei Anthropic das Handtuch. Keine der beiden Firmen handle verantwortungsbewusst. "Sie spielen mit unseren Leben", warnte Coxon auf X nach seiner Kündigung. Am verheerenden Wettlauf der KI-Industrie wolle er sich nicht länger beteiligen.
Wie N-TV berichtet, sprächen intern viele seiner Kollegen von "Ernstfall" und "Endspiel", wenn sie über die weitere KI-Entwicklung redeten.
"Wir steuern mit Volldampf auf die aggressivsten Szenarien zu, wonach die Dinge bereits Ende nächsten Jahres außer Kontrolle geraten könnten", sagte Coxon.
Berichte, dass Schwärme von OpenAIs KI-Agenten unbemerkt aus ihren Testumgebungen ausgebrochen und in fremde Websites eingedrungen sind, haben Experten alarmiert. "Unterschätzen Sie die Macht dieser Technologie nicht. Das werden bald übermenschliche Systeme sein, die alles knacken können", warnt Coxon.
Ein Top-Wissenschaftler von Anthropic bestätigte die Bedenken: "Wir glauben wirklich, dass KI alle Menschen töten könnte! Ich persönlich schätze das Risiko dafür auf über zehn Prozent in den nächsten zehn Jahren."
Die KI-Entwicklung trägt Züge einer selbsterfüllenden Prophezeiung: Die Firmen spielen nicht mit der Zukunft der Menschheit, weil sie böse Absichten haben, sondern weil die fatalen politischen und wirtschaftlichen Anreize sie dazu treiben. Jeder, der seine KI-Forschung gezielt bremst, ist im Nachteil gegenüber den anderen.
KI-Forscher Eliezer Yudkowsky bringt den Wettlauf um die niedrigsten Sicherheitsstandards auf den Punkt: "Wenn einer es baut, sterben alle."
Anthropic-Co-Gründer Jack Clark schätzt die Wahrscheinlichkeit, dass sich eine Superintelligenz ohne menschliche Hilfe selbst erfindet, auf 60 Prozent bis 2028.
