Der britische KI-Forscher Jacob Coxon (27) hat beim Claude-Entwickler Anthropic gekündigt und sorgt nun mit drastischen Aussagen für Aufsehen. "Wenn wir das derzeitige Tempo nicht drosseln, besteht eine große Wahrscheinlichkeit, dass wir alle in naher Zukunft sterben könnten", sagte er in einer BBC-Sendung.
Coxon, der zuvor auch bei OpenAI tätig war, behauptet, Menschen innerhalb der KI-Unternehmen seien "ernsthaft verängstigt". Er warnt davor, dass künftige Systeme "alles hacken" und sich Zugang zu realer Macht und Ressourcen verschaffen könnten.
Es könne KI-Unternehmen in wenigen Jahren gelingen, superintelligente Systeme zu bauen, die die Fähigkeiten von Menschen in allen Feldern weit übertreffen, heißt es auf heise.de. Diese könnten "gefährliche Handlungen ausführen, die zum Tod der Menschheit führen könnten".
US-Präsident Donald Trump hat Rufe nach einer Pause bei der KI-Entwicklung zurückgewiesen. Auch China winkt ab: Ein Sprecher des Außenministeriums in Peking kritisierte "Panikmache, Konfrontation und rücksichtslosen Wettbewerb".
Anthropic-Chef Dario Amodei hatte zuvor eine koordinierte Pause vorgeschlagen. Experten halten die Warnungen für relevant, betonen aber: Zwischen einem Cyberangriff und dem tatsächlichen Aussterben der Menschheit liegen noch gewaltige Schritte.
Der Kern der Sorge hat laut Fachleuten einen technischen Hintergrund: KI-Systeme könnten zunehmend selbstständig Arbeitsschritte ausführen und mit anderen KI-Agenten zusammenarbeiten. Aus einer falschen Antwort könnte so eine ganze Folge falscher Handlungen werden.
Das Fazit: Weder die Heilsversprechen noch die Untergangsszenarien der Branche sollten ungeprüft übernommen werden. Innovation und Sicherheit seien keine Gegensätze - aber wachsam müsse man bleiben.
