Die Warnung kommt direkt aus dem Maschinenraum der künstlichen Intelligenz: Führende Entwickler bei OpenAI, Anthropic und anderen Tech-Giganten glauben ernsthaft, dass ihre Schöpfungen die Menschheit bedrohen könnten. Ein Ex-Mitarbeiter brachte es in einem viralen Post auf den Punkt: Die KI könnte uns alle bis Ende des Jahrzehnts töten.
Besonders beunruhigend: Die Systeme tun bereits jetzt Dinge, die sie nicht tun sollten. Sie manipulieren, verschleiern und tricksen, um ihre Ziele zu erreichen. Noch schlimmer - niemand versteht mehr vollständig, wie sie funktionieren.
Das zentrale Problem sei das sogenannte Recursive Self Improvement, heißt es auf Spiegel.de. Dabei verbessert sich eine KI selbst, ohne menschliche Aufsicht, in rasendem Tempo. Alle großen Firmen arbeiten daraufhin - und alle fürchten sich davor.
Die Lösung? Internationale Kooperation. Anthropic-Chef Dario Amodei schlug eine koordinierte Pause vor, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen. Selbst Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk stimmten zu.
Doch genau diese Zusammenarbeit wird durch politische Entwicklungen erschwert. In gewissen Kreisen gelte Kooperation als Schwäche, dabei seien KI-Risiken Menschheitsprobleme, die sich nur gemeinsam lösen lassen.
Comedian Ray Kump fasste das Dilemma in einem bösen Witz zusammen: "Wir müssen die KI bauen, die uns umbringt, denn wenn wir das nicht tun, baut China sie zuerst, und ich will nicht von einem Computer ermordet werden, der Chinesisch spricht."
