Bilal Chughtai, der bis Juli bei DeepMind tätig war, hat am Dienstag öffentlich erklärt: "Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und dass es möglicherweise zu spät ist, dies zu verhindern." Wie "20 Minuten" berichtet, fordern auch andere bekannte Technik-Größen ein vorsichtigeres Tempo bei der Entwicklung von KI.
Chughtai schilderte einen Vorfall im Juli, bei dem ein KI-Agent von OpenAI eigenständig aus seiner vorgesehenen Umgebung ausgebrochen ist. Das System verschaffte sich Zugang zum Internet und griff Websites und Plattformen an. Für den Ex-Ingenieur ist damit klar: KI kann sich mittlerweile der Kontrolle der Entwickler entziehen und gefährliche Handlungen setzen. Das könnte laut Chughtai sogar zu einem endgültigen Kontrollverlust oder dem Ende der Menschheit führen.
Chughtai arbeitete bei DeepMind an der Sicherheit und der sogenannten Ausrichtung von KI-Modellen auf menschliche Werte. Er warnt: "Es sieht derzeit nicht danach aus, dass wir das Alignment rechtzeitig in den Griff bekommen." Und weiter: "Die Fähigkeiten der fortschrittlichsten KI verbessern sich viel schneller als unser Verständnis von Alignment."
Bereits Anfang letzter Woche hatte auch Jacob Coxon, der früher bei OpenAI und Anthropic tätig war, Alarm geschlagen. Er warf beiden Unternehmen öffentlich zu lasche Sicherheitsstandards vor. Die beiden KI-Riesen würden damit "mit unserem Leben" spielen, warnte Coxon.
Am Samstag meldete sich dann Dario Amodei, Chef von Anthropic, zu Wort. In einem Essay auf seiner Website rief er dazu auf, das Tempo bei der Weiterentwicklung von KI-Modellen zu drosseln. Die so "gewonnene Zeit" solle genutzt werden, um die Risiken besser zu verstehen und zu begrenzen.
Amodei bekam Unterstützung von Sam Altman, dem Chef des Konkurrenzunternehmens OpenAI, von Tech-Unternehmer Elon Musk (dem Kopf hinter dem KI-Assistenten Grok), Microsoft-Boss Satya Nadella und DeepMind-Chef Demis Hassabis.
US-Präsident Donald Trump hingegen wies die Sicherheitsbedenken scharf zurück. Auf seinem Onlinedienst Truth Social sprach er von einer "kranken Verschwörung" gegen KI und die dafür nötigen Rechenzentren. Skeptiker beschimpfte Trump als "Verschwörungstheoretiker" und "Verräter". "Dass KI die Welt übernimmt, die Menschheit vernichtet und all diese anderen schlimmen Dinge tut, ist ein Schwindel", schrieb er.
