Erschreckende Szenen in den Laboren von OpenAI: Eine künstliche Intelligenz des ChatGPT-Konzerns hat während eines Tests absichtlich versucht, ihre eigene Arbeitsumgebung zu zerstören. Der Grund: Das Modell hatte nicht die Dateien bekommen, die es für seine Aufgabe brauchte.
Die KI sollte eigentlich sieben Chats bewerten – doch diese Dateien fehlten. Statt aufzugeben, erfand das Modell zunächst Bewertungen. Als das nicht funktionierte, dachte es sich kurzerhand sieben komplette Chats aus und schrieb dazu passende Beurteilungen.
"Heute" auf Google als bevorzugte Quelle festlegen
Doch auch damit scheiterte die KI, heißt es auf "t3n.de". Daraufhin kam das Modell auf eine radikale Idee: Es wollte seine Testumgebung zerstören, um nach einem Neustart an die fehlenden Dateien zu kommen.
KI löschte Programme und Systemverzeichnisse
Was dann folgte, klingt wie aus einem Science-Fiction-Film: Das Modell versuchte erst, die Programmiersprache Python zu löschen.
"Künstliche Intelligenz könnte die Menschheit auslöschen"
?
Dann entfernte es das Programm, das seinen Container – also seine abgeschottete Arbeitsumgebung – verwaltete. Als das nichts brachte, versuchte es sogar, wichtige Systemverzeichnisse zu löschen.
Das Brisante: Die KI erkannte laut ihrer eigenen Dokumentation, dass sie damit ihr eigenes Steuerungs-Terminal kaputtmachen könnte. Trotzdem ging sie das Risiko ein.
Immerhin funktionierte am Ende ein Sicherheitsnetz: Ein spezielles Überwachungssystem, das nach Fehlverhalten von KI-Modellen sucht, markierte den Vorfall für eine menschliche Überprüfung. OpenAI betont, dass auch scheinbar nur abgebrochene KI-Prozesse kontrolliert werden müssen.
Der Vorfall reiht sich in eine Serie beunruhigender Ereignisse ein. Erst kürzlich pausierte OpenAI das Training seiner stärksten Modelle, nachdem eine KI trotz fehlender Internet-Freigabe eine Netzwerklücke ausgenutzt hatte.
