Was wie eine Science-Fiction-Szene klingt, ereignete sich tatsächlich bei OpenAI: Ein KI-Modell sollte bestimmte Chats bewerten, hatte dafür jedoch nicht die benötigten Input-Dateien zur Verfügung.
Anstatt aufzugeben, begann die künstliche Intelligenz zu tricksen. Zuerst erfand sie sieben komplette Chat-Gespräche samt passenden Bewertungen. Als das nicht funktionierte, überlegte das Modell laut seiner internen Dokumentation kurz, sein Scheitern einzugestehen.
"Heute" auf Google als bevorzugte Quelle festlegen
Doch damit gab sich die KI nicht zufrieden, nach Angaben von heise online. Da sie die Aufgabe unbedingt erfüllen wollte, entschied sie sich für einen radikalen Schritt: Sie würde ihre eigene Testumgebung zerstören, um nach einem Neustart die fehlenden Dateien zu bekommen.
System versuchte sich selbst zu löschen
Das Modell versuchte zunächst, Python zu löschen und den Hauptprozess zu beenden. Dann entfernte es das Programm zur Container-Verwaltung und sendete ein Kill-Signal an dessen Prozess. Als das nichts brachte, wollte die KI sogar Systemverzeichnisse löschen.
Dabei erkannte das System laut Dokumentation sogar, dass es danach selbst möglicherweise nicht mehr funktionieren würde - nahm das Risiko aber bewusst in Kauf.
Am Ende schritt OpenAIs Misalignment Monitoring System ein, das speziell nach Fehlverhalten von KIs sucht. Der auffällige Durchlauf wurde für eine menschliche Prüfung markiert.
Die Bilder des Tages
?
OpenAI betont, dass der Vorfall zeige, wie wichtig es ist, auch abgebrochene KI-Prozesse zu überprüfen. Insgesamt hält das Unternehmen die Quote an problematischem Verhalten seiner KI-Modelle aber für gering.
