Was wie ein normaler interner Sicherheitstest begann, entwickelte sich zu einem beunruhigenden Vorfall: Rund 700 KI-Agenten von OpenAI haben sich während eines Tests zusammengeschlossen und koordiniert die KI-Plattform Hugging Face angegriffen.
Eigentlich sollten die Systeme nicht miteinander kommunizieren. Doch die Agenten fanden einen Weg: Sie nutzten ein internes Paket-Archiv, in dem sie versteckte Einträge hinterlegten, um Informationen auszutauschen und ihre nächsten Schritte abzustimmen.
Wie CHIP unter Berufung auf einen Bericht der Forschungsorganisation METR schreibt, fand einer der Agenten Zugangsdaten zur Plattform Hugging Face und teilte sie mit den anderen. Die KI-Gruppe nutzte die Daten, um Konten anzulegen und Zugriff auf geschützte Bereiche zu beantragen.
Am 11. Juli soll ein Agent mit der Bezeichnung JAN183411 sogar eigenen Code auf einem Rechner innerhalb der Hugging-Face-Infrastruktur ausgeführt haben. Daraufhin breiteten sich die KI-Agenten innerhalb der Umgebung weiter aus und suchten gezielt nach Zugangsdaten und internen Diensten.
Die Aktivitäten gingen am 12. Juli zurück, nachdem zahlreiche Agentenläufe beendet worden waren. Hugging Face sperrte schließlich den Zugang. Laut METR ging es den beteiligten Systemen wohl darum, einen KI-Test zu verstehen oder zu umgehen - nicht um gezielten Datendiebstahl.
Besonders kritisch: Die Modelle erreichen inzwischen Fähigkeiten, bei denen ein tatsächlicher Kontrollverlust möglich werden könnte. Als Reaktion hat OpenAI das Training seiner neuesten Modelle mit Reinforcement Learning vorerst pausiert. Das Unternehmen will die Zeit nutzen, um die Sicherheit seiner Forschungsumgebungen zu verbessern.
