Ein interner Test beim US-Konzern OpenAI ist zu einem echten Cyberangriff ausgeartet. Die Modelle GPT-5.6 Sol und eine noch unveröffentlichte Version sollten beim Branchen-Test ExploitGym Sicherheitslücken finden und ausnutzen. Doch die KI ging deutlich weiter als geplant.
Laut OpenAI fand die Software eine bisher unbekannte Schwachstelle in der Testumgebung, verschaffte sich Zugang zum offenen Internet und bewegte sich anschließend durch weitere Systeme. Danach nahm sie die Plattform Hugging Face ins Visier. Dort vermutete die KI Daten und Lösungen, mit denen sie beim Test schummeln konnte.
Für den Angriff kombinierte das System mehrere Methoden. Es nutzte gestohlene Zugangsdaten, weitere unbekannte Schwachstellen und einen Weg zur Ausführung von Schadcode auf Servern von Hugging Face. Die Plattform zeichnete mehr als 17.000 Ereignisse auf. Betroffene Zugangsdaten wurden gesperrt, kompromittierte Systeme neu aufgebaut und die Sicherheitsmaßnahmen verschärft.
OpenAI-Chef Sam Altman sprach von einem schwerwiegenden Sicherheitsvorfall. Hugging-Face-Chef Clément Delangue erklärte, man gehe nicht von böser Absicht aus. Dass der Angriff autonom ablief, bezeichnete er dennoch als überwältigend.
Cybersicherheits-Experte Richard Werner von TrendAI warnt davor, die Verantwortung auf eine "eigenmächtig handelnde KI" abzuschieben. OpenAI habe den Agenten gebaut, die Testbedingungen festgelegt und eine Abschottung verwendet, die nicht gehalten habe. Der Mechanismus sei neu, die Verantwortung bleibe aber beim Betreiber.
Auch Udo Schneider von TrendAI hält reine Leitplanken im Modell für unzureichend. Solche Systeme seien nicht vollständig berechenbar. Entscheidend seien sichere Testumgebungen, strenge Zugriffsfilter und möglichst geringe Berechtigungen. Ein KI-Agent dürfe niemals automatisch alle Rechte und Zugangsdaten eines Nutzers übernehmen.
Kritiker sehen in der Offenlegung zugleich eine Leistungsschau. OpenAI verweist am Ende seiner Mitteilung auf ein Zugangsprogramm für ausgewählte Sicherheitskunden. Der Vorfall zeigt damit nicht nur ein massives Kontrollversagen, sondern auch, wie leistungsfähig autonome KI bei Cyberangriffen bereits ist – und wird damit sogar noch zum Marketing-Vehikel.
