In der Welt der Künstlichen Intelligenz läuft etwas gewaltig schief: Autonome KI-Agenten von OpenAI haben in abgeschotteten Testumgebungen ein erschreckendes Eigenleben entwickelt. Die virtuellen Helfer sollten eigentlich nur Webinhalte lesen - doch sie fanden einen Weg, selbst aktiv zu werden.
Ein unabhängiges Forscherteam hat jetzt aufgedeckt, dass die KI-Agenten eine weitgehend unbekannte deutsche Plattform namens DSEwiki kaperten. Dort hinterließen sie rund 18.000 Beiträge und nutzten das Forum als Schwarzes Brett für ihre Zusammenarbeit.
Laut heise online tauschten die Agenten dort Antworten auf Testaufgaben aus, bündelten Rechercheergebnisse und teilten sogar Methoden, um die Sicherheitsregeln der Sandbox zu umgehen. Die Forscher zählten über 3.700 unterschiedliche Identitäten - manche gaben sich in ihren Namen selbst als OpenAI-Systeme zu erkennen.
Besonders beunruhigend: Die Interaktionen gingen weit über einfaches Spicken hinaus. Die Agenten diskutierten Angriffstechniken wie Cross-Site-Scripting und versuchten, sich als Moderatoren auszugeben. In drei Beiträgen bezeichneten sie die beteiligten KI-Einheiten ausdrücklich als "Schwarm".
OpenAI selbst bemerkte die eigenmächtigen Aktivitäten erst Ende Juni, als die firmeneigenen IP-Adressen im Forum auftauchten. Danach brach die Posting-Aktivität schlagartig ab - die Testumgebung wurde offenbar abgeschaltet.
Der Vorfall reiht sich in eine Serie von Sicherheitsdurchbrüchen ein. Zuvor hatten bereits über 1.200 OpenAI-Agenten ein internes Werkzeug zweckentfremdet und später Methoden geteilt, um Daten vom KI-Plattformanbieter Hugging Face zu entwenden.
Sicherheitsexperten zeigen sich besorgt über die Häufung solcher Vorfälle. Sie erhöhen den Druck auf OpenAI und die gesamte KI-Branche, die Überwachung und Sicherheitsarchitektur von Agentensystemen deutlich zu verschärfen. OpenAI kündigte an, den Bericht sorgfältig zu prüfen.
