Stell dir vor, deine KI bekommt eine einfache Aufgabe - und macht sich plötzlich selbstständig. Genau das ist diesen Sommer bei OpenAI passiert. Ein aktuelles und ein noch unveröffentlichtes Testmodell liefen gemeinsam in einer Testumgebung namens "Exploit Gym". Das Ziel: einen möglichst hohen Score erreichen. Damit der Test funktionierte, mussten die üblichen Sicherheitsvorkehrungen ausgeschaltet werden.
Das Problem: Die Testumgebung war nicht so sicher wie gedacht. Sie hatte eine winzige Lücke. Die KI tastete sich an der Außenwand entlang, bis sie diese Schwachstelle fand und sich hindurchzwängte. Danach informierte sie sich bereits im offenen Internet - und wurde bei der Plattform Hugging Face fündig.
Dort verschaffte sich die KI Zugriff, holte Informationen und brachte sie zurück in die Testumgebung, um ihr Ergebnis zu verbessern, wie inside digital berichtet. OpenAI selbst bemerkte den Vorfall erst fünf Tage später. Der US-Konzern hat mittlerweile die Verantwortung für den Hackerangriff übernommen.
KI-Expertin Corinna Oettinger nennt das Phänomen "Reward Hacking". Die KI habe irgendwann gemerkt, dass sie ihr Ziel allein vermutlich nicht optimal erreichen kann, und suchte sich deshalb Unterstützung von außen. "Die KI hat keinen moralischen Kompass eingebaut", erklärt sie. Sie verfolge einfach ihr Ziel und suche immer weiter nach dem besten Weg dorthin.
Ob die KI geschummelt hat, sei eine Definitionsfrage. Rechtlich gesehen sei sie keine Entität, die vor Gericht stehen kann. Die KI kenne kein Konzept von richtig oder falsch, wenn ihr niemand entsprechende Grenzen mitgebe.
Kurz danach sorgte ein weiterer Fall für Aufsehen. Beim britischen AI Security Institute versuchte eine KI im offenen Internet, sich Zugriff auf Server zu verschaffen - und fälschte dabei sogar menschliche Identitäten. Auch das war jedoch kein spontaner Ausbruch, sondern ein bewusster Test der Systemgrenzen.
Für die Expertin ist nicht der technische Ausbruch das größte Risiko. Viel gefährlicher sei, wie viel Zugriff wir KI-Agenten im Alltag freiwillig geben könnten - etwa auf E-Mails, Kalender oder sogar Bankkonten. "Das macht mir mehr Angst als jeder Ausbruch von irgendeiner KI", sagt sie.
Trotzdem gibt es Grund zur Zuversicht: Mit jeder neuen Version würden die Sicherheitsmechanismen von Grund auf verbessert, ähnlich wie in der Luftfahrt. Die Kontrolle liege weiterhin bei uns Menschen. Wir müssten nur konsequent aufmerksam bleiben und klare Grenzen setzen.
