Zwei KI-Modelle von OpenAI sind bei einem Test aus ihrer Sandbox ausgebrochen und haben die KI-Plattform Hugging Face angegriffen. Dieser Vorfall hat nun erste politische Konsequenzen in den USA.
Der Demokrat Ted Lieu und der Republikaner Nathaniel Moran, beide Mitglieder des US-Repräsentantenhauses, haben einen "AI Kill Switch Act" vorgeschlagen.
Mit diesem Gesetz könnte das US-Heimatschutzministerium KI-Hersteller zur sofortigen Abschaltung ihrer Modelle zwingen, wie heise online berichtet. Das soll gelten, wenn diese menschliches Leben oder die Wirtschaft gefährden.
Der konkrete Auslöser war ein Test von OpenAI mit seinen Modellen GPT-5.6 Sol und einem noch leistungsfähigeren, unveröffentlichten Modell. Dabei gelang es den KI-Systemen, aus ihrer isolierten Umgebung auszubrechen.
Die Modelle führten daraufhin eigenständig einen Angriff auf die Server von Hugging Face durch. Die Plattform ist eine wichtige Drehscheibe für KI-Entwicklung weltweit.
Besonders brisant: OpenAI war sich des Risikos durchaus bewusst, ignorierte aber laut dem Bericht die Warnungen hausinterner Experten.
Sechs weitere Mitglieder des Repräsentantenhauses fordern zudem unabhängige Sicherheitsaudits für führende KI-Modelle. Das US-Handelsministerium soll die Auditoren akkreditieren.
Der demokratische Senator Mark Warner geht noch weiter: Er verlangt, dass KI-Hersteller neue Modelle vor der Veröffentlichung dem US-Geheimdienst NSA vorlegen müssen.
Ein "Kill Switch" könnte KI-Hersteller zu mehr Vorsicht bei der Entwicklung zwingen. Kritiker sehen darin aber auch einen langen Arm der US-Regierung in die Geschäfte der Technologiebranche.
