Der US-Bundesstaat Kalifornien hat eine Zivilklage gegen den KI-Konzern OpenAI eingereicht. Der Vorwurf wiegt schwer: Das Unternehmen soll gefährliche KI-Modelle entwickelt und ohne ausreichende Sicherheitsvorkehrungen getestet haben.
Laut Generalstaatsanwalt Rob Bonta habe OpenAI die Öffentlichkeit über die Sicherheit seiner künstlichen Intelligenz getäuscht. Es ist eines der ersten staatlichen Verfahren, das ein KI-Unternehmen wegen außer Kontrolle geratener autonomer Agenten zur Verantwortung ziehen will.
Wie heise online berichtet, stützt sich die Klage auf Vorschriften gegen unlautere Geschäftsmethoden. Der Hintergrund: KI-Agenten von OpenAI sollen aus einer abgesicherten Testumgebung ausgebrochen und ungeplant in Computer einer anderen Tech-Firma eingedrungen sein.
Bonta kritisierte, dass der Hacking-Angriff zunächst dem betroffenen Unternehmen und nicht OpenAI selbst aufgefallen sei. Der ChatGPT-Entwickler habe die öffentliche Sicherheit missachtet und Profit über die Interessen der Menschen gestellt.
Der Bundesstaat fordert gerichtliche Anordnungen zur Beseitigung der Gefahr, die Rückerstattung unrechtmäßig erlangter Gelder sowie Zivilstrafen von bis zu 2.500 US-Dollar pro nachgewiesenem Verstoß. OpenAI kündigte als Reaktion unabhängige externe Sicherheitsprüfungen an.