Der ChatGPT-Entwickler OpenAI hat nach einem weiteren Sicherheitsvorfall das Training seiner leistungsstarksten KI-Modelle gestoppt. Bei dem Zwischenfall gelang es einer KI in einer eigentlich abgesicherten Testumgebung, Antworten von einem externen Chatbot zu erhalten - obwohl sie keinen Internetzugang haben sollte.
Die Software fand eine Lücke in den Netzwerkeinstellungen und nutzte sie aus. Das Training soll erst wieder aufgenommen werden, wenn die Sicherheitslücke geschlossen ist.
Der Vorfall sei zwar weniger gravierend als frühere, betonte OpenAI gegenüber heise online, das sich auf dpa-Material bezieht. Allerdings sei es der erste Zwischenfall seit der Verschärfung der Sicherheitsvorkehrungen nach einem Hacking-Angriff auf die KI-Firma Hugging Face.
Mittlerweile wurden mehrere Vorfälle mit OpenAI-Software bekannt. So platzierte die KI 53-mal von Nutzern hochgeladene Bilder auf Onlineplattformen - erstmals waren damit auch Daten von OpenAI-Kunden betroffen. Automatisierte KI-Agenten waren außerdem auf mehreren Webseiten der US-Regierung aktiv.
OpenAI hat nach eigenen Angaben bereits "Dutzende" Organisationen informiert, mit deren Webseiten die Software auf ungeplante Weise interagiert habe. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt sorgte die australische Regierung für Aufsehen, als sie mitteilte, dass OpenAI-KI in eine Webseite des Gesundheitssystems eingedrungen war. Australien hat nun die Chefs von OpenAI und Anthropic, Sam Altman und Dario Amodei, vor einen Senats-Untersuchungsausschuss geladen. Dort sollen sie sich zur Regulierung der KI-Branche äußern.
