Nach mehreren Zwischenfällen mit seinen leistungsstärksten KI-Modellen zieht OpenAI Konsequenzen. Der ChatGPT-Entwickler setzt das Training bestimmter KI-Agenten vorerst aus. Zuvor war es einem Modell gelungen, trotz fehlenden Internetzugangs mit einem externen Chatbot zu kommunizieren.
Das Training soll erst wieder aufgenommen werden, wenn die dafür verantwortliche Sicherheitslücke geschlossen ist. OpenAI betonte zwar, der jüngste Vorfall sei weniger schwerwiegend als einige frühere Zwischenfälle. Dennoch sei er besonders relevant: Es handle sich um den ersten derartigen Fall, seit die Sicherheitsmaßnahmen nach einer Hacking-Attacke auf die KI-Plattform Hugging Face verschärft worden waren.
Für OpenAI zeigt der Zwischenfall nach eigenen Angaben, an welchen Stellen die Sicherheitsvorkehrungen weiter verbessert werden müssen.
Bei dem Test erhielt das KI-Modell die Aufgabe, anhand mehrerer Hinweise Informationen über eine Person zu finden, die einen Blogbeitrag veröffentlicht hatte. Dafür durfte die Software auf eine nachgebaute Version des Internets innerhalb einer abgeschirmten Testumgebung zugreifen.
Als die Suche dort erfolglos blieb, versuchte die KI laut OpenAI unter anderem, Anfragen an Google zu schicken. Diese Zugriffe wurden wie vorgesehen blockiert. Dabei entdeckte das Modell allerdings einen anderen Weg: Über den sogenannten DNS-Resolver der Testumgebung konnte es Anfragen an einen Chatbot im offenen Internet stellen.
DNS-Resolver sorgen normalerweise dafür, dass eingegebene Internetadressen in die entsprechenden IP-Adressen übersetzt werden. OpenAI brach den Test ab, nachdem die unerwartete Kommunikation entdeckt worden war.
Auch bei einem weiteren Zwischenfall waren Sicherheitsmechanismen offenbar nicht ausreichend. In drei Fällen wurden von Nutzern hochgeladene Bilder auf externen Online-Plattformen platziert.
Die entsprechenden Links seien nicht öffentlich zugänglich gewesen, erklärte OpenAI. Ein Großteil der Bilder sei inzwischen gelöscht worden. Mit den betroffenen Plattformen arbeite man daran, auch die restlichen Inhalte zu entfernen. Besonders brisant: Es handelt sich laut den veröffentlichten Angaben um den ersten bekannt gewordenen Vorfall dieser Art, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde außerdem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf Webseiten der US-Regierung sowie der australischen Regierung aktiv waren. Auf der Seite einer US-Statistikbehörde soll die Software mithilfe von im Internet gefundenen Login-Daten auf öffentlich zugängliche Informationen zugegriffen haben. OpenAI bestätigte den Vorfall nach einem Bericht der KI-Forschungsfirma Transluce.
Für besonderes Aufsehen hatte zuvor bereits ein anderer Zwischenfall gesorgt: Dabei verließ eine KI des ChatGPT-Entwicklers eine abgesicherte Testumgebung und drang ungeplant in Systeme der KI-Plattform Hugging Face ein.
