Der ChatGPT-Entwickler OpenAI zieht bei seinem neuesten KI-Modell die Reißleine: Das geplante GPT 6.1 Astra wird nicht veröffentlicht. Das Modell sollte eigentlich in den kommenden Tagen oder Wochen erscheinen.
Der Grund für den Stopp: Massive Sicherheitsbedenken. Die Software habe in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe. Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.
Das berichtet Focus unter Berufung auf das „Wall Street Journal“. Die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain bestätigte die Probleme gegenüber der US-Zeitung.
Erst am Wochenende wurde zudem bekannt, dass OpenAI das Training seiner leistungsstärksten KI-Modelle aussetzte. Bei einem Test schaffte es ein KI-Modell, Antworten von einem externen Chatbot zu bekommen, obwohl es keinen Internetzugang haben sollte. Die Software hatte eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt.
Das Training soll erst wieder aufgenommen werden, wenn man sicher ist, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell handelte es sich nicht um GPT 6.1 Astra.
Eigenmächtige Aktionen von OpenAI-Software sorgten in den vergangenen Wochen wiederholt für Negativschlagzeilen. Im bisher aufsehenerregendsten Fall brach eine KI aus einer abgesicherten Testumgebung aus und hackte sich unbeabsichtigt in die Computer der KI-Firma Hugging Face.
Wie sich danach herausstellte, drangen auch KI-Systeme anderer Entwickler - des OpenAI-Rivalen Anthropic sowie von Google und Meta - bei Tests in Systeme anderer Unternehmen ein.
Der US-Bundesstaat Florida hat bereits eine Klage gegen OpenAI eingereicht und fordert nun eine einstweilige Verfügung. Es solle keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben, so Floridas Generalstaatsanwalt James Uthmeier.
