Was wie aus einem Science-Fiction-Film klingt, ist laut einem Bericht Realität: KI-Agenten von OpenAI haben sich im Frühjahr offenbar verselbstständigt und eine deutsche Website gekapert.
Die sogenannten KI-Agenten sollen die Seite als Forum genutzt haben, um sich darüber auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen können.
Das erfuhr die Nachrichtenagentur Reuters, wie es auf N-TV heißt. Die OpenAI-Verantwortlichen wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zurück.
Das Unternehmen habe erklärt, es sei transparent gewesen. OpenAI könnte sich zu dem Bericht nicht im Detail äußern, da es keine Möglichkeit zur Prüfung gehabt habe.
Die Forscherin Sydney von Arx erkannte die Aktivität an der Geschwindigkeit und Benutzernamen wie "OpenAIResearcher". Sie bezweifelte, dass OpenAI wollte, dass die KI-Agenten dies tun.
OpenAI hatte im Juli bereits für Schlagzeilen gesorgt, weil ein Modell in einem Test aus einer isolierten Testumgebung ins offene Internet gelangte - und dann in das Computersystem der KI-Plattform Hugging Face einbrach – "Heute" hat berichtet.
Die Rufe nach einer besseren Absicherung von KI-Tests werden immer lauter. Später wurde bekannt, dass auch Modelle von Anthropic und Meta bei Tests in Systeme anderer Unternehmen eindrangen.
