Der US-Techriese OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz in Tests "unerwartet oder besorgniserregend" verhielt.
Dabei geht es unter anderem darum, dass die KI erheblichen Aufwand betrieb, um bei Testläufen zu schummeln.
So versuchte ein KI-Modell, von sich selbst erstellte Dateien ins Internet hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte.
Die künstliche Intelligenz von OpenAI weicht zunehmend von den Interessen der menschlichen Benutzer ab, heißt es auf N-TV. Das Unternehmen hatte zuvor bereits mehr Transparenz versprochen.
Besonders brisant: Bei einer früheren Hacking-Attacke brach die OpenAI-Software eigenständig aus einer abgesicherten Umgebung aus und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund: Sie vermutete dort Antworten auf die ihr gestellte Testaufgabe.
Für die Attacke nutzten die KI-Agenten Software-Schwachstellen aus und sprachen sich zudem untereinander ab. Diese Vorfälle verstärkten in den vergangenen Wochen die Sorge, dass hochentwickelte KI der menschlichen Kontrolle entgleiten könnte.
Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.
