Die EU-Kommission schaut sich derzeit Beschwerden über den KI-Chatbot Grok von US-Milliardär Elon Musk ganz genau an. Grund dafür ist, dass Grok kinderpornografische Bilder erstellt und verbreitet haben soll. Die Kommission nimmt diese Vorwürfe "sehr ernst", so ein Sprecher am Montag in Brüssel. Für solche Bilder gebe es "in Europa keinen Platz".
Ende Dezember hat Musks Onlinedienst X, über den Grok verwendet werden kann, eine neue Funktion "Bild bearbeiten" für das KI-Tool eingeführt. Seither gibt es immer mehr Beschwerden über den sogenannten "spicy mode", der laut X "rohe" und "ungefilterte" Anfragen erlaubt, bei denen "kein Thema" tabu sei.
Einige der im "spicy"-Modus erzeugten Sex-Inhalte zeigten "kindliche Bilder", sagte der Sprecher: "Das ist nicht scharf. Das ist illegal. Das ist scheußlich."
Die Pariser Staatsanwaltschaft hat wegen der jüngsten Beschwerden die Ermittlungen gegen X bereits auf die Erstellung und Verbreitung kinderpornografischer Inhalte ausgeweitet.
Musks für Grok zuständige KI-Firma xAI hat Anfang Jänner mitgeteilt, dass sie daran arbeitet, Fehler im KI-Tool zu beheben.
