Nach dem Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot Grok leitet die EU-Kommission ein Verfahren gegen den US-Konzern X ein. Laut Mitteilung verdächtigt die Brüsseler Behörde das Unternehmen des Tech-Milliardärs, die Risiken bei der Einführung seiner künstlichen Intelligenz auf der Online-Plattform nicht richtig bewertet und reduziert zu haben.
Seit einem Update des KI-Bots Ende November konnten mit Grok freizügige, teils pornografische, Deepfakes generiert werden. Laut einer Untersuchung der Organisation "AI Forensics" soll Grok auch genutzt worden sein, um entsprechende Aufnahmen von Minderjährigen zu erstellen. In diesem Verfahren stützt sich die Kommission auf den Digital Services Act (DSA) und nicht das KI-Gesetz.
Die Bildgenerierung von Grok ist in der Social-Media-Plattform X integriert, was dazu führt, dass die Aufnahmen dort auch weiterverbreitet werden können. Wegen übergriffigen Bildern – etwa von Schwedens stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren Chatbot eingeschränkt.
"Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt", antwortet Grok inzwischen. Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.
X hatte nach umfassender internationaler Kritik Mitte Jänner reagiert und erklärt, dass man Grok am Erstellen von sexualisierten KI-Nacktbildern hindern wolle. Elon Musk selbst schrieb, dass ihm kein einziger Fall bekannt sei, in dem Nacktaufnahmen von Minderjährigen von Grok erstellt worden seien.
Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze ohnehin bereits mehrere Untersuchungen. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro aufgrund von Transparenzmängel verhängt. Die britische Medienaufsichtsbehörde "Ofcom" hatte Mitte Jänner eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025.
Indonesien und Malaysia hatten Grok als erste Länder Mitte Jänner vorübergehend gesperrt. EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. "In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren."
