Gewalttätige Inhalte, antisemitische Aussagen und sexualisierte Bilder von Kindern und Frauen: Die Vorwürfe gegen den Onlinedienst X und seinen KI-Chatbot Grok sind alles andere als harmlos. Die EU-Kommission hat am Montag den Druck auf das Unternehmen von US-Milliardär Elon Musk weiter erhöht. Damit könnte es auch wieder Ärger mit den USA geben.
Im Mittelpunkt der jüngsten Untersuchungen stehen KI-Bilder, auf denen Frauen und Mädchen ohne ihr Einverständnis im Bikini, fast nackt oder in eindeutig sexualisierten Posen zu sehen sind. Anfang des Monats haben Nutzer von X mit Hilfe von Grok Millionen solcher Bilder erstellt und veröffentlicht. Laut Schätzungen der britischen Organisation CCDH waren darunter 23.000 Bilder von Kindern.
Auch andere Ermittlungen gegen X laufen schon länger. Im Vorjahr ist Grok aufgefallen, weil der Chatbot den Holocaust verharmlost und Hitler gelobt hat. Außerdem dreht sich vieles um die Verbreitung von Gewaltvideos und Hass im Netz.
Die EU verpflichtet Plattformen wie X durch das Gesetz über digitale Dienste (DSA), solche Inhalte rasch zu entfernen. Dazu zählen Gewaltvideos, kinderpornografisches Material, Morddrohungen oder Nazi-Symbole. Was auf der Straße verboten ist, gilt auch im Internet.
X muss jetzt genau erklären, wie die Plattform gegen die Verbreitung solcher Bilder vorgeht. Die Kommission kritisiert außerdem, dass X bei den Risikoanalysen Lücken hat: Obwohl Grok schon fixer Bestandteil von X ist und die gleiche Künstliche Intelligenz wie bei den Empfehlungssystemen verwendet wird, kommt Grok in den bisherigen Berichten nicht vor.
Ja. Laut eigenen Angaben verbietet X inzwischen sexualisierte Bilder von Frauen und Kindern. Außerdem ist die Funktion zur Bilderstellung jetzt nur noch für zahlende Nutzer verfügbar. Das reicht der EU-Kommission aber noch lange nicht. "Kindesmissbrauchs-Material ist kein Privileg für Premium-Nutzer", meinte ein Sprecher in Brüssel.
Die Ermittler stehen laufend mit dem Unternehmen in Kontakt. Bisher hat X auf alle Fragen und Vorwürfe aus Brüssel geantwortet, betont der Sprecher. Auf die neuesten Ermittlungen von Montag haben sich Musk oder X aber noch nicht geäußert.
Ein Bußgeld von bis zu fünf Prozent des weltweiten Jahresumsatzes. Schon im Dezember hat die Kommission eine erste Strafe von 120 Millionen Euro verhängt. Damals ging es vor allem um zu wenig Transparenz bei der Werbung. Die aktuellen Vorwürfe rund um Grok sind noch schwerwiegender.
Nein. Bevor die Kommission eine Strafe verhängt, muss sie X offiziell einen Verstoß nachweisen und die Möglichkeit geben, Änderungen vorzunehmen. Falls es zu einem Bußgeld kommt, kann X noch vor dem Europäischen Gerichtshof (EuGH) dagegen Einspruch erheben.
Vertreter der US-Regierung hatten im Dezember scharf auf die Strafe reagiert und der EU "Zensur" vorgeworfen. US-Vizepräsident JD Vance meinte schon früher, die Kommission gehe "amerikanische Unternehmen wegen Blödsinns" an. US-Handelsminister Howard Lutnick hat im Vorjahr außerdem gefordert, alle Verfahren gegen US-Digitalkonzerne zu beenden, solange es keinen Kompromiss im Zollstreit gibt.
Sie weist den Vorwurf der "Zensur" entschieden zurück. Die Verbreitung von Kindesmissbrauchs-Material und Bildern von Frauen, die gegen ihren Willen halbnackt gezeigt werden, habe "nichts mit Meinungsfreiheit zu tun", sagte ein Sprecher am Montag. Wer das anders sieht, "lebt nicht einmal auf demselben Planeten" wie die EU.
