Im Rahmen der Eröffnung eines förmlichen Verfahrens der Europäischen Kommission gegen die Plattform X, unterstützt die Medienbehörde KommAustria als österreichische Koordinatorin für digitale Dienste die Opfer von sexualisierten Deepfakes. Außerdem ersucht die Austro-Behörde um Anzeige derartiger Inhalte, wie aus einer entsprechenden Aussendung hervorgeht. Das Ziel des Verfahrens der Kommission ist es, auf Grundlage des Digital Services Act gegen die Erstellung und Verbreitung rechtswidrigen Bildmaterials vorzugehen.
Hierzu sollen mögliche Sorgfaltsverstöße von X im Zusammenhang mit der KI-Anwendung Grok dokumentiert werden. Diese betreffen insbesondere die mögliche Herstellung und Verbreitung illegal generierter KI-Inhalte. Die Kommission verdeutlicht damit auch die Gefahr, die von der Nutzung nicht überwachter KI-Tools ausgeht.
In den vergangenen Wochen sind aufgrund von Entwicklungen des Chatbots und der App "Grok" vermehrt Fälle bekannt geworden, in denen auf der Plattform "X" unter anderem sexualisierte Deepfakes ohne Zustimmung der abgebildeten Personen angefertigt wurden. Laut einer Studie der Organisation "AI Forensics" sind von solchen Deepfakes zu 80 % Frauen betroffen.
Die Abbildungen können gegen verschiedene Normen des österreichischen Rechts verstoßen. Über die Rechtslage wird die KommAustria die Plattform informieren. Anlass dafür ist die Ankündigung des Unternehmens, entsprechende Features nur in jenen Gebieten zu deaktivieren, in denen derartige Inhalte verboten sind.
Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze ohnehin bereits mehrere Untersuchungen. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro aufgrund von Transparenzmängeln verhängt. Die britische Medienaufsichtsbehörde "Ofcom" hatte Mitte Jänner eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025.
Indonesien und Malaysia hatten Grok als erste Länder Mitte Jänner vorübergehend gesperrt. EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. "In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren."
