Die EU reagiert auf einen Skandal rund um KI-generierte Nacktbilder. Die Mitgliedstaaten sprechen sich nun für ein Verbot von Anwendungen aus, mit denen sexualisierte Bilder realer Menschen ohne deren Einwilligung erstellt werden können.
Die Botschafter der 27 EU-Länder einigten sich am Freitag auf eine gemeinsame Position zur Änderung des Gesetzes über Künstliche Intelligenz. Anlass war die massenhafte Erstellung und Verbreitung sexualisierter KI-Bilder von Frauen und Kindern Anfang des Jahres mithilfe des Chatbots Grok von US-Milliardär Elon Musk.
Das geplante Verbot soll Teil einer Reihe von Änderungen am bestehenden KI-Gesetz sein, das die Europäische Union erst 2024 verabschiedet hatte. Parallel dazu wird auch im EU-Parlament über eine Verschärfung der Regeln beraten. Es wird erwartet, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein Verbot solcher KI-Anwendungen abstimmen.
Grok ist eine Funktion, die in den Onlinedienst X integriert ist. Für Kritik sorgte Anfang Jänner vor allem der sogenannte "Spicy Mode" (scharfer Modus). Damit konnten Nutzer innerhalb von Sekunden anzügliche Bilder von Frauen oder Kindern erstellen – etwa mit Aufforderungen wie "entferne ihre Kleider" oder "zieh ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
Der Vorfall löste international Ermittlungen aus. Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool. Im Auftrag der EU startete auch die irische Aufsichtsbehörde eine Untersuchung. Der Betreiber X erklärte, Maßnahmen ergreifen zu wollen, um die Erstellung solcher Bilder zu verhindern.
Neben dem geplanten Verbot sprachen sich die EU-Botschafter auch für Änderungen beim Zeitplan für streng regulierte KI-Systeme aus. Die Vorschriften für eigenständige risikoreiche KI-Systeme sollen demnach erst ab Dezember 2027 gelten, für in Produkte integrierte risikoreiche Systeme ab August 2028. Bisher war vorgesehen, dass die Regeln bereits ab August 2026 beziehungsweise August 2027 in Kraft treten.
