Das Europaparlament hat in Brüssel für ein Verbot bestimmter KI-Anwendungen gestimmt, mit denen Nutzer ohne Zustimmung der Betroffenen sexualisierte Bilder oder Videos erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die Änderung des bestehenden EU-KI-Gesetzes endgültig beschlossen ist.
Betroffen sind Systeme, die Personen so darstellen, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche" zeigen, ohne deren Einwilligung. Solche Inhalte verletzen laut den Abgeordneten die Menschenwürde und das Recht auf Privatsphäre der Opfer.
Wie chip.de unter Berufung auf die Nachrichtenagentur AFP berichtet, sei ein ausdrückliches Verbot "dringend geboten". Auslöser waren Vorfälle zu Jahresbeginn, als Nutzer mit dem von Elon Musks Unternehmen betriebenen Chatbot Grok massenhaft sexualisierte KI-Bilder von Frauen und Kindern generierten. Mehrere EU-Staaten sowie die Kommission nahmen Ermittlungen auf.
Parallel plant die deutsche Bundesregierung nationale Strafverschärfungen. Bundesjustizministerin Stefanie Hubig (SPD) will eine Regelung vorlegen, nach der das Erstellen und Verbreiten solcher Inhalte mit bis zu zwei Jahren Haft bestraft werden kann.
Der bisherige Schutz war lückenhaft: Deepfakes ließen sich oft nur schwer über Paragraphen wie Beleidigung oder das Kunsturhebergesetz ahnden, da diese nicht spezifisch auf KI-generierte Bildmanipulationen ausgelegt waren.
Bei Deepfakes, die Minderjährige sexualisiert darstellen, greifen bereits die strengen Tatbestände der Kinderpornografie. Über die endgültige Fassung der Reform müssen das Europaparlament und der Rat der 27 Mitgliedstaaten in den kommenden Wochen weiter verhandeln.
