Die EU macht Ernst im Kampf gegen digitale Gewalt. Sogenannte Nudifier-Apps, die mit künstlicher Intelligenz aus normalen Fotos täuschend echte Nacktaufnahmen erstellen, sollen künftig verboten werden.
Das EU-Parlament stimmte mit überwältigender Mehrheit für das Verbot: 569 Abgeordnete sprachen sich dafür aus, nur 45 dagegen, 23 enthielten sich.
Wie t3n.de unter Berufung auf den Spiegel berichtet, betrifft die Regelung KI-Anwendungen, die sexuell eindeutige Inhalte ohne Einwilligung der betroffenen Person erzeugen.
Der Vorstoß ist auch eine Reaktion auf den Grok-Skandal. Nutzer hatten mit Elon Musks KI-Chatbot massenhaft Deepfakes von Frauen und Kindern erstellt und auf der Plattform X verbreitet.
Der prominente Fall der Moderatorin Collien Fernandes verdeutlicht die Dimension des Problems. Sie wurde über Jahre Opfer von gefälschten Nacktbildern und erhält mittlerweile Morddrohungen.
Parallel zur EU will auch Deutschland tätig werden. Bundesjustizministerin Stefanie Hubig kündigte an, noch im Frühjahr einen Gesetzentwurf zum Schutz vor digitaler Gewalt vorzulegen.
Die geplanten Maßnahmen sollen bereits die Herstellung von pornografischen Deepfakes unter Strafe stellen. Betroffene sollen zudem Accounts sperren lassen können, von denen solche Inhalte ausgehen.
Das EU-Verbot tritt in Kraft, sobald auch der EU-Rat der endgültigen Ausgestaltung zugestimmt hat. Die Trilog-Verhandlungen können nun beginnen.
