Wenige Klicks genügen, um mit dem KI-Chatbot Grok sexualisierte Bilder von echten Personen zu erstellen. Die Funktion wird millionenfach missbraucht, um gefälschte Nacktfotos von Frauen und sogar Kindern zu generieren.
Die betroffenen Opfer haben meist keine Ahnung, dass solche Bilder von ihnen im Umlauf sind. Der Chatbot Grok gehört zu Elon Musks Plattform X, vormals Twitter.
Wie n-tv.de berichtet, will die EU diesem Treiben nun einen Riegel vorschieben. Brüssel arbeitet an einer Verschärfung der Regeln für künstliche Intelligenz, um sexuelle Deepfakes zu bekämpfen.
Musks KI-Firma xAI hat zwar angekündigt, technologische Maßnahmen einzuführen, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung verhindern sollen. Diese Beschränkung soll sowohl für kostenlose als auch für zahlende Nutzer gelten.
In der Praxis zeigt sich jedoch, dass die Funktion weiterhin nutzbar ist. Die EU setzt daher auf verbindliche Gesetze statt auf freiwillige Selbstregulierung der Technologie-Konzerne.
