Die EU-Kommission prüft derzeit Beschwerden über Grok, weil damit angeblich auch kinderpornografische Bilder erstellt wurden. Indonesien hat als erstes Land weltweit Grok komplett gesperrt. In anderen Ländern ist das Tool nur noch für zahlende Kunden zugänglich. Die deutsche Justizministerin Stefanie Hubig will nun härter gegen sexualisierte Bilder vorgehen, die mit Künstlicher Intelligenz erstellt und im Internet verbreitet werden.
"Wir brauchen Straftatbestände, die das Problem der digitalen Bildmanipulationen gezielt adressieren", sagte Hubig der "Neuen Osnabrücker Zeitung". Menschen, die von solchen KI-Bildmanipulationen betroffen sind, sollen besser geschützt werden. "Es muss einfacher werden, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren", betonte Hubig.
Besonders erschüttert zeigte sich die Ministerin über den "Bikini jetzt"-Trend. "Ich finde es fürchterlich, wenn mit KI-Tools wie Grok massenhaft anzügliche Bilder von Frauen erzeugt werden – etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden", so Hubig. Sie kritisierte, dass Persönlichkeitsrechte dabei systematisch verletzt und Frauen zu Objekten gemacht werden. Ganz besonders scharf verurteilte sie die Erstellung sexualisierter KI-Bilder von Kindern und Jugendlichen. "Das dürfen wir nicht hinnehmen."
Laut Hubig gibt es zwar schon rechtliche Möglichkeiten, gegen die Verbreitung solcher Bilder vorzugehen. Aber das reicht ihr nicht, deshalb arbeitet das Justizministerium gerade an einem Entwurf für ein digitales Gewaltschutzgesetz. "Wir wollen angemessene Strafen für Deepfakes, die die Persönlichkeitsrechte von Betroffenen verletzen", sagte Hubig. Zusätzlich werde an nationalen Regeln gearbeitet, damit solche Bilder rasch aus dem Netz verschwinden und von Plattformen gelöscht werden.
Kritik, dass damit die Meinungsfreiheit eingeschränkt wird, etwa von X-Eigentümer Elon Musk, weist Hubig zurück. "Mit Zensur hat das nichts zu tun", stellt sie klar. Die Kunst- und Meinungsfreiheit sei ein hohes Gut, habe aber dort ihre Grenze, wo Persönlichkeitsrechte verletzt werden.
Hubig betonte auch: "Es geht nicht darum, Tools zu verbieten und Plattformen abzuschalten. Es geht auch nicht um eine Kontrolle von Meinungen, sondern darum, Persönlichkeitsrechte durchzusetzen und zu schützen."
Ende Dezember hat X eine "Bild bearbeiten"-Funktion für das KI-Tool eingeführt. Seitdem häufen sich Beschwerden über den sogenannten "spicy mode", bei dem angeblich "rohe" und "ungefilterte" Anfragen möglich sind – kein Thema soll tabu sein.
Die für Grok zuständige KI-Firma xAI, die zu Musk gehört, hat Anfang Jänner mitgeteilt, dass sie daran arbeitet, Fehler im System zu beheben.
