"Hey @grok, put her in a Bikini."
Dieser kurze Satz reichte lange Zeit, um von jeder beliebigen Person auf X (einst Twitter) sexualisierte Bilder zu erstellen – auch von Minderjährigen. Elon Musks KI "Grok" machte es möglich. Noch einen Schritt weiter ging ein Schüler in der Steiermark. Die Bildungsdirektion zeigt keine Toleranz.
Er fertigte erst heimlich Handyfotos von Mitschülerinnen an und jagte die Aufnahmen dann durch die KI, um so an übersexualisierte und täuschend echte Bilder zu gelangen. Die Bildungsdirektion bestätigt dem ORF, dass es deshalb jetzt erstmals zu einer Suspendierung kam.
Der Fall könnte aber weitaus verheerendere Folgen haben. "Durch Grok diese Persönlichkeitsrechte systematisch und dauerhaft gegenüber mehr als zehn Personen zu verletzen, ist eine Straftat", sagt der Grazer Medienanwalt Stefan Schoeller dem ORF. Die reine Erkennbarkeit der Person im KI-Bild reiche aus und ab 14 sind Schüler bekanntlich strafmündig.
Sobald solch ein Bild an mehr als zehn Personen, etwa über WhatsApp, weitergeleitet wird, kommt strafrechtliche Relevanz ins Spiel. Bei einem öffentlichen Posten wird es noch heikler. Das Entfernen von den Seiten der internationalen Plattformen sei von Österreich aus aber sehr schwierig, so der Anwalt.
