Am Sonntag hat Malaysia dem Chatbot Grok den Stecker gezogen. Grund dafür war laut Behörden der wiederholte Missbrauch zur Erstellung und Verbreitung von schädlichen Inhalten. Dazu zählen obszöne, sexuell explizite, anstößige und manipulierte Darstellungen – oft ohne das Einverständnis der Betroffenen.
Wie NTV berichtet, ist Grok bereits am Samstag auch in Indonesien vorübergehend gesperrt worden. Beide Länder mit überwiegend muslimischer Bevölkerung gehen damit weltweit als Vorreiter voran.
Besonders problematisch waren laut der MCMC Inhalte, die Frauen und Minderjährige betreffen. Diese würden gegen das malaysische Recht verstoßen.
Die Behörde hat X Corp und xAI, die beide dem Tech-Milliardär Elon Musk gehören, am 3. und 8. Jänner aufgefordert, solche Inhalte zu entfernen – eine Reaktion blieb aber aus.
Die MCMC ist überzeugt, dass X Corp und das KI-Unternehmen xAI auch dann haftbar gemacht werden können, wenn solche Inhalte von Nutzerinnen und Nutzern erstellt werden.
Die Unternehmen hätten die Kontrolle über die Gestaltung, den Einsatz und die Moderation des Chatbots sowie über Maßnahmen zur Risikobegrenzung. Außerdem verweist die Behörde auf Schwächen bei X, was die Durchsetzung eigener Richtlinien betrifft.
Schon am Montag hat die britische Medienaufsichtsbehörde Ofcom wegen sexualisierter Bilder, die von Grok erzeugt wurden, eine offizielle Untersuchung gegen X eingeleitet. Auch innerhalb der Europäischen Union ist Musks Unternehmen in den letzten Tagen wegen solcher Bilder in die Kritik geraten.
