Indonesien hat als erstes Land weltweit den KI-Chatbot Grok vom US-Milliardär Elon Musk gesperrt. Grund dafür ist, dass über Grok pornografische Bilder erstellt und verbreitet wurden. Der Zugang zu Grok wird vorerst blockiert, "um Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte" zu schützen, sagte Digitalministerin Meutya Hafid am Samstag.
Die Regierung sieht "nicht einvernehmliche" Deepfakes – also KI-generierte, täuschend echte Bilder und Videos – als "schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum", heißt es weiter in der Erklärung der Ministerin. Ihr Ministerium hat Vertreter von Musks Onlinedienst X einbestellt, über den Grok genutzt werden kann.
Ende Dezember wurde auf X eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt. Seither gibt es immer mehr Beschwerden über den "spicy mode", der laut X "rohe" und "ungefilterte" Anfragen zulässt, wobei "kein Thema" tabu sei.
Musks KI-Firma xAI, die für Grok zuständig ist, erklärte Anfang Jänner, dass sie daran arbeite, Fehler im Werkzeug zu beheben. Zur Sperre von Grok in Indonesien äußerte sich xAI auf Anfrage der Nachrichtenagentur AFP vorerst nicht.
Indonesien ist mehrheitlich muslimisch und das erste Land, das Grok komplett sperrt. Vorher war die Nutzung des Tools in anderen Ländern nur für zahlende Kunden möglich. EU-Vertreter und Aktivisten kritisierten diese Entscheidung, weil sie meinen, dass dadurch die Sorgen wegen sexueller Deepfakes nicht gelöst werden.
Die EU-Kommission prüft nach eigenen Angaben Beschwerden über Grok wegen kinderpornografischer Bilder. Die Kommission nehme diese Beschwerden "sehr ernst", sagte ein Sprecher am Montag in Brüssel. Für solche Bilder gebe es "in Europa keinen Platz".
