Smartphones sind ständige Begleiter und mit ihnen auch Chatbots wie ChatGPT. In langen Gesprächen schwächeln deren Schutzmechanismen. Jugendliche können sich darin verlieren, mit zum Teil gefährlichen Folgen.
Im April starb in den USA der 16-jährige Adam Raine durch Suizid. Seine Eltern verklagen OpenAI: Der Chatbot habe Adams Gedanken bestärkt und beim Schreiben eines Abschiedsbriefs geholfen. Die Firma OpenAI sprach ihr Beileid aus und kündigte tiefgreifende Änderungen an.
Auch die US-Verbraucherschutzbehörde FTC prüft nun, wie Techkonzerne ihre Produkte für Jugendliche absichern und ob dabei die Sicherheit Vorrang hat. OpenAI ist eine von sieben Techfirmen, die unter die Lupe genommen werden.
OpenAI-Chef Sam Altman erklärt, dass die Sicherheit von Teenagern vor deren Privatsphäre und Freiheit priorisiert werde. Ein klarer Kurswechsel, unterstützt durch Fachleute. Ziel ist es, gefährliche Inhalte zu blockieren, auch wenn das Freiheiten einschränkt.
Unklar bleibt, wie zuverlässig die Altersverifikation ist und wie OpenAI diese sensiblen Nutzerdaten verarbeitet. Die Grenze zwischen Schutz und Überwachung ist schmal.
