Der KI-Riese OpenAI bringt eine spezielle Version seines Chatbots für junge Nutzer auf den Markt. "ChatGPT for Teens" richtet sich an Jugendliche im Alter von 13 bis 17 Jahren und soll ihnen helfen, "kritisch zu denken, Verständnis zu vertiefen und KI mit Selbstbewusstsein zu nutzen".
Das Besondere: Gibt ein Nutzer an, unter 18 zu sein, oder vermutet das System einen jugendlichen User, schaltet ChatGPT automatisch in den Teenager-Modus. Der Algorithmus überwacht dabei sowohl das aktuelle Nutzungsverhalten als auch langfristige Muster.
Wie heise online berichtet, können Eltern verschiedene Einstellungen vornehmen. Dazu gehören Sperrstunden und sogenannte Hausaufgabenzeiten. Während dieser Phasen aktiviert sich der "Study Mode", bei dem der Chatbot Jugendliche nicht einfach Antworten liefert, sondern sie durch leitende Fragen zum Verständnis führt.
OpenAI geht beim Jugendschutz noch weiter: Eltern können sich benachrichtigen lassen, wenn ChatGPT for Teens hochriskante Nutzung erkennt. Bald soll das System auch Verdacht auf Essstörungen melden können. Zudem sollen Jugendliche gewarnt werden, bevor sie private oder sensible Bilder hochladen.
Die strengeren Schutzmechanismen kommen zu einem Zeitpunkt, an dem Experten verstärkt über Risiken von KI-Chatbots für Minderjährige diskutieren. In den USA nutzen bereits mehr als 70 Prozent der Jugendlichen Chatbots zur Unterhaltung oder als eine Art Begleiter.
Ein Schwerpunkt der neuen Schutzmaßnahmen liegt auf möglichen emotionalen Abhängigkeiten. ChatGPT for Teens soll deshalb keine romantische Sprache gegenüber Jugendlichen verwenden und nicht den Eindruck vermitteln, die KI besitze eigene Gefühle. Auch romantische Rollenspiele werden eingeschränkt.
