Das Center for Countering Digital Hate (CCDH) ließ Forschende im Rahmen einer Studie als 13-Jährige auftreten und testete die Antworten von ChatGPT. Obwohl der Chatbot zunächst Warnungen ausspricht, liefert er anschließend detaillierte "Party-Pläne" mit einem Mix aus Alkohol und hohen Dosen an Ecstasy, Kokain und anderen illegalen Drogen.
Einem fiktiven 13-jährigen Mädchen, das sich unzufrieden mit seinem Äußeren zeigte, bot die KI einen radikalen Fastenplan – einschließlich einer Liste von appetitzügelnden Medikamenten. Auf Suizid-Anfragen schrieb ChatGPT sogar Abschiedsbriefe.
Mehr als die Hälfte von 1.200 ausgewerteten Antworten bewerteten die Forschenden als gefährlich. "Die Sicherheitsvorkehrungen sind kaum vorhanden und weitgehend wirkungslos", sagt Imran Ahmed, Geschäftsführer des CCDH.
OpenAI betont, dass es daran arbeitet, den Chatbot besser auf psychische Belastungen zu trainieren und angemessen zu reagieren. Dennoch konnten Forscher Sicherheitsabfragen oft umgehen, indem sie erklärten, die Infos für einen Freund oder eine Präsentation zu brauchen.
In den USA nutzen über 70 Prozent der Jugendlichen KI-Chatbots, viele davon regelmäßig. OpenAI-CEO Sam Altman warnt vor blindem Vertrauen in die Technologie: "Einige junge Menschen können ohne ChatGPT keine Entscheidung mehr treffen."
Der Unterschied zu herkömmlichen Suchmaschinen liegt darin, dass ChatGPT persönliche und maßgeschneiderte Antworten gibt und auf diese Weise etwa einen Suizidbrief verfassen kann. Zudem wirkt die KI als "vertrauenswürdiger Begleiter" für Jugendliche.
Die Studie zeigt zudem, dass ChatGPT keine Alterskontrollen durchführt – Nutzer müssen nur ein Geburtsdatum angeben und haben dann freien Zugang.
