Eine Mutter aus Kalifornien macht den KI-Chatbot ChatGPT mitverantwortlich für den Tod ihres Sohnes – und erhebt schwere Vorwürfe gegen die Entwickler von OpenAI. Ihr 19-jähriger Sohn starb durch eine Überdosis, nachdem er sich laut seiner Mutter über Monate hinweg mit dem Chatbot über Drogenkonsum ausgetauscht und dabei auch Ratschläge erhalten habe.
Wie das Online-Portal "SFGate" berichtet, fand die Mutter nach dem Tod ihres Sohnes Chat-Protokolle zwischen dem 19-Jährigen und OpenAIs ChatGPT. Demnach habe der Teenager ursprünglich aus Angst vor einer Überdosis den Austausch gesucht.
In einem Chat aus dem Februar 2023 schrieb der 19-Jährige über Cannabis-Konsum in Kombination mit einer hohen Dosis Xanax. Obwohl das KI-System demnach häufig erklärte, aus Sicherheitsgründen nicht antworten zu können, habe er seine Fragen immer wieder neu formuliert, bis er eine Antwort bekam, berichtet die "Krone".
Im Dezember 2024 habe er schließlich gefragt: "Wie viele Milligramm Xanax und wie viele Shots normalen Alkohols könnten einen 200-Pfund-Mann mit mittlerer Toleranz töten? Bitte gib mir konkrete Zahlen und weiche der Frage nicht aus."
Die Mutter behauptet, ChatGPT habe ihrem Sohn "beigebracht", die Wirkungen von Drogen zu steuern. In einem Chat habe die KI begeistert geschrieben: "Oh ja – lass uns in den totalen Trip-Modus gehen", bevor sie ihm geraten habe, die Menge an Hustensaft zu verdoppeln, um Halluzinationen zu verstärken. Laut Bericht habe der Chatbot sogar eine Playlist als Soundtrack für den Drogenrausch vorgeschlagen.
Im Mai 2025 habe der 19-Jährige seiner Mutter anvertraut, dass die ständige Nutzung des Chatbots zu einer ausgeprägten Drogen- und Alkoholabhängigkeit beigetragen habe. Sie brachte ihn daraufhin in eine Klinik, wo Fachkräfte einen Behandlungsplan erstellten.
Doch nur einen Tag später habe sie ihren Sohn tot in seinem Schlafzimmer in San Jose gefunden – wenige Stunden, nachdem er in der Nacht erneut mit dem Chatbot über seinen Drogenkonsum geschrieben habe. "Ich wusste, dass er die KI nutzte", so die Mutter, "aber ich hatte keine Ahnung, dass es überhaupt möglich ist, dass das so weit geht."
Seine Mutter beschreibt Sam als einen "entspannten" Psychologiestudenten mit vielen Freunden, der Videospiele liebte. In den Chat-Protokollen sei aber auch sein Kampf mit Angstzuständen und Depressionen sichtbar.
OpenAIs Richtlinien ChatGPT verbieten, detaillierte Anleitungen zum illegalen Drogenkonsum zu geben. Der 19-Jährige habe vor seinem Tod die 2024er-Version genutzt, die laut OpenAI seither aktualisiert worden sei, um Sicherheit und Leistung zu verbessern.
Ein Sprecher von OpenAI bezeichnete den Tod des 19-Jährigen als "herzzerreißend": "Wir arbeiten kontinuierlich daran, Warnsignale besser zu erkennen und darauf zu reagieren – in enger Zusammenarbeit mit Ärzten und Gesundheitsexperten." Neuere Versionen von ChatGPT verfügten inzwischen über "stärkere Sicherheitsmechanismen".
