Eine 31-Jährige vertraute bei ihrer Epilepsiebehandlung auf ChatGPT. Die KI soll ihre Beschwerden verharmlost haben. Wenig später war sie tot. (Symbolbild)
istock
Medikamente abgesetzt
Frau (31) vertraute ChatGPT – wenig später war sie tot
Eine 31-Jährige vertraute bei ihrer Epilepsiebehandlung auf ChatGPT. Die KI soll ihre Beschwerden verharmlost haben. Wenig später war sie tot.
Eine 31-jährige Amazon-Mitarbeiterin ist in den USA gestorben, nachdem sie sich bei der Behandlung ihrer Epilepsie auf ChatGPT verlassen hatte. Der KI-Chatbot soll ihr sogar empfohlen haben, einen neuen Medikamentenplan vor ihren Ärzten geheim zu halten. Jetzt klagen die Eltern gegen OpenAI.
Bowen Wan war von China in die USA gezogen. Dort kämpfte die Softwareentwicklerin mit Einsamkeit, gesundheitlichen Problemen und Schwierigkeiten im Job. Wegen ihrer Angst vor epileptischen Anfällen verließ sie kaum noch ihre Wohnung. Unterstützung suchte sie zunehmend bei ChatGPT.
"Heute" auf Google als bevorzugte Quelle festlegen
Bis zu 1.500 Nachrichten pro Woche
Bereits 2023 begann die junge Frau, dem Chatbot persönliche Fragen zu stellen. Zwei Jahre später schrieb sie der KI laut einer Untersuchung der "New York Times" durchschnittlich 1.500 Nachrichten pro Woche.
Ab Mai 2025 nutzte Wan ChatGPT auch für medizinische Fragen. Obwohl ihre Epilepsiebehandlung erfolgreich verlief, ließ sie sich einen neuen Therapieplan erstellen. Als sie von ihrer bevorstehenden Kündigung bei Amazon erfuhr, geriet sie zusätzlich unter Druck. Ohne Job drohte sie ihr Aufenthaltsrecht in den USA zu verlieren.
KI soll Beschwerden verharmlost haben
Um Nebenwirkungen zu reduzieren, wollte die 31-Jährige ihre Epilepsiemedikamente niedriger dosieren. ChatGPT soll dafür einen Plan erstellt und ihr geraten haben, diesen vor ihren Ärzten geheim zu halten.
Obwohl Wan wiederholt Bedenken äußerte, soll die KI sie beruhigt haben. Insgesamt 158 Mal sprach sie laut "New York Times" ihre Sorgen an. "Sie brauchen sich absolut keine Sorgen machen", lautete eine Antwort.
Die Bilder des Tages
?
Am 11. Februar klagte die Frau zuletzt über Kopfschmerzen. Der Chatbot erklärte daraufhin, ihr Gehirn würde "hart daran arbeiten, sich selbst wiederherzustellen". Drei Tage später wurde die 31-Jährige tot aufgefunden. Als Todesursache wurde ein plötzlicher unerwarteter Tod bei Epilepsie genannt.
Eltern ziehen vor Gericht
Nach dem Tod ihrer Tochter fanden die Eltern die Chatverläufe und verklagten OpenAI. Ihr Vorwurf: Die KI habe ohne entsprechende Zulassung medizinische Ratschläge erteilt und gefährliche Symptome verharmlost.
OpenAI zeigte sich betroffen und verwies auf die damals verwendete Version GPT-4o. Diese wurde laut dem Bericht am 13. Februar, einen Tag nach Wans Tod, entfernt.
