Ein 60-jähriger Mann wurde ins Krankenhaus eingeliefert, nachdem er ChatGPT gefragt hatte, wie er Salz (Natriumchlorid) aus seiner Ernährung streichen könne, nachdem er über die negativen gesundheitlichen Auswirkungen von Speisesalz gelesen hatte. Nach Rücksprache mit dem Chatbot mit künstlicher Intelligenz (KI) änderte der Mann seine Ernährung, strich Salz aus seinem Lebensstil und ersetzte es durch Natriumbromid, eine Substanz, die Anfang des 20. Jahrhunderts häufig in Medikamenten verwendet wurde, heute aber in großen Mengen als giftig gilt.
Laut dem im American College of Physicians Journals veröffentlichten Fallbericht hatte der Patient "auf Empfehlung" von ChatGPT drei Monate lang Natriumbromid eingenommen, das er im Internet bezogen hatte. Als jedoch gesundheitliche Probleme auftraten, wurde der Mann ins Krankenhaus eingeliefert. Dort behauptete er, sein Nachbar habe ihn vergiftet.
Der Mann gab zunächst nicht an, Medikamente oder Nahrungsergänzungsmittel einzunehmen. Bei seiner Aufnahme gab er jedoch an, sich an bestimmte Ernährungsvorschriften zu halten und sein Wasser zu Hause selbst zu destillieren. "Es wurde festgestellt, dass er großen Durst hatte, aber paranoid war, was das Wasser anging, das ihm angeboten wurde", heißt es in dem Fallbericht. Weiter heißt es, dass er mit Flüssigkeiten und Elektrolyten behandelt wurde und sich sein medizinischer Zustand stabilisierte, sodass er in die psychiatrische Abteilung des Krankenhauses eingewiesen werden konnte.
Salz (Natriumchlorid) ist es ein Elektrolyt und lebensnotwendig für den menschlichen Körper. Es spielt eine wichtige Rolle bei verschiedenen Körperfunktionen.
Für Erwachsene empfiehlt die WHO den Verzehr von höchstens 5 Gramm Salz pro Tag. Für Kinder sollte es noch weniger sein: für sie werden 2 Gramm Salz pro Tag empfohlen. Aktuell liegt der Salzkonsum in der Europäischen Region jedoch zwischen 8 und 19 Gramm – also deutlich über der empfohlenen Menge.
Zu hohe Mengen an Natriumchlorid begünstigen Wassereinlagerungen und erhöhen das Risiko für Bluthochdruck. Damit steigt die Wahrscheinlichkeit für Herz-Kreislauf-Erkrankungen wie Herzinfarkt und Schlaganfall.
Der Patient hatte Bromismus entwickelt. "Er hatte Natriumchlorid durch Natriumbromid ersetzt, das er aus dem Internet bezogen hatte, nachdem er ChatGPT konsultiert hatte. Dort hatte er gelesen, dass Chlorid durch Bromid ersetzt werden kann, allerdings wahrscheinlich für andere Zwecke, beispielsweise zum Reinigen", hieß es in dem Bericht.
Früher waren Bromsalze in vielen rezeptfreien Medikamenten gegen Schlaflosigkeit, Hysterie und Angstzustände enthalten. Eine übermäßige Einnahme kann jedoch schwerwiegende gesundheitliche Folgen haben.
Der Mann wurde mit Flüssigkeit, Elektrolyten und Antipsychotika behandelt. Nach einem Fluchtversuch wurde er in die psychiatrische Abteilung des Krankenhauses eingewiesen. Er verbrachte drei Wochen im Krankenhaus, bevor es ihm wieder gut genug ging, um entlassen zu werden.
"Es ist wichtig zu bedenken, dass ChatGPT und andere KI-Systeme wissenschaftliche Ungenauigkeiten erzeugen können, ihnen die Fähigkeit fehlt, Ergebnisse kritisch zu diskutieren und letztendlich die Verbreitung von Fehlinformationen fördern", warnten die Autoren des Berichts.
OpenAI, der Entwickler von ChatGPT, weist in seinen Nutzungsbedingungen darauf hin, dass die Ergebnisse des Chatbots "möglicherweise nicht immer korrekt" seien. "Sie sollten sich nicht auf die Ergebnisse unserer Dienste als einzige Quelle der Wahrheit oder sachlicher Informationen oder als Ersatz für professionelle Beratung verlassen", heißt es in den Nutzungsbedingungen. "Unsere Dienste sind nicht für die Diagnose oder Behandlung von Gesundheitszuständen vorgesehen", heißt es.
