In Großbritannien sollen KI-Schreibassistenten Ärzte im National Health Service (NHS) entlasten. Die Systeme zeichnen Arzt-Patienten-Gespräche auf und fassen das Gehörte zusammen. Doch nun häuften sich Berichte über gravierende Fehler.
Die Patientenvertretung Healthwatch England schlägt Alarm: Die Systeme verwechseln Medikamentennamen, erfinden Diagnosen und lassen wichtige Informationen in Arztbriefen einfach weg. In mehreren dokumentierten Fällen entdeckten nicht die behandelnden Ärzte, sondern die Patienten selbst die Fehler.
Wie es bei heise.de unter Berufung auf den Guardian heißt, erhielt eine Patientin fälschlicherweise die Diagnose Demyelinisierung - eine schwere Nervenschädigung, die zu Multipler Sklerose führen kann. Tatsächlich hatte ihr MRT-Befund aber keine Demyelinisierung ergeben. Erst ihre eigene Nachfrage führte zur Korrektur.
Solche Fehler sind auch deswegen problematisch, weil die im System hinterlegten Daten Einfluss darauf haben, welche Medikamente ein Patient in der Apotheke bekommen kann oder ob er in Zukunft eine Berufsunfähigkeitsversicherung abschließen kann.
Eine aktuelle Studie beziffert das Problem genauer: Von Ärzten, die solche KI-Systeme bereits nutzen, berichten 32 Prozent von häufigen Fehlern, 14 Prozent sogar von Fehlern mit schwerwiegenden Folgen. Fehler treten besonders häufig auf, wenn mehrere Personen am Gespräch teilnehmen oder Patienten eine komplexe Krankengeschichte haben.
Die Problematik betrifft nicht nur Großbritannien. Auch in Deutschland sind solche Systeme von Anbietern wie Doctolib auf dem Vormarsch. Die Charité in Berlin testete ab Mai 2025 ebenfalls KI-gestützte Arztdokumentation.
