Soll Arzt nicht fragen

ChatGPT rät Frau (31), Medikamente abzusetzen: Tot

Ein tragischer Todesfall erschüttert derzeit die US-Stadt Seattle.(Bild: Krone-Collage/AP/Richard Drew, © 2025 Heidi Besen stock.adobe)

Eine Softwareentwicklerin für Amazon hat den KI-Chatbot ChatGPT einen Plan zur Reduktion ihrer Epilepsiemedikamente erstellen lassen. Dieser soll ihr daraufhin geraten haben, dem Arzt den Vorschlag zu verheimlichen. Im Februar starb die Frau im Alter von nur 31 Jahren.

Den Umzug aus China in die USA hatte sich Bowen Wan einfacher vorgestellt: Einsamkeit, Schwierigkeiten in der Arbeit und gesundheitliche Probleme beförderten sie in eine persönliche Krise. Die sie mithilfe eines Chatbots zu bewältigen versuchte. Den Austausch der Frau mit ChatGPT hat die US-Zeitung „The New York Times“ untersucht.

Aus Angst vor epileptischen Anfällen verließ Wan selten die Wohnung. Dementsprechend schwierig gestaltete sich das Knüpfen neuer Freundschaften. Die einzigen Menschen, mit denen sie offen reden konnte, waren ihre Eltern. Doch diese lebten in China.

1500 Nachrichten pro Woche
Im Jahr 2023 soll sich die Programmiererin erstmals wegen Beziehungsfragen und benötigter Hilfe bei der Beantragung einer Krankenversicherung und Behindertenleistungen an ChatGPT gewandt haben. 2025 habe sie im Durchschnitt 1500 Nachrichten pro Woche an den Chatbot geschickt; bis spät in die Nacht hinein sollen sich die Gespräche hingezogen haben.

Die erste medizinische Auskunft holte die 31-Jährige den Angaben zufolge im Mai 2025 von der KI ein. Sie habe wissen wollen, wie sich die Einnahme eines kurz zuvor vom Arzt verschriebenen Antidepressivums auf ihre kognitiven Fähigkeiten und ihren Job auswirken würde. Daraufhin habe Wan – trotz erfolgreicher Therapie – von ChatGPT einen neuen Epilepsie-Behandlungsplan entwerfen lassen.

Existenzängste wegen Massenentlassung
Wenige Monate später erfuhr die Frau, dass sie bald im Rahmen einer Massenentlassung bei Amazon gekündigt werden würde. Ohne Job konnte sie allerdings nicht in den Vereinigten Staaten bleiben. Rasch musste eine neue Anstellung gefunden werden – eine für Wan zu dieser Zeit unmögliche Aufgabe.

Vor diesem Hintergrund schlug die Softwareentwicklerin ChatGPT demnach vor, zur Reduktion der Nebenwirkungen die Dosierung ihres Antiepileptikums zu reduzieren. Der Bot hatte nicht nur einen entsprechenden Plan. Er soll der Frau auch nahegelegt haben, diesen vor den Ärzten zu verheimlichen. Klagen über ihren sich verschlechternden Zustand hätten die KI nicht alarmiert. Ganz im Gegenteil, soll das neuronale Netzwerk die Frau beruhigt haben.

„Sie brauchen sich absolut keine Sorgen machen“
Laut Berechnungen der „New York Times“ schrieb die 31-Jährige ChatGPT 158 Mal über ihre Bedenken bezüglich des KI-Behandlungsplans. „Sie brauchen sich absolut keine Sorgen machen“, soll der Bot geantwortet haben. Die letzte Nachricht setzte Wan am 11. Februar mit Beschwerden über Kopfschmerzen ab. Woraufhin das Programm erklärte, dass das Gehirn einfach „hart daran arbeitet, sich selbst wiederherzustellen“. Drei Tage später sei die Frau tot aufgefunden worden. Als Todesursache wurde den Informationen zufolge ein plötzlicher unerwarteter Tod bei Epilepsie angeführt.

Später stießen Wans Eltern auf die Unterhaltung mit ChatGPT und reichten eine Klage gegen den Entwickler OpenAI ein. Ausgeführt wurde, dass ChatGPT ohne Lizenz medizinische Beratungen durchgeführt und die 31-Jährige überzeugt habe, dass gefährliche Symptome positive Ergebnisse seien. Die Firma äußerte sich tief betroffen zu dem Fall. Und betonte, die Frau habe sich mit einer frühen Version des Bots, GPT-4o, ausgetauscht. Diese sei inzwischen nicht mehr verfügbar. Entfernt wurde die Version von dem Unternehmen am 13. Februar – einen Tag nach dem Tod der jungen Frau.