OpenAI bewirbt ChatGPT für Gesundheitsentscheidungen trotz Genauigkeitsbedenken

Terrill Dicki 05.03.2026 01:21

OpenAI hebt Familie hervor, die ChatGPT für Krebsbehandlungsentscheidungen nutzt, doch aktuelle Studien zeigen, dass KI-Gesundheitstools erhebliche Genauigkeits- und Sicherheitsprobleme aufweisen.

OpenAI veröffentlichte diese Woche eine Fallstudie über eine Familie, die ChatGPT zur Vorbereitung auf Krebsbehandlungsentscheidungen für ihren Sohn nutzte, und positioniert den KI-Chatbot als Ergänzung zur ärztlichen Beratung. Der Zeitpunkt ist bemerkenswert angesichts zunehmender Beweise dafür, dass KI-Gesundheitstools erhebliche Zuverlässigkeitsprobleme aufweisen.

Das am 04.03. veröffentlichte Werbematerial beschreibt, wie Eltern ChatGPT gemeinsam mit dem Onkologie-Team ihres Kindes einsetzten. OpenAI stellt dies als verantwortungsvollen KI-Einsatz dar – als Ergänzung medizinischer Fachkompetenz, nicht als Ersatz.

Doch die rosige Darstellung kollidiert mit unbequemen Forschungsergebnissen. Eine in Nature Medicine veröffentlichte Studie, die OpenAIs eigenes Produkt "ChatGPT Health" untersuchte, fand erhebliche Probleme mit Genauigkeit, Sicherheitsprotokollen und rassistischen Vorurteilen in medizinischen Empfehlungen. Das ist kein unbedeutender Vorbehalt für ein Tool, das Menschen möglicherweise bei lebensbedrohlichen Entscheidungen über Krebsbehandlungen nutzen.

Das Genauigkeitsproblem

Unabhängige Forschung zeichnet bestenfalls ein gemischtes Bild. Eine Studie von Mass General Brigham ergab, dass ChatGPT über medizinische Fachgebiete hinweg etwa 72% Genauigkeit erreichte, bei Enddiagnosen auf 77% anstieg. Klingt akzeptabel, bis man bedenkt, was auf dem Spiel steht – würden Sie in ein Flugzeug steigen, bei dem der Pilot eine 23%ige Chance hat, einen kritischen Fehler zu machen?

Das Healthcare-KI-Unternehmen Atropos lieferte noch düsterere Zahlen: Allzweck-Sprachmodelle liefern Ärzten nur in 2% bis 10% der Fälle klinisch relevante Informationen. Die Kluft zwischen "manchmal hilfreich" und "zuverlässig genug für Krebsentscheidungen" bleibt enorm.

Die American Medical Association hat deutliche Worte gefunden. Die Organisation empfiehlt Ärzten, keine LLM-basierten Tools für klinische Entscheidungshilfe zu verwenden, unter Berufung auf Genauigkeitsbedenken und fehlende standardisierte Richtlinien. Wenn die AMA Ärzten rät, sich fernzuhalten, sollten Patienten wahrscheinlich aufmerksam werden.

Was ChatGPT nicht kann

KI-Chatbots können keine körperlichen Untersuchungen durchführen. Sie können die Körpersprache eines Patienten nicht lesen oder die intuitiven Folgefragen stellen, die erfahrene Onkologen über Jahrzehnte entwickeln. Sie können halluzinieren – selbstsicher klingende Informationen generieren, die völlig erfunden sind.

Datenschutzbedenken fügen eine weitere Ebene hinzu. Jedes Symptom, jede Angst, jedes Detail über den Krebs eines Kindes, das in ChatGPT eingegeben wird, wird zu Daten, über die Nutzer nur begrenzte Kontrolle haben.

OpenAIs Fallstudie betont, dass die Familie "gemeinsam mit fachkundiger Anleitung von Ärzten" arbeitete. Diese Einschränkung ist wichtig. Die Gefahr liegt nicht bei informierten Patienten, die bessere Fragen stellen – sondern bei verletzlichen Menschen in Krisensituationen, die sich möglicherweise zu sehr auf ein Tool verlassen, das häufiger falsch liegt, als das Marketing suggeriert.

Für Krypto-Investoren, die OpenAIs Unternehmensambition beobachten, signalisiert der Vorstoß im Gesundheitswesen eine aggressive Expansion in hochsensible Bereiche. Ob Regulierungsbehörden tolerieren werden, dass KI-Unternehmen medizinische Entscheidungstools mit dokumentierten Genauigkeitsproblemen bewerben, bleibt eine offene Frage auf dem Weg ins Jahr 2026.

• openai
• chatgpt
• KI-Gesundheitswesen
• medizinische KI
• Gesundheitstechnologie