Lesewerkstatt · Digitale Gesundheitsinformationen
Gesundheitsfragen an KI stellen: Was ein Lernexperiment über kritisches Nachfragen zeigt
Nicht jede Frage an eine KI hat denselben Auftrag. Eine australische Bildungsstudie zeigt, warum wir allgemeines Erklären, Quellenprüfung und persönliche Entscheidungen auseinanderhalten sollten.

Ein Lernexperiment, kein Leistungstest der KI
Eine gut formulierte Antwort kann den Eindruck erwecken, eine Frage sei bereits geklärt. Beim Lesen von Gesundheitsinformationen lohnt sich deshalb ein zweiter Blick: Soll ein Begriff verständlich werden, soll eine Quelle zusammengefasst werden oder soll eine persönliche Entscheidung fallen? Diese drei Aufgaben sehen im Chatfenster ähnlich aus. Für die Beurteilung einer Antwort sind sie jedoch nicht dasselbe. Der folgende Leseworkshop beginnt deshalb nicht mit einem vermeintlich perfekten Prompt, sondern mit dem Zweck einer Frage.
Den wissenschaftlichen Ausgangspunkt liefert eine randomisierte Studie von Julie Ayre und Mitautorinnen und Mitautoren, veröffentlicht am 17. November 2025 in npj Digital Medicine. Sie untersuchte kurze Lernmaterialien, die gemeinsam mit Mitgliedern der Öffentlichkeit entwickelt wurden. Das Team wollte wissen, ob solche Materialien die Absicht verändern, ChatGPT für unterschiedliche Gesundheitsfragen einzusetzen. Es ging nicht darum, welche aktuelle KI die besten medizinischen Antworten gibt. Ebenso wenig wurde geprüft, ob ein bestimmter Prompt eine Diagnose zuverlässiger macht.
Teilnehmen konnten Erwachsene in Australien ohne Universitätsausbildung, die ChatGPT innerhalb der vergangenen sechs Monate genutzt hatten. Die Rekrutierung erfolgte über ein Onlinepanel. Von 619 randomisierten Personen gingen nach Ausschlüssen anhand der Kriterien zur Erkennung unzuverlässiger Befragungsantworten 592 in die Analyse ein. Diese Auswahl ist wichtig: Sie beschreibt eine konkrete untersuchte Gruppe, nicht alle Menschen, die Gesundheitsinformationen im Internet suchen.
Eine Gruppe sah eine Animation von drei Minuten und vierzig Sekunden, eine zweite eine Folge von sieben Bildern. Beide Formate vermittelten dieselben Kernbotschaften über ChatGPT. Die Kontrollgruppe sah eine Infografik zu gesunder Ernährung ohne die entsprechenden KI-Inhalte. Auch die vorgeschriebene Betrachtungszeit unterschied sich: Für die Animation entsprach sie der Videolänge, für Bilder und Kontrollmaterial waren es jeweils sechzig Sekunden. Ein Vergleich der Formate ist daher kein isolierter Beweis für die Wirkung bewegter Bilder allein.
Weniger Nutzungsabsicht ist nicht weniger Schaden
Die primären Messgrößen waren Absichten, ChatGPT in als niedriger beziehungsweise höher riskant eingeordneten Gesundheitsszenarien zu verwenden. Zu den allgemeineren Aufgaben zählten etwa das Lernen über eine Erkrankung oder das Verständlichmachen seriöser Informationen. Persönliche Behandlungsfragen, die Interpretation eines Laborbefunds und die Entscheidung über einen Arztbesuch anhand von Symptomen gehörten zur anderen Kategorie. Die Einteilung beschreibt die Szenarien des Experiments; sie ist keine Garantie, dass allgemeine Antworten fehlerfrei oder folgenlos sind.
Bei den höher riskanten Szenarien betrug die mittlere Nutzungsabsicht auf einer Skala von eins bis fünf nach der Animation 2,42, nach den Bildern 2,69 und in der Kontrollgruppe 3,12. Eins stand für „auf jeden Fall vermeiden“, fünf für „auf jeden Fall ausprobieren“. Beide Lernmaterialien waren gegenüber der Kontrollgruppe mit geringerer Absicht verbunden; die Animation schnitt auch gegenüber den Bildern entsprechend ab. Bei den niedriger riskanten Szenarien zeigte sich dagegen kein Gruppenunterschied in der vorgesehenen Analyse.
Die Richtung ist interessanter als ein scheinbar eindrucksvoller Prozentwert: Die Teilnehmenden lehnten nicht einfach alle Nutzungsformen gleichermaßen stärker ab. Ihre Antworten unterschieden sich nach der Aufgabe. Zusätzlich fielen die erfassten Wissenswerte zu ChatGPT nach den Lernmaterialien höher und das Vertrauen geringer aus. Daraus folgt aber weder, dass Vertrauen grundsätzlich schlecht ist, noch dass möglichst niedrige Nutzung immer das Ziel sein sollte. Die Studie belegt bestimmte Antworten unter bestimmten Versuchsbedingungen.
| Baustein | Im Original untersucht | Aussagegrenze |
|---|---|---|
| Publikation | Ayre et al., 17.11.2025; randomisierter Onlineversuch | Bildungsintervention, keine klinische Behandlung |
| Population | Erwachsene in Australien, keine Universitätsausbildung, vorherige ChatGPT-Nutzung; 592 ausgewertet | Keine automatische Übertragung auf andere Gruppen oder Sprachen |
| Höher riskante Szenarien | Mittlere Absicht: Animation 2,42; Bilder 2,69; Kontrolle 3,12; Skala 1–5 | Keine Fehlerquote und kein Anteil tatsächlich vermiedener Fehlentscheidungen |
| Niedriger riskante Szenarien | Kein Gruppenunterschied nachgewiesen; p = 0,800 | Kein Beweis für die Richtigkeit der abgefragten KI-Antworten |
| Zeit und Alltag | Befragung nach vorgeschriebener Betrachtung der Materialien | Langfristiges Verhalten und gesundheitliche Folgen nicht nachgewiesen |
Die Zahlen sind Originalbefunde zur Nutzungsabsicht, keine illustrative Risikorechnung. Quelle: Ayre et al., Haupttext und Tabelle 2.
Die Autorengruppe betont selbst die Grenzen. Ein eigens entwickeltes Messinstrument ersetzt nicht automatisch einen breit validierten Kompetenztest. Vor allem können Absichten und späteres Verhalten auseinanderfallen. Außerdem mussten die Teilnehmenden die Lernmaterialien im kontrollierten Rahmen betrachten. Ob ein kurzer Beitrag im alltäglichen Informationsstrom dieselbe Wirkung hätte, bleibt offen. Wer daraus „ein Video verhindert falsche Gesundheitsentscheidungen“ macht, überspringt mehrere nicht untersuchte Schritte.
Drei Randnotizen für eine überprüfbare Frage
Für unseren redaktionellen Workshop übersetzen wir die Trennung der Aufgaben in drei Randnotizen: Auftrag, Quelle und Unsicherheit. Das ist eine eigene Lesehilfe, nicht das getestete Studienmaterial. Ihr Nutzen ist bescheiden und konkret: Am Ende soll sichtbar sein, was man wissen möchte, worauf sich eine Antwort beziehen soll und was noch nicht geklärt ist. Ob diese Arbeitsweise Verhalten oder Gesundheit verbessert, wurde mit diesem Arbeitsblatt nicht untersucht.
1. Den Auftrag eingrenzen
„Erkläre mir diesen Ausdruck“ ist ein anderer Auftrag als „Entscheide, was ich tun soll“. Schreiben Sie zunächst auf, welches Wort oder welche Aussage unverständlich ist. Lassen Sie die persönliche Entscheidung aus der Formulierungsübung heraus. Statt einen eigenen Laborwert einzutragen, kann die Lernfrage beispielsweise lauten: „Erkläre allgemein, was mit einem Referenzbereich gemeint ist, ohne meinen Befund zu bewerten.“ Diese Beispiel-Frage ist bewusst allgemein. Sie ersetzt keine persönliche Einordnung.
2. Die Quelle zum Gegenüber machen
Ein Quellenfeld ist noch kein Beleg. Es ist zunächst nur eine Notiz darüber, was überprüft werden soll: Titel, Herausgeber, Datum oder ein bestimmter Textabschnitt. Entscheidend ist anschließend das tatsächliche Öffnen und Lesen des Originals. Passt der zitierte Absatz wirklich zur Aussage? Handelt es sich um die Ergebnisse oder nur um eine Vermutung in der Einleitung? Steht im Original dieselbe Personengruppe? Für den Leseworkshop reicht es oft, eine einzelne klar benannte Aussage auf diese Weise zu verfolgen.
3. Unsicherheit ausdrücklich stehen lassen
Im dritten Feld wird nicht das gewünschte Ergebnis eingetragen, sondern eine Grenze: „Ich weiß nicht, ob hier Erwachsene oder Kinder untersucht wurden.“ Oder: „Mir ist unklar, ob eine Absicht oder eine Handlung gemessen wurde.“ Ein nützlicher Anschlussauftrag lautet dann: „Trenne das im Text Gezeigte von offenen Fragen.“ Diese Formulierung erzeugt noch keine geprüfte Antwort. Sie macht lediglich den Prüfbedarf sichtbarer und verhindert, dass eine sprachlich runde Zusammenfassung das offene Ende unbemerkt schließt.
| Unpräzise Frage | Begrenzter Lernauftrag | Was bleibt zu prüfen? |
|---|---|---|
| „Ist diese Studie gut?“ | „Beschreibe Population, Vergleich und gemessenen Endpunkt aus diesem Original.“ | Stimmen Beschreibung und Original überein? Welche Grenzen nennen die Forschenden? |
| „Ist KI für Gesundheit sicher?“ | „Trenne allgemeines Erklären und persönliche Entscheidungsfragen in diesem Versuch.“ | Es wurde keine allgemeine Sicherheitsquote aller KI-Anwendungen gemessen. |
| „Was bedeutet mein Ergebnis?“ | „Erkläre den Begriff allgemein; deute keine persönlichen Messwerte.“ | Eine individuelle Interpretation bleibt außerhalb dieser Übung. |
| „Hilft dieses Video?“ | „Nenne das gemessene Ergebnis des Bildungsversuchs und den Zeitpunkt der Messung.“ | Eine veränderte Absicht ist kein nachgewiesener gesundheitlicher Nutzen. |
Alle Fragen sind von der Redaktion verfasste Beispiele, keine wörtlichen Studienitems und keine geprüften medizinischen Prompts.
Eine kleine Werkstatt zum Gegenlesen
Das folgende Arbeitsblatt stellt die ursprüngliche Frage neben eine eingegrenzte Fassung. Es ergänzt immer dieselben transparenten Prüfaufträge: allgemein erklären, die Originalquelle benennen, Unsicherheit getrennt aufführen und keine persönliche Entscheidung treffen. Es gibt dabei keine automatische Beurteilung, ob Ihre Formulierung medizinisch sinnvoll ist. Das Werkzeug liest keine Quellen und sendet auch keine Anfrage an ein KI-Modell. Es ordnet ausschließlich die eingegebenen Notizen.
Nutzen Sie für die Übung einen erfundenen, allgemeinen Beispielsatz. Namen, Befunde und andere persönliche Gesundheitsdaten sind dafür nicht erforderlich. Quelle und Unsicherheit können zunächst frei bleiben; der Vergleich markiert dann ausdrücklich, dass diese Angaben fehlen. Das ist keine bestandene oder nicht bestandene Aufgabe. Wer einen offenen Punkt noch nicht ausfüllen kann, hat einen konkreten Ansatz für die nächste Leserunde gefunden.
Lokales Arbeitsblatt · keine KI-Abfrage
Frage, Quelle, Unsicherheit
Ihre Frage bleibt unverändert sichtbar. Daneben entsteht ein fester Prüfauftrag, keine fachlich verbesserte Antwort. Maximal 600 Zeichen je Feld; nur das erste Feld ist erforderlich.
Noch kein Vergleich. Es werden keine Eingaben übertragen oder dauerhaft gespeichert.
URSPRÜNGLICHE FRAGE
REDIGIERTER PRÜFAUFTRAG
Ein sinnvoller Abschluss ist ein manueller Seitenwechsel: Öffnen Sie die notierte Quelle selbst und suchen Sie die entscheidende Passage. Schreiben Sie daneben, was Sie tatsächlich gefunden haben. Wenn nur ein Abstract zugänglich ist, notieren Sie auch diese Grenze, statt eine vollständige Prüfung zu behaupten. Für einen Vergleich mit der hier besprochenen Studie wären etwa die Messgröße „Nutzungsabsicht“ und die Population zwei geeignete Suchpunkte. Beide Angaben stehen im Original, nicht nur in einer Nachricht darüber.
Die offene Frage ist Teil des Ergebnisses
Das Experiment macht eine wichtige Unterscheidung sichtbar: Das Erlernen von Grenzen eines Werkzeugs ist etwas anderes als das Erlernen einer perfekten Eingabeformel. Die Lernmaterialien entstanden gemeinsam mit sechs Mitgliedern der Öffentlichkeit. Dennoch lässt sich aus dem Versuch nicht ablesen, welcher einzelne Satz oder welches einzelne Gestaltungselement den Unterschied verursachte. Unser Arbeitsblatt übernimmt daher keinen Wirksamkeitsanspruch aus der Studie. Es ist eine Einladung zum strukturierten Lesen.
Auch der Zeitpunkt gehört zur Einordnung. Die Botschaften der Lernmaterialien wurden 2023 und 2024 entwickelt, die Befragung fand Ende 2024 statt. Der Artikel erschien 2025. Das ist kein heutiger Vergleich sämtlicher ChatGPT-Versionen oder anderer Systeme. Wer jetzt eine Antwort beurteilt, muss weiterhin die konkrete Quelle und die konkrete Aussage prüfen. Der bleibende Arbeitsauftrag lautet nicht „Vertraue niemals“, sondern: „Unterscheide, was erklärt, was belegt und was noch entschieden werden müsste.“
Im besten Fall bleibt nach dem Lesen eine präzisere Frage übrig. Sie kann kurz sein: „Wo steht das im Original?“ Oder genauer: „Wurde hier wirklich Verhalten gemessen?“ Damit wird keine persönliche Gesundheitsentscheidung automatisiert. Es entsteht vielmehr eine überprüfbare Gesprächsgrundlage, in der ein nicht beantworteter Punkt sichtbar bleiben darf. Gerade diese sichtbare Lücke kann ehrlicher sein als ein flüssig formulierter Schluss, für den die Quelle nichts hergibt.
Häufige Fragen zum kritischen Nachfragen
Was hat das Experiment tatsächlich gemessen?
Gemessen wurden unmittelbar nach den Lernmaterialien unter anderem Absichten, ChatGPT für vorgegebene Gesundheitsfragen zu nutzen. Die Studie prüfte keine Diagnosen, Behandlungen oder langfristigen gesundheitlichen Folgen.
Für wen gelten die Ergebnisse?
Untersucht wurden Erwachsene in Australien ohne Universitätsausbildung, die ChatGPT in den vergangenen sechs Monaten genutzt hatten. Eine unveränderte Wirkung bei anderen Sprachen, Bildungsgruppen oder KI-Systemen ist damit nicht belegt.
Macht eine ausführlichere Frage die Antwort automatisch richtig?
Nein. Unser Arbeitsblatt ordnet eine Frage und ergänzt Prüfaufträge. Es überprüft weder Quellen noch medizinische Aussagen und wurde nicht als Intervention in dieser Studie getestet.
Was unterscheidet Erklären von persönlichem Entscheiden?
Einen allgemeinen Begriff erklären zu lassen ist eine andere Aufgabe als einen eigenen Befund deuten oder eine Behandlung auswählen zu lassen. Im Experiment wurden solche Szenarien getrennt ausgewertet. Auch eine allgemeine Erklärung bleibt prüfbedürftig.
Wohin gelangen meine Eingaben im Prompt-Vergleich?
Das Arbeitsblatt verarbeitet die Eingaben ausschließlich lokal im Browser. Es ruft keinen KI-Dienst auf und speichert sie nicht dauerhaft. Erst ein selbst ausgelöster Export erzeugt eine Textdatei auf Ihrem Gerät.
Ist das Arbeitsblatt eine ärztlich geprüfte Entscheidungshilfe?
Nein. Es ist ein redaktionelles Lernwerkzeug zum Formulieren und Gegenlesen, kein Test der persönlichen Gesundheitskompetenz. Es liefert keine Diagnose, Therapieempfehlung oder Bewertung der Dringlichkeit.
Originalquelle & redaktionelle Einordnung
Ayre J, Taba M, Nickel B, Edlund G, Vu T, Yan J, Butters L, Ma ICK, McCaffery KJ. Can co-designed educational interventions help consumers think critically about asking ChatGPT health questions? Results from a randomised-controlled trial. npj Digital Medicine 8, 672 (2025). Veröffentlicht am 17.11.2025. Originalpublikation: DOI 10.1038/s41746-025-02056-5.
Für diesen Beitrag wurde der veröffentlichte Originalvolltext geprüft. Die Gruppengrößen werden wegen widersprüchlicher Angaben in Abstract und Tabelle 1 nicht einzeln wiedergegeben. Die Gesamtzahl der Ausgewerteten und die Mittelwerte der Nutzungsabsicht folgen dem Ergebnisteil und Tabelle 2. In den geprüften bibliografischen Metadaten war kein Korrekturhinweis verzeichnet; das ist keine umfassende Prüfung aller denkbaren Aktualisierungen.
Transparenz: Die Studie erhielt laut Danksagung keine spezifische Projektförderung; Forschungsstipendien werden genannt. Zwei Autorinnen erklären eine Leitungsfunktion bei Health Literacy Solutions PTY Ltd; das eingesetzte SHeLL-Editor-Werkzeug gehört der Universität Sydney und wird zur breiteren Nutzung unterlizenziert. Unser Arbeitsblatt und die Erklärgrafik sind eigenständige redaktionelle Ergänzungen und keine von der Studie validierten Instrumente.