Dr. ChatGPT: Faktencheck im KI-Zeitalter

„Bei diesen Symptomen empfehle ich einen kalten Milchwickel. Eine aktuelle Studie aus Zürich zeigt, dass die Milchsäurebakterien den Juckreiz in 85 % der Fälle innerhalb von zwei Stunden lindern. Das sollte auch bei dir funktionieren.“

Klingt überzeugend, oder? Fachlich fundiert, präzise und wissenschaftlich untermauert. Doch dieser Rat hat einen Haken: Die Zahl und die Studie sind frei erfunden. Die Antwort stammt nicht von medizinischem Fachpersonal, sondern wurde in Sekunden von einer KI erzeugt, ein System, das darauf trainiert wurde, überzeugende, flüssige Antworten zu formulieren.¹

Dass wir (und vor allem unsere Kinder) auf solche Sätze hereinfallen, ist menschlich. Moderne KI-Sprachmodelle liefern Texte, die sich kaum noch von menschlichen Texten unterscheiden. Diese sprachliche Glättung führt dazu, dass die Angaben weitaus kompetenter wirken, als sie faktisch sind.² Wir verwechseln rhetorische Eleganz oft mit echtem Wissen. 
Die Folgen sehen wir in der aktuellen JIM-Studie 2025: Über die Hälfte aller Schülerinnen und Schüler hält die Informationen der KI für vertrauenswürdig.³ Gerade bei Gesundheitsfragen ist das riskant.

Um unsere Kinder sicher zu begleiten, hilft es uns, wenn wir die typischen „Stolpersteine“ der KI kennen:^1,2,4

• Halluzinationen: Die KI ist darauf programmiert, fast immer eine Lösung zu liefern. Wenn sie etwas nicht weiß, gibt sie das selten zu, sondern erfindet stattdessen plausible Behauptungen, Fakten oder Quellen.
• Konfabulieren: Hierbei verwechselt oder kombiniert das Modell Informationen falsch, die es eigentlich „wissen“ müsste. Das kann zu Fehlern bei Wirkstoffen oder Zusammenhängen führen.
• Fehlendes Feingefühl: Als reine Rechenmaschine versteht die KI weder Humor noch ethische Nuancen. Sie erkennt zudem nicht automatisch, ob sie gerade ein Kind oder einen Erwachsenen berät.
• Digital Bias: Da die KI mit Texten aus dem Internet trainiert wurde, reproduziert sie unbewusst auch gesellschaftliche Vorurteile oder Klischees. 

Warum passieren diese Fehler überhaupt? ChatGPT und ähnliche Systeme sind keine Wissenslexika, sondern sogenannte Sprachmodelle. Wir können sie uns wie ein extrem fortgeschrittenes „Autofill“ vorstellen.^1,5
Die KI sucht nicht im Internet nach der richtigen Quelle. Stattdessen berechnet sie auf Basis von Milliarden Texten statistisch, welcher Begriff am wahrscheinlichsten als nächster folgt. 
Das hat eine klare Konsequenz: Die KI optimiert auf Plausibilität und Verständlichkeit, nicht automatisch auf Wahrheit. Sie beherrscht das „Rollenspiel“ eines Experten perfekt, ohne die medizinischen Hintergründe wirklich zu verstehen. Sie kann sehr souverän formulieren und trotzdem völlig falsch liegen. 
 

Warum empfiehlt die KI bei einer Hautreizung ausgerechnet Milchwickel und erfindet dazu noch eine Studie aus Zürich? 

• Das statistische Muster: Die KI hat in ihren riesigen Trainingsdaten gelernt, dass auf das Wort „Milchwickel“ mit hoher Wahrscheinlichkeit Begriffe wie „Linderung“, „Hausmittel“ oder „Heilung“ folgen. Sie verknüpft diese Wörter rein statistisch miteinander.
• Die Erfindung der Studie: Um den Rat seriös abzurunden, berechnet die KI, was in einem medizinischen Kontext plausibel klingt. Da auf Empfehlungen oft Belege folgen, „würfelt“ sie Begriffe wie „Studie“ und einen Ort wie „Zürich“ hinzu. Nicht, weil diese existieren, sondern weil diese Kombination in medizinischen Texten ein extrem häufiges Sprachmuster ist.
• Das Ergebnis: Die Antwort ist sprachlich perfekt, aber inhaltlich eine leere Hülle. Die KI optimiert auf Plausibilität, nicht auf Wahrheit.

Wir müssen die KI nicht aus dem Alltag verbannen. Viel wertvoller ist es, wenn wir Schülerinnen und Schülern beibringen, sie wie einen „Recherche-Assistenten“ zu steuern, dem man niemals blind vertraut. 

1.Schritt: Richtig Fragen (Das Prompting)
Gute Antworten beginnen bei guten Anweisungen. Wir können gemeinsam mit unseren Kindern ausprobieren, wie sich die Ergebnisse verändern, wenn wir den Kontext schärfen: 

• Rahmen setzen: Spezifische Angaben machen, z. B.: „Berücksichtige bei der Antwort das Alter von 14 Jahren.“
• Rollen zuweisen: Die KI direkt anweisen: „Handle als Gesundheitsberater, nicht als Arzt.“
• Neutral bleiben: Suggestivfragen wie „Warum ist Milch das beste Hausmittel?“ möglichst vermeiden. Die KI neigt zum Bestätigungsfehler und bestätigt oft nur die eigene Vermutung. Besser offen fragen:„Welche Vor- und Nachteile haben Milchwickel bei Hautproblemen?“.
• Datenschutz: Niemals echte Namen, Adressen oder Fotos von Symptomen hochladen. Diese Daten können in den Speichern der Anbieter landen.

2. Schritt: Die Antwort kritisch prüfen
Lassen wir uns nicht von der flüssigen Sprache blenden. Ein kleiner Trick hilft oft, die Fassade zu durchbrechen: 

• Fehlersucher-Modus: Lassen wir die Jugendlichen nachhaken: „Nenne mir drei Gründe, warum dein Rat falsch sein könnte“ oder „Suche in deiner eigenen Antwort nach Schwachstellen oder medizinischen Risiken, die du bisher nicht erwähnt hast.“ Oft nennt die KI dann plötzlich wichtige Einschränkungen.
• Belege einfordern: Bitten wir um Quellen. Existieren die genannten Webseiten oder Institute bei einer kurzen Suche wirklich? 

3. Schritt: Die Goldene Regel (Der externe Check)
Die KI ist ein wunderbarer Startpunkt für eine Struktur oder eine erste Idee, aber niemals die letzte Instanz. Jede Information sollte über eine unabhängige, verlässliche Quelle verifiziert werden. 

Souveränität im KI-Zeitalter bedeutet nicht, die schnellste Antwort zu finden, sondern die klügste Rückfrage zu stellen und gesund skeptisch zu bleiben. So begleiten wir unsere Kinder dabei, die KI vom vermeintlichen „Wahrheits-Automaten“ zum nützlichen Assistenten zu machen, der die Recherche erleichtert, aber das Denken niemals ersetzt.