Erfindet KI Fakten in Kindergeschichten? | MeinEigenesBuechlein
“Papa, wissen Goldfische wirklich, wann es Abendessen gibt?” Unsere Tochter hatte gerade eine KI-generierte Gutenachtgeschichte gehört, in der ein Goldfisch selbstsicher erklärte, wann genau das Abendessen serviert würde. Lustig gemeint, an sich harmlos. Aber es brachte Edwin, Data Engineer bei MeinEigenesBuechlein, zum Nachdenken über ein weniger harmloses Szenario: Was passiert, wenn eine KI-Geschichte ein Detail erfindet, das tatsächlich wie ein Fakt klingt, und dein Kind es einfach glaubt?
Was “Halluzinieren” bei einem Sprachmodell genau bedeutet
Ein Sprachmodell sagt, vereinfacht gesagt, jeweils das statistisch wahrscheinlichste nächste Wort voraus, basierend auf Mustern aus riesigen Textmengen. Es befragt keine Faktendatenbank und hat keinen eingebauten “das stimmt nicht”-Alarm. Dadurch kann es ein erfundenes Detail mit genau demselben selbstbewussten Ton präsentieren wie eine korrekte Aussage.
In der KI-Forschung heißt das “Halluzination”, und es ist kein gelegentlicher Fehler, sondern eine strukturelle Eigenschaft dieser Textgenerierung. Ein umfassender Überblicksartikel von Ji et al. (2023) in ACM Computing Surveys fasst dutzende Studien zusammen, die zeigen, dass praktisch jedes Sprachmodell, klein oder groß, in gewissem Maße faktisch falsche Aussagen produziert, oft in flüssigem, überzeugend klingendem Text.
Warum das bei Kindern schwerer wiegt als bei Erwachsenen
Ein Erwachsener, der einen KI-Text liest, hat meist einen eingebauten Reflex, zweifelhafte Aussagen zu hinterfragen. Kleine Kinder haben diesen Reflex kaum. Der Entwicklungspsychologe Vikram Jaswal untersuchte in einer Studie in Cognitive Psychology (2010), wie stark Kleinkinder darauf vertrauen, was ihnen ein Erwachsener erzählt, selbst wenn das im Widerspruch zu dem steht, was sie mit eigenen Augen sehen. Die Kinder glaubten immer wieder der mündlichen Erklärung mehr als ihrer eigenen Wahrnehmung.
Diese Erkenntnis überträgt sich direkt aufs Vorlesen. Ein vierjähriges Kind hat noch nicht die kritische Distanz, um ein beiläufig erfundenes “Faktum” in einer Geschichte als unwahr zu erkennen. Wenn eine KI-Geschichte ein Detail mit derselben selbstverständlichen Tonlage erzählt, ob es nun stimmt oder nicht, ist die Wahrscheinlichkeit groß, dass ein kleines Kind es einfach für wahr hält.
Wie die KI-Branche versucht, das einzugrenzen
Entwickler von Sprachmodellen nutzen mehrere bekannte Techniken, um Halluzinationen zu reduzieren. Retrieval-Augmented Generation koppelt ein Modell an eine geprüfte Quelle, statt sich vollständig auf das eigene “Gedächtnis” zu verlassen. Strengere Systemanweisungen begrenzen, worüber ein Modell überhaupt Aussagen treffen darf. Eine niedrigere “Temperature”-Einstellung macht die Ausgabe vorhersehbarer und weniger anfällig für kreative, aber unzutreffende Ergänzungen. Menschliche Kontrolle bleibt daneben die zuverlässigste Ebene, auch wenn sie sich nicht auf jede einzeln generierte Geschichte skalieren lässt.
Keine dieser Techniken senkt das Risiko auf null. Sie verringern die Wahrscheinlichkeit, sie beseitigen sie nicht. In unserer eigenen Erklärung, wie der gesamte Ablauf funktioniert, liest du, welche Kontrollschritte wir neben der Textgenerierung selbst eingebaut haben.
Wo das nicht wirklich lösbar ist
Ehrlich gesagt: Für Inhalte, bei denen faktische Präzision der eigentliche Punkt ist, ist eine KI-generierte Geschichte nicht das richtige Werkzeug, unsere nicht und keine andere auch. Willst du deinem Kind exakt erklären, wie ein bestimmter medizinischer Eingriff funktioniert, wie Photosynthese abläuft, oder ein präzises historisches Faktum vermitteln, dann wähle ein Sachbuch von einem Verlag, dessen Redaktion tatsächlich Fakten prüft. Verlage wie Ravensburger mit ihrer “Wieso? Weshalb? Warum?”-Reihe bringen faktengeprüfte Sachbuchreihen für Kinder heraus, mit einem redaktionellen Prozess, den ein Sprachmodell schlicht nicht hat.
Auch Kinder, die sehr wörtlich denken und Schwierigkeiten haben, Fiktion und Fakt zu trennen, verdienen zusätzliche Aufmerksamkeit. Ein einzelnes ungewöhnliches Detail in einem offensichtlich erfundenen Abenteuer ist für die meisten Kinder harmlos, aber nicht jedes Kind ordnet es gleich leicht ein.
Wie wir das in unserer eigenen Geschichten-Pipeline handhaben
Edwin: “Wir halten das Modell bewusst innerhalb der Grenzen der Fiktion. Der Systemprompt verbietet ausdrücklich historische Personen, naturwissenschaftliche oder biologische ‘Fakten’ als gegeben, und jede Behauptung, die als objektive Wahrheit gelesen werden könnte. Die Geschichte darf so fantastisch sein, wie sie will, ein sprechender Fisch, ein fliegendes Fahrrad, solange das eindeutig Fiktion bleibt und nie als Wissen dargestellt wird.”
Als Vater sieht er den Unterschied auch zu Hause. “Wenn meine Tochter fragt, ob ein fliegendes Fahrrad echt existiert, kennt sie die Antwort eigentlich schon halb, es liest sich klar als Fantasie. Genau deshalb halten wir die Geschichte bewusst in dieser fiktiven Ebene. Sobald ein ‘Faktum’ sich als Wissen statt als Fantasie präsentiert, verschwindet dieser Unterschied für ein vier- oder fünfjähriges Kind.” Unsere Erklärung der kompletten gpt-image-2-Pipeline zeigt, wie dieselbe Sorgfalt auch bei der Erstellung der Illustrationen zum Tragen kommt.
Der fiktive Rahmen als Schutz
Der stärkste Schutz gegen Halluzinationen in einer Kindergeschichte ist kein technischer Trick im Nachhinein, sondern eine bewusste Entscheidung im Vorfeld: die Geschichte eindeutig als Fiktion halten und nie so tun, als würde sie Fakten lehren. Das löst das zugrunde liegende Problem von Sprachmodellen nicht, sorgt aber dafür, dass ein erfundenes Detail bei deinem Kind nie als Wissen ankommt. Wer genau wissen möchte, wie wir mit dem hochgeladenen Foto eines Kindes umgehen, findet das in unserer Erklärung dazu, was mit dem Foto eines Kindes in der KI-Pipeline passiert.