KI-Ethik bei Kinderfotos: unsere drei klaren Grenzen

Ein KI-Modell, das innerhalb von Sekunden aus dem Foto eines Kindes eine Illustration macht, wirft Fragen auf, die über Datenschutz hinausgehen. Einwilligung, Nachahmung echter Personen und die Ausbeutung besonders schutzbedürftiger Nutzer sind drei getrennte ethische Kategorien, und Kinder gelten in der Gesetzgebung zunehmend als eigene, strenger geschützte Gruppe. Der EU AI Act (Verordnung (EU) 2024/1689) verbietet in Artikel 5 ausdrücklich KI-Systeme, die die Schutzbedürftigkeit einer bestimmten Gruppe - Kinder eingeschlossen - ausnutzen, um deren Verhalten auf schädliche Weise zu beeinflussen. UNICEF veröffentlichte 2021 eine eigene Grundsatzrichtlinie zu KI und Kindern, mit der zentralen Aussage, dass Kinder beim KI-Design keine “kleinen Erwachsenen” sind: ihre Rechte, ihre Schutzbedürftigkeit und ihre Entwicklungsphase verlangen eigene Abwägungen, unabhängig davon, was für Erwachsene als ausreichender Schutz gilt.

Für einen Dienst, der Illustrationen auf Basis eines hochgeladenen Kinderfotos erstellt, ist das keine abstrakte Debatte. Bei MeinEigenesBuechlein ziehen wir drei klare Grenzen, unabhängig davon, was technisch möglich wäre.

Grenze 1: kein Foto ohne Einwilligung der Eltern

Die erste Grenze ist die naheliegendste und zugleich am schwersten technisch durchzusetzen: Nur ein Elternteil oder eine Erziehungsberechtigte darf das Foto hochladen, bestätigt ausdrücklich beim Upload. Kein System kann mit Sicherheit feststellen, wer tatsächlich auf einem Foto zu sehen ist oder in welchem Verhältnis diese Person zur hochladenden Person steht. Was sich dagegen umsetzen lässt: Kein Foto wird dauerhaft gespeichert, zwischen Konten geteilt oder für ein anderes Buch als das ursprünglich hochgeladene weiterverwendet. Sobald die Illustrationen erstellt und freigegeben sind, wird das Foto automatisch von unseren Servern gelöscht.

Das ist eine bewusste Entscheidung: Die Einwilligung selbst lässt sich nicht überprüfen, aber das Missbrauchsrisiko nach dem Upload lässt sich so klein wie möglich halten. Mehr zur technischen Seite dieses Versprechens liest du in unserem Artikel darüber, was mit einem hochgeladenen Foto tatsächlich passiert.

Grenze 2: keine Nachahmung echter, erkennbarer Personen

Die zweite Grenze liegt näher an der Technik selbst. Das System ist nicht darauf ausgelegt, eine bestimmte, namentlich genannte bekannte Person nachzubilden, und ebenso wenig darauf, aus einer Textbeschreibung ein anderes Kind zu erzeugen als das hochgeladene. Das ist dieselbe Logik, aus der wir in unseren eigenen Stiloptionen nie den Namen eines bestimmten Illustrators oder Studios verwenden: Sicherheitsfilter von Modellen wie gpt-image-2 reagieren empfindlich auf die Kombination aus einem Namen und einem Kinderkontext, und das zu Recht. Ein System, das gelernt hat, bei “Name plus Kind” vorsichtig zu sein, ist genau die Art Leitplanke, die man bei Inhalten mit und über Kinder haben möchte.

Edwin, der Data Engineer hinter der Pipeline: “Wir haben uns bewusst dafür entschieden, Stile zu beschreiben statt sie zu benennen. Das ist nicht nur ein technischer Umweg, um Ablehnungen zu vermeiden, es ist inhaltlich auch die richtige Entscheidung: Man will kein System bauen, das es leicht macht, das Gesicht eines Kindes mit dem Werk oder der Identität einer bestimmten, echten dritten Person zu verknüpfen.”

Grenze 3: keine Ausbeutungsmuster

Die dritte Grenze betrifft das Design des Dienstes selbst, nicht die Illustration. Keine Werbung, die sich direkt an Kinder richtet, kein künstlicher Zeitdruck oder vorgetäuschte Knappheit im Bestellprozess, und kein Profiling von Kindern für Werbezwecke. Die Person, die das Formular ausfüllt und bezahlt, ist das Elternteil, und der Dienst ist entsprechend gestaltet: Das Kind ist Gegenstand des Buches, niemals Zielgruppe des Marketings.

Das klingt selbstverständlich, aber der EU AI Act nennt genau solche “Dark Patterns” gegenüber schutzbedürftigen Gruppen ausdrücklich als die Art von Manipulation, die die Gesetzgebung verhindern soll. Für einen Dienst, der sich direkt an Familien mit kleinen Kindern richtet, ist es keine überflüssige Übung, diese Grenze laut zu benennen, statt sie stillschweigend vorauszusetzen.

Wenn das nicht genug Sicherheit gibt

Für manche Eltern reicht keine Garantie: Sie lehnen es aus Prinzip ab, ein Foto ihres Kindes einem KI-System anzuvertrauen, egal wie die Schutzmaßnahmen gestaltet sind. Das ist eine legitime Haltung, kein Misstrauen, das widerlegt werden müsste. Für diese Situation ist ein Buch, das über eine Beschreibung statt über einen Foto-Upload personalisiert - so wie Wonderbly es mit Name, Haarfarbe und Hautton macht - die ehrlichere Wahl. Unser eigener Vergleich zwischen Wonderbly und MeinEigenesBuechlein stellt diesen Unterschied gegenüber.

Edwins Seite der Geschichte

Edwin baut die Pipeline und ist selbst Vater von zwei Kindern. “Als Data Engineer kann ich erklären, wie die Löschung und die Anonymisierung technisch funktionieren. Als Vater stelle ich mir eine einfachere Frage: Würde ich selbst ein Foto meiner Kinder bei einem Dienst hochladen, den ich nicht selbst gebaut hätte? Diese Frage schärft mich mehr als eine Compliance-Checkliste. Wie wir dafür sorgen, dass das Gesicht deines Kindes von der ersten bis zur letzten Seite erkennbar bleibt, beschreiben wir übrigens in einem eigenen Artikel zu dieser technischen Seite.”

Ethik bei KI und Kindern ist kein Kästchen, das man einmal abhakt und dann als erledigt betrachtet. Es ist eine fortlaufende Abwägung zwischen dem, was technisch möglich ist, was das Gesetz verlangt, und was man sich selbst als Elternteil für sein eigenes Kind wünschen würde. Dieser letzte Maßstab ist am Ende der strengste von allen dreien.

👉 Entdecke, wie ein personalisiertes Kinderbuch von MeinEigenesBuechlein funktioniert