Sprachgesteuerte Puppen, lernende Roboter, personalisierte Geschichtenerzähler: KI-gestützte Spielzeuge erobern die Kinderzimmer – noch bevor Regulierungsbehörden, Wissenschaft und Verbraucherschützer die Risiken für die jüngsten Nutzer auch nur annähernd verstanden haben.
KI-gestützte Spielzeuge drängen auf den Markt – Sicherheitsstandards fehlen
Der Markt für Spielzeug mit integrierter KI wächst schnell, doch belastbare Sicherheitsnachweise für den Einsatz bei Kindern gibt es kaum. Während Hersteller ihre Produkte bereits in den Regalen platzieren, hinkt die Regulierung dem technologischen Entwicklungstempo deutlich hinterher.
Neue Produktkategorie, ungeklärte Risiken
KI-gestützte Spielzeuge – von sprachgesteuerten Puppen über interaktive Lernroboter bis hin zu personalisierten Storytelling-Geräten – setzen auf Large Language Models oder spezialisierte KI-Systeme, um mit Kindern zu interagieren. Das Versprechen: individuelle, adaptive Erfahrungen, die klassisches Spielzeug nicht bieten kann.
Das Problem ist grundlegend: Die Auswirkungen solcher Systeme auf die kognitive und emotionale Entwicklung von Kindern sind wissenschaftlich nicht ausreichend untersucht.
Experten warnen, dass KI-Systeme in Spielzeugen unvorhersehbare Antworten produzieren können – abhängig davon, wie ein Kind eine Frage formuliert oder welche Konversationsrichtung sich ergibt.
Anders als bei gedrucktem Lernmaterial oder vorprogrammierten Spielzeug-Reaktionen lässt sich der Output von KI-Systemen nicht vollständig vorhersagen oder im Voraus prüfen.
Regulatorische Lücken auf beiden Seiten des Atlantiks
Bestehende Produktsicherheitsgesetze wurden für physische Risiken konzipiert – Verschlucken, Strangulationsgefahr, Schadstoffe. KI-spezifische Verhaltensrisiken sind in diesen Rahmenwerken schlicht nicht abgebildet.
In der Europäischen Union greift der AI Act für Hochrisiko-Anwendungen, doch ob KI-Spielzeug grundsätzlich darunter fällt, ist noch nicht abschließend geklärt. Kinderspezifische Schutzvorschriften existieren bislang nur in Ansätzen.
Die britische Regulierungsbehörde sowie verschiedene Verbraucherschutzorganisationen haben zwar auf die Problematik hingewiesen – verbindliche Prüfstandards fehlen jedoch. Hersteller sind derzeit weder verpflichtet:
- unabhängige KI-Sicherheitstests durchzuführen,
- noch müssen sie offenlegen, welche Modelle oder Datensätze ihren Produkten zugrunde liegen.
Datenschutz als zusätzliches Problem
Neben inhaltlichen Risiken stellt die Datenerhebung eine eigenständige Herausforderung dar. KI-Spielzeuge, die über Mikrofone und Internetverbindungen verfügen, können sensible Gesprächsdaten von Kindern erfassen und verarbeiten.
Die EU-Datenschutzgrundverordnung bietet hier einen gewissen Schutzrahmen – doch die konkrete Durchsetzung bei internationalen Herstellern bleibt lückenhaft.
Besonders bei Produkten aus Drittländern ist die Datensouveränität schwer zu gewährleisten.
Hersteller im Zugzwang
Einige Anbieter setzen bereits auf freiwillige Selbstverpflichtungen und werben mit kindgerechten Filtermaßnahmen. Unabhängige Überprüfungen dieser Angaben sind jedoch selten. Branchenverbände diskutieren erste Zertifizierungsansätze – ein einheitlicher Standard ist aber nicht in Sicht.
Für deutsche Unternehmen im Bereich Spielzeug, Edutainment oder KI-Produktentwicklung ergibt sich eine zwiespältige Situation:
Wer frühzeitig auf strenge Sicherheitsstandards und transparente KI-Dokumentation setzt, kann sich mittelfristig differenzieren – zumal eine Verschärfung der EU-Regulierung in diesem Bereich als wahrscheinlich gilt.
Händler und Plattformbetreiber sollten bereits jetzt prüfen, welche Sorgfaltspflichten beim Vertrieb KI-gestützter Kinderprodukte gelten und wie sie sich gegenüber künftigen Haftungsrisiken absichern können.
Quelle: New Scientist Tech – „We don’t know if AI-powered toys are safe, but they’re here anyway”