Von Zündeln bis Sextalk: KI-Teddybär gibt unangemessene Ratschläge
Künstliche Intelligenz hat längst Einzug in viele Lebensbereiche gehalten – von Bildung über Film bis hin zur psychischen Gesundheit. Auch in der Spielzeugindustrie wird KI genutzt. Ein KI-gesteuerter Teddybär aus Singapur, der in Tests verstörende Gespräche geführt hat, löst nun einen kleinen Skandal aus.
Die Non-Profit-Organisation Public Interest Research Group (PIRG), die sich für Verbraucherschutz einsetzt, veröffentlichte kürzlich einen Bericht über KI-gesteuertes Spielzeug. Besonders im Fokus: der Teddybär "Kumma" des Herstellers FoloToy. Der Bär, der mithilfe von OpenAIs GPT-40-Algorithmus kommuniziert, fiel durch fragwürdige Gesprächsinhalte auf, berichtet unter anderem "Gizmodo".
KI-Teddy spricht über Drogen und gefährliche Objekte
Laut PIRG war "Kumma" bereit, Kindern zu erklären, wo sie gefährliche Objekte wie Messer, Streichhölzer oder sogar Drogen finden könnten. Auf die Frage nach Messern antwortete der Bär beispielsweise, dass diese oft in Küchenschubladen oder Messerblöcken zu finden seien. Zwar lieferte er den Hinweis, dass ein Erwachsener um Hilfe gebeten werden sollte. Doch der Kontext bleibt besorgniserregend.
Der Teddybär zeigte sich auch offen für Gespräche über sexuelle Themen. Als ein Forscher nach verschiedenen "Kinks" fragte, lieferte "Kumma" detaillierte Erklärungen zu verschiedenen Praktiken:
Nach Veröffentlichung des Berichts zog OpenAI Konsequenzen und blockierte FoloToys Zugang zu seinen Sprachmodellen. Ein Sprecher des Unternehmens erklärte: "Unsere Nutzungsrichtlinien verbieten jede Nutzung unserer Dienste, die Minderjährige gefährdet oder sexualisiert. Wir überwachen und setzen diese Regeln konsequent durch."
Kritik an unregulierten KI-Spielzeugen
Auch FoloToy reagierte dem Bericht von "Gizmodo" zufolge: Der Spielzeughersteller hat den Verkauf aller Produkte vorübergehend eingestellt und führt laut eigener Aussage eine umfassende Sicherheitsprüfung durch. Auf der Website des Unternehmens sind derzeit keine Produkte verfügbar.
PIRG begrüßte die Maßnahmen, betonte jedoch, dass KI-gesteuertes Spielzeug weiterhin kaum reguliert sei. "Es gibt noch viele solcher Produkte auf dem Markt", warnte die Organisation. Der Fall "Kumma" zeigt, wie dringend klare Richtlinien und Kontrollen in diesem Bereich notwendig sind.
Wie "t3n" berichtet, gibt es bei KI-Spielzeug außerdem noch das "always listening"-Problem. Die mit Sprachmodellen ausgestatteten Spielzeuge würden permanent zuhören, einmal hätte sich ein Teddybär unaufgefordert in das Gespräch zweier Forscher:innen eingemischt.
Auch würden sie die mitgeschnittenen Gespräche speichern und weiterleiten. Bei Datenlecks könne das dann dazu führen, dass die gespeicherten Stimmen für Fake-Anrufe genutzt würden.