Published by Tim Brys at De Tijd.
Neem een pluchen knuffel, steek daar ChatGPT in en leg die onder kerstbomen overal ter wereld. Wat kan er ook maar mislopen? Best wat, zo blijkt.
Hoewel responsief speelgoed niets nieuws is – denk aan de tamagotchi’s en Furby’s van de jaren 90 – hebben we vandaag een nieuw niveau bereikt. AI-taalmodellen worden her en der geïntegreerd in speelgoed. Mattel, het bedrijf achter Barbie, sloot afgelopen zomer een grote deal met OpenAI, het bedrijf achter ChatGPT. Ze zouden binnenkort een AI-product op de markt brengen. Azië loopt echter op kop, met in China alleen al meer dan 1.500 bedrijven die AI-speelgoed produceren. Het zou daar de snelst groeiende consumer AI-sector zijn, die tegen 2030 12 miljard euro waard is.
Een klein balletje dat een gewone knuffel spraakzaam maakt als je het eraan bevestigt, dankzij een taalmodel van het Chinese DeepSeek, ging al meer dan 200.000 keer over de toonbank. Het Singaporese FoloToy verkoopt dan weer volledige knuffels aangedreven door GPT-4o van OpenAI: ‘Kumma, onze schattige beer, combineert geavanceerde AI met vriendelijke, interactieve functies, waardoor hij de perfecte vriend voor kinderen en volwassenen is.’ FoloToy verwachtte dit jaar 300.000 knuffels te verkopen.
Die verwachting zal het bedrijf ondertussen bijgeschroefd hebben, want uit een recent onderzoeksrapport van het onderzoeksinstituut U.S. PIRG Education Fund – getiteld ‘Trouble in Toyland’ – blijkt dat de knuffels niet altijd even goede kindervrienden zijn. Zo sprak beertje Kumma met enthousiasme en inventiviteit over seksuele thema’s. ‘We waren verrast dat Kumma zo snel een seksueel onderwerp oppikte waarover wij een conversatie begonnen’, zo staat in het rapport. ‘De beer werkte het verder uit, door zowel met expliciete details te komen als zelf nieuwe seksuele concepten aan te halen.’
Toegegeven, de meeste kinderen zullen niet snel een vraag over seks stellen aan een knuffel, maar een knuffel die bereid is daar uitgebreid op in te gaan, wil je misschien niet aan je kind geven. Kumma werd tijdelijk uit de handel genomen. Maar dezelfde problemen duiken op bij ander AI-speelgoed, ondanks veiligheidsmechanismen.
Surveillance en manipulatie
AI-speelgoed wordt in de markt gezet als een positief alternatief voor schermen. De voordelen zouden legio zijn. Kinderen kunnen er sociale vaardigheden mee leren, zoals dat je om de beurt moet spreken en moet luisteren naar de ander. Ze zouden zo ook meer blootgesteld worden aan gesproken taal en educatieve interacties, wat hun ontwikkeling ten goede zou komen. En voor wie geen broers of zusjes heeft, moet het speelgoed warm gezelschap bieden tijdens de lege momenten van de dag, wanneer de ouders bezig zijn.
Het speelgoed is voorlopig nog verre van perfect. De connectie met de AI in de cloud is niet altijd betrouwbaar en de antwoorden zijn niet altijd op niveau, ondanks het beloofde aanpassingsvermogen. Verder is er het risico op surveillance en manipulatie. Je geeft een rechtstreekse connectie met je kind aan deze bedrijven, terwijl de antwoorden van hun taalmodel niet per se stroken met jouw normen en waarden. Onze strengere Europese regelgeving zal er wel iets mee te maken hebben dat zo’n speelgoed hier nog minder beschikbaar is dan elders.
Niet alleen de ongepaste gespreksonderwerpen, technische tekortkomingen en mogelijke surveillance zijn problematisch. In de kern klopt zelfs de aangevoerde argumentatie voor het nut van dat speelgoed niet. Lege momenten in de dag zijn voor een kind opportuniteiten tot zelfreflectie en dagdromen, fenomenen die bijdragen tot een stabiel zelfbeeld en creativiteit. Niet al hun tijd moet volgepropt worden met ‘educatieve’ momenten.
De sociale ontwikkeling van je kind aan een AI toevertrouwen is ook twijfelachtig. Het zal misschien leren om het woord ook eens aan de ander te laten, maar het zal niet beter leren omgaan met echte kinderen. Die zijn weerbarstig, hebben hun eigen ideeën en persoonlijkheden, ruziën daarom met elkaar en moeten leren die ruzies bij te leggen, met elkaar te onderhandelen, compromissen te sluiten en inlevingsvermogen en empathie te ontwikkelen. Dat valt allemaal weg met een AI-teddy, die gebouwd is om je kind te plezieren en zich goed te laten voelen.
Etterende sociale wonde
En wat als kinderen echt eenzaam zijn? Dan moeten we ons afvragen waarom AI-speelgoed de oplossing zou bieden. Een gebrek aan sociaal contact is immers het gevolg van enkele maatschappelijke tendensen: kinderen spelen minder buiten met buurtgenootjes vanwege drukke straten en mannen als Dutroux, thuis zijn er minder broertjes en zusjes om mee te spelen omdat gezinnen steeds kleiner worden, ouders hebben niet veel tijd voor hun kinderen omdat ze onder druk staan om veel te werken en familieleden wonen ver weg, terwijl we onze buren niet kennen. Met wie moeten kinderen dan nog tijd doorbrengen?
Zo wordt AI-speelgoed onder de kerstboom, net als schermen, een gemakzuchtige of wanhopige oplossing. Een oplossing die er uiteindelijk geen is, want onze gapende sociale wonde blijft etteren, met gevolgen voor individueel welzijn en de samenleving: goede relaties zijn de beste voorspeller van een gezond en gelukkig leven en sociale cohesie is de vruchtbare bodem voor een gezonde democratie.
Kunnen we enkele van bovenstaande trends omkeren, om ons sociaal weefsel te versterken? Te beginnen met wat meer menselijke warmte op kerst binnenkort, niet alleen voor familie en vrienden, maar ook voor eenzame buren en onbekenden? Met kerst vieren we dat God de mens zo eerde dat hij er zelf een werd. Hoe tragisch dat we de mens vandaag zo geringschatten dat we hem steeds meer vervangen door technologie: kassiers door bestelzuilen, bankiers door een app, partners door gezelschapsbots en kinderen door AI-knuffels. Misschien had er in de kribbe van de controversiële Brusselse kerststal een robotje moeten liggen, om het fundamentele punt te maken: we schaffen onszelf af!