Even in het kort: Snapchats My AI wordt aangedreven door ChatGPT. Je weet wel, dat chatalgoritme van OpenAI dat op basis van kunstmatige intelligentie (AI) leesbare teksten kan produceren. De chatbot presenteert zich als virtuele vriend en geeft op zowel maatschappelijke als persoonlijke vragen uitgebreid antwoord. Wanneer je een foto van jezelf opstuurt, geeft 'ie je zelfs een compliment. Verder kun je de naam en foto van de chatbot aanpassen. Geen zin in My AI? Dan moet je dokken. De chatbot verwijderen uit je feed is alleen mogelijk als je betaalt.

Lees ook: Kanye West met 'Met Romana op de scooter' en nog 6 AI-versies van Nederlandse nummers die je wil horen

Nep van echt te onderscheiden Klinkt misschien leuk, zo'n chatbot die je complimenten en antwoord op al je vragen geeft, maar verschillende instanties zien My AI liever verdwijnen. Volgens Kenniscentrum Bureau Jeugd & Media schendt de app de privacy van kinderen. 'Er is echt genoeg reden om de bot te verbieden. Hiervoor is grond te vinden in de kinderrechten.'

Arda Gerkens vraagt zich in het AD af waarom we überhaupt bots inzetten om te chatten met kinderen. 'Hoeveel verder kunnen we nog van het menselijk contact gaan?' Gerkens is directeur-bestuurder van Expertisebureau Online Kindermisbruik (EOKM), een stichting die zich inzet voor de online veiligheid van kinderen. Zij vindt dat kunstmatige intelligentie die veiligheid in gevaar brengt. 'Hoe echter, hoe moeilijker het voor kinderen wordt om nep van echt te onderscheiden. En het werkt ook andersom. Straks denken kinderen dat zij met een bot praten, maar blijkt het wel een echt persoon te zijn.'

Geen geweten Justine Pardoen van Kenniscentrum Bureau Jeugd & Media voegt daaraan toe dat zo'n chatbot helemaal niet empathisch is. 'Hij heeft misschien wel gedragingen die daarop lijken, maar de robot heeft geen geweten. Daarom is het ontzettend belangrijk dat je met kinderen heel voorzichtig bent.'

Ook de ChristenUnie, SGP, SP en het CDA willen kinderen 'beschermen' tegen kunstmatige intelligentie. Zo is ook René Peters (CDA) sceptisch over de effecten van My AI. 'Ik vind dat we niet naïef moeten zijn', zegt hij tegen de krant. 'Bedrijven als Snapchat hebben echt niet per se het beste met kinderen voor. Die willen geld verdienen. Reguleren is dus belangrijk. 'En als ze dat niet uit zichzelf doen, zal de overheid dat moeten doen.'

Lees ook: Help, ChatGTP wordt fokking eng: dit is wat de nieuwste versie ondertussen allemaal kan

Verbod of leeftijdsbegrenzing De boel reguleren gaat helaas niet zo makkelijk volgens techdeskundigen, omdat My AI onlosmakelijk verbonden is aan ChatGPT, en dat er nu eenmaal is en zich ook steeds verder perfectioneert. Daarom wordt er gepleit voor een verbod of een leeftijdsbegrenzing. Momenteel hanteert Snapchat zelf een leeftijdsgrens van 13 jaar. En tot 16 jaar moeten tieners toestemming hebben van de ouders.

Nederland gaat vooralsnog niet over tot een blokkade van ChatGPT. De Autoriteit Persoonsgegevens, de toezichthouder voor privacy, zegt de situatie wel op de voet te volgen en waarschuwt gebruikers om voorzichtig te zijn.