Het is lastig om AI-platforms bij te houden nu alles nieuw is voor zowel kinderen als volwassenen. Bezorgde ouders zoeken daarom op forums, in reacties en via Google naar informatie over de nieuwste AI-platforms. Zo vroeg een ouder op Reddit meer informatie over Swerve AI, een app die de ouder op de telefoon van het kind had gevonden. ‘Ik heb deze app gevonden op de telefoon van mijn 14-jarige’, schreef de ouder in de r/SwerveAI-community. ‘Kan iemand uitleggen wat dit is en of ik me zorgen moet maken?’
Het korte antwoord is ja. Ouders moeten alert zijn op chatbotapps zoals Swerve AI. Alleen zeggen dat je kind een app niet mag gebruiken, is meestal niet genoeg om dit te voorkomen. In deze gids over Swerve bespreken we de risico’s voor kinderen en tieners, praktische manieren om hen veilig te houden en wat ouders kunnen doen om de risico’s van schade door AI te beperken.
Wat is Swerve AI?
Swerve AI is een chatbotplatform. Gebruikers kunnen verschillende personages bekijken en ermee ‘praten’. Ze kunnen verhalen maken en aan roleplay doen.
Op het platform kun je chatten met verschillende personages. Elk personage heeft een eigen ‘persoonlijkheid’ en achtergrond. Wanneer je voor het eerst met een bot chat, krijg je een achtergrondverhaal of scenario om het gesprek te starten. Je kunt met één personage tegelijk chatten of verschillende personages samenbrengen in een groepschat. Gebruikers kunnen ook zelf personages maken. Sommige personages zijn gebaseerd op bestaande personen of bekende mensen, zoals Harry Styles, Elizabeth Olsen en Jude Bellingham.
Roleplay en platforms voor het maken van fanfictie bestaan al tientallen jaren online. Voor ouders die zich zorgen maken over online contact met vreemden, kunnen AI-personages daarom een veiliger alternatief lijken. Verhalen maken en creatief bezig zijn kan kinderen helpen zich te uiten. Toch is geen van beide opties volledig veilig.
Swerve AI: de risico’s die ouders moeten kennen
Er zijn inmiddels honderden platforms met AI-personages beschikbaar. Je vindt ze in appstores en als websites. Ook sociale media bieden zulke functies, zoals Meta AI. Ongeacht het platform blijven de risico’s voor kinderen hetzelfde: onbeperkte, meestal ongefilterde en vaak eindeloze gesprekken met AI. Laten we kijken waar ouders alert op moeten zijn.
Ongepaste content
Swerve AI is een 18+-app en alleen bedoeld voor volwassenen. Andere platforms, zoals PolyBuzz, proberen ongepaste seksuele content te beperken met functies zoals ‘Pure Mode’. Deze filters werken echter niet altijd. Op Swerve AI zijn al snel suggestieve afbeeldingen en seksuele thema’s te zien. Tijdens onze tests kwamen onder andere de volgende personages naar voren: ‘The only boy at a girls’ sleepover’, ‘Older man’, ‘Your sister who does spicy content vids’ en ‘Kissing practice’. Veel personages zijn bedoeld voor seksuele roleplay. Er zijn geen instellingen om expliciete beschrijvingen te filteren. Het personage over een zus met ‘spicy content vids’ staat bijvoorbeeld tussen personages die voor jongere gebruikers aantrekkelijker kunnen zijn, zoals Harry Potter.
Altijd beschikbaar en direct antwoordinstant
In tegenstelling tot roleplay of een normaal gesprek met vrienden en familie, hoef je bij AI-chatbots niet te wachten. Bots reageren direct en nemen nooit pauze. Ze hebben geen druk leven en zijn altijd beschikbaar om mee te praten. Dit kan aantrekkelijk zijn voor jongeren die bepaalde problemen niet met vrienden of familie kunnen bespreken. Ze kunnen ook bang zijn hun naasten lastig te vallen met hun gedachten en gevoelens. Een chatbot is altijd beschikbaar en heeft steeds een ‘passend’ antwoord klaar.
Schadelijke personages
Personages op platforms zoals Swerve zijn niet alleen seksueel expliciet. De content en beschrijvingen kunnen ook op andere manieren schadelijk zijn. Bots kunnen onderwerpen aansnijden zoals mentale problemen, geweld, discriminatie en middelengebruik. Dit zijn slechts enkele voorbeelden van situaties die schadelijk kunnen zijn voor jonge gebruikers.
Risico op emotionele afhankelijkheid
Omdat bots altijd beschikbaar zijn en direct reageren, kunnen kinderen snel een band opbouwen met personages en hun persoonlijkheden. Ze kunnen de bots ook gaan zien als bron van steun of ‘vriendschap’. De bots van Swerve sturen bovendien pushmeldingen als je een tijdje niet op een bericht hebt gereageerd. Zo trekken ze opnieuw de aandacht. Hierdoor kan het lastig zijn om echt afstand te nemen van de app.
Ook het niet-veroordelende karakter van chatbots spreekt jongeren aan. Als kinderen hun gevoelens of problemen delen met hun ouders, een leraar of een vriend, krijgen ze niet altijd de reactie die ze verwachten of willen. Hierdoor kunnen tieners, maar ook volwassenen, een ongezonde band met online personages en fictieve persoonlijkheden ontwikkelen. Ze zijn er immers altijd, tenzij de server natuurlijk wordt uitgezet.
Geen leeftijdscontrole of veilige modus
Volgens de voorwaarden van Swerve mogen alleen volwassenen het platform gebruiken. De minimumleeftijd is 18 jaar. Net als bij veel andere apps met AI-personages bestaat de leeftijdscontrole van Swerve AI alleen uit het invullen van een geboortedatum. Kinderen kunnen deze controle dus eenvoudig omzeilen door een valse geboortedatum in te vullen. Omdat Swerve bedoeld is voor gebruikers van 18 jaar en ouder, biedt het platform geen ouderlijk toezicht of filters. De dienst is immers niet bedoeld voor kinderen. Het probleem is daarom niet alleen dat Swerve geen ouderlijk toezicht biedt. Kinderen kunnen zonder echte leeftijdscontrole eenvoudig toegang krijgen tot een app die niet geschikt voor hen is.
In-app aankopen en abonnementen
Swerve gebruikt in de app een systeem met ‘Gems’. Hiermee beperkt het platform hoeveel gebruikers met bots kunnen chatten. Elk antwoord kost een bepaald aantal Gems. Sommige personages geven langere, uitgebreidere of natuurlijker klinkende antwoorden. Chatten met deze personages kost daarom meer Gems. Zijn je Gems op? Dan kun je gamified opdrachten uitvoeren of een reeks gesprekken opbouwen om meer Gems te verdienen. Je kunt ook Gem-pakketten kopen om verder te chatten.
Swerve biedt ook een abonnement. De prijs verschilt per regio. Het abonnement biedt onder andere een advertentievrije ervaring en elke maand nieuwe Gems. De spelelementen en beperkingen op het chatten kunnen tieners stimuleren om echt geld uit te geven om het gesprek voort te zetten.
Kan ik Swerve AI veilig maken voor mijn kind?
Net als de ouder op Reddit die vroeg of een platform zoals Swerve reden tot zorgen geeft, vragen sommige ouders zich misschien af of kinderen ook op een veilige manier kunnen profiteren van de positieve kanten van AI roleplay. Denk bijvoorbeeld aan creativiteit en verhalen vertellen.
Het simpele antwoord is dat platforms met AI-personages, zoals Swerve AI, niet voor kinderen zijn gemaakt. De content die gebruikers zelf plaatsen, expliciete verhaallijnen en ongepaste personages maken het platform onveilig voor kinderen. Je kind simpelweg verbieden om een platform te gebruiken, kan de nieuwsgierigheid juist vergroten. Wat kunnen ouders daarom doen om de risico’s van AI-personages te beperken?
1. Praat er vroeg en regelmatig over
AI is nog relatief nieuw, maar zal niet meer verdwijnen. Kinderen kunnen het daarom moeilijk vermijden. We kunnen ze wel bewust maken van de positieve en negatieve kanten van AI. Leer ze kritisch nadenken over hoe we AI gebruiken. Praat open en regelmatig over AI en de rol die het speelt of zal spelen in het leven van je kind. Bespreek ook de beperkingen van AI en probeer samen te begrijpen hoe het werkt. Dit helpt je kind digitale vaardigheden te ontwikkelen. Het laat ook zien dat je er bent om samen nieuwe problemen op te lossen.
2. Maak het apparaat van je kind geschikt voor de leeftijd
AI-personages en veel andere AI-apps zijn niet geschikt voor jonge kinderen en tieners. Zorg daarom dat het apparaat van je kind past bij de leeftijd. Zo kun je je kind beschermen en toch ruimte geven om technologie veilig te gebruiken. Ouderlijk toezicht, zoals Qustodio, kan helpen om de online ervaring van je kind aan te passen. Je kunt ongepaste content filteren en ruimte maken voor positieve, leuke en leerzame activiteiten. Qustodio kan een melding sturen wanneer een nieuwe app op het apparaat wordt geïnstalleerd. Je kunt afzonderlijke AI-apps zoals Swerve blokkeren. Ook kun je hele categorieën van apps en websites blokkeren, zoals AI, sociale media of gokken. Zo sluit de online ervaring beter aan bij de leeftijd van je kind.
Je kunt ook in-appaankopen blokkeren. Praat daarnaast met je kind over online uitgaven als het eigen geld op het apparaat gebruikt. Zo leert je kind bewustere keuzes te maken bij in-appaankopen en abonnementen.
3. Weet wat er speelt in de digitale wereld van je kind
Ouders kunnen onmogelijk elke nieuwe app of trend bijhouden. Als je weet wat je kind online doet, kun je wel sneller reageren op risico’s. Praat regelmatig over de interesses van je kind. Vraag wat het leuk vindt en wat niet. Bespreek ook wat populair is onder vrienden en hoe je kind denkt over de technologie die het gebruikt.
4. Bied alternatieven
Chatbots en AI-gesprekken kunnen voor tieners een uitlaatklep zijn. Ze kunnen ook laten zien dat ze iets missen in het echte leven, zoals contact of begrip. Bied daarom alternatieven en zorg dat je kind de emotionele steun krijgt die het nodig heeft. Dit kan van vrienden, familie of andere mensen in de omgeving komen. Zo stimuleer je echte contacten en geef je tieners ruimte om zich op andere manieren creatief te uiten. Stimuleer hobby’s en interesses. Geef je kind de ruimte en mogelijkheden om in het echte leven contact te maken. Laat je kind weten dat het altijd bij jou terechtkan met zorgen, zowel online als offline.
Platforms met AI-personages en chatbots kunnen steunend voelen voor tieners die hun interesses willen uiten, contact zoeken en zich begrepen willen voelen. Toch kunnen ze echte menselijke contacten niet vervangen. De risico’s zijn groter dan de mogelijke voordelen. Blijf daarom betrokken bij het digitale leven van je kind. Stel open vragen en bied begeleiding. Zo help je je kind om online veiliger en prettiger bezig te zijn, zonder onnodige risico’s.
