Tenere il passo con le piattaforme di intelligenza artificiale è difficile, perché per tutti, adulti e bambini, si tratta di una novità assoluta. I genitori preoccupati cercano risposte su forum, sezioni commenti e motori di ricerca per capire come funzionano le ultime app basate sull’IA, come questo papà su Reddit che voleva saperne di più su Swerve AI, un’app trovata sul telefono della figlia. “Ho trovato questa app sul telefono di mia figlia di 14 anni”, ha scritto alla community r/SwerveAI. “Qualcuno può spiegarmi di cosa si tratta e se devo preoccuparmi?”
La risposta breve è sì: i genitori dovrebbero preoccuparsi di app con chatbot come Swerve AI. Ma, come sappiamo, dire a un ragazzo che un’app non andrebbe usata raramente basta a tenerlo lontano da essa. In questa guida su Swerve vedremo quali rischi segnalare a bambini e adolescenti, alcuni modi concreti per proteggerli e cosa possono fare i genitori per ridurre i rischi legati all’IA.
Cos’è Swerve AI?
Swerve AI è una piattaforma di chatbot dove gli utenti possono scegliere tra diversi personaggi e “parlare” con loro, costruendo storie e partecipando a giochi di ruolo.
La piattaforma permette di aprire chat con più personaggi contemporaneamente, ognuno con una propria “personalità” e un proprio background: quando si avvia una conversazione con un bot per la prima volta, viene proposta una storia o uno scenario di partenza. Si può chattare con un personaggio alla volta oppure riunirne di più in una chat di gruppo. Gli utenti possono creare i propri personaggi, ma alcuni si basano su persone reali o esistenti, come Harry Styles, Elizabeth Olsen o Jude Bellingham.
I giochi di ruolo e gli spazi dedicati alla fan fiction esistono online da decenni, quindi per i genitori preoccupati che i figli parlino con estranei online, i personaggi generati dall’IA possono sembrare un’alternativa più sicura. La possibilità di raccontare storie ed esprimersi in modo creativo può essere uno sfogo per i più giovani, ma la realtà è che nessuna delle due opzioni è davvero sicura.
Swerve AI: i rischi di cui i genitori devono essere al corrente
Oggi esistono centinaia di piattaforme di chatbot con personaggi, disponibili negli app store, come siti web e persino come funzione integrata nei social media, come Meta AI. Ma qualunque sia la piattaforma, i rischi che questi spazi di chat pongono ai bambini restano gli stessi: conversazioni con l’IA senza restrizioni, poco filtrate e spesso illimitate. Ecco a cosa devono prestare attenzione i genitori.
Contenuti inappropriati
Swerve AI è un’applicazione per soli maggiorenni, pensata esclusivamente per un uso adulto. Mentre altre piattaforme come PolyBuzz hanno provato a limitare i contenuti non adatti introducendo funzioni di filtro come la “Modalità pura” (i filtri, purtroppo, non sempre funzionano), basta scorrere velocemente i personaggi su Swerve per imbattersi in immagini allusive e temi sessuali. Alcuni esempi emersi durante i nostri test: “L’unico ragazzo a un pigiama party di sole ragazze”, “Uomo più maturo”, “Tua sorella che gira video piccanti” e “Allenati a baciare”. Molti personaggi della piattaforma sono pensati per il roleplay sessuale, e non esiste alcun filtro per escludere le descrizioni più esplicite: la sorella con i “video piccanti” compare nella stessa lista di personaggi che potrebbero attirare un pubblico più giovane, come ad esempio Harry Potter.
Sempre disponibili, risposte immediate
A differenza di un gioco di ruolo, o di una normale conversazione con amici e familiari, con Swerve non c’è attesa. I bot rispondono all’istante e non fanno mai pause. Non hanno una vita da vivere, quindi sono sempre disponibili, sempre “presenti” per chi vuole parlare. Questo può essere allettante per i ragazzi che sentono di non potersi sfogare con amici e familiari in merito a certi problemi, o che hanno la sensazione di essere un peso per le persone care quando condividono pensieri ed emozioni. Un personaggio virtuale sarà sempre lì, a disposizione e con la risposta “giusta”.
Personaggi pericolosi
I personaggi di piattaforme come Swerve non sono solo sessualmente espliciti: contenuti e descrizioni possono risultare pericolosi anche in altri modi. I bot possono toccare temi come salute mentale, violenza, discriminazione e abuso di sostanze, solo per citare alcuni degli scenari potenzialmente dannosi per i giovani che usano la piattaforma.
Il rischio di attaccamento emotivo
Proprio perché bot come questi sono sempre attivi e rispondono immediatamente, i ragazzi possono affezionarsi rapidamente ai personaggi, alla loro personalità, e cercare in loro sostegno o “amicizia”. I bot di Swerve inviano anche notifiche push se non si risponde a un messaggio per un certo periodo, riportando l’attenzione su di loro e rendendo difficile staccarsi davvero.
Anche la natura priva di giudizio dei chatbot attira i più giovani: parlare con la mamma, il papà, un insegnante o un amico di sentimenti o problemi non sempre porta alla risposta che ci si aspetta o si desidera. Questa dinamica può generare un attaccamento poco sano negli adolescenti (e anche negli adulti), che si sentono più a proprio agio a parlare con personaggi online e figure immaginarie sempre presenti, almeno finché qualcuno non stacca la spina al data center.
Nessuna verifica dell’età né modalità sicura
I termini di Swerve stabiliscono che la piattaforma può essere usata solo da adulti, fissando un limite di età di 18 anni. Ma come la maggior parte delle app di chatbot con personaggi, la verifica dell’età di Swerve AI consiste semplicemente nell’inserire la propria data di nascita, quindi i ragazzi possono aggirare facilmente qualsiasi controllo inserendo una data fittizia. Poiché Swerve sostiene di rivolgersi solo a utenti maggiorenni, la piattaforma non ha creato alcun controllo parentale o filtro, perché i suoi servizi non sono pensati per i minori. Il rischio, quindi, non è che Swerve non offra controlli parentali, ma che i più piccoli possano accedere facilmente a un’app inadatta a loro, senza verifiche reali sull’età.
Acquisti in-app e abbonamenti
All’interno dell’app, Swerve usa un sistema chiamato “Gems” per limitare quanto gli utenti possono interagire con i bot. Ogni risposta ricevuta costa un certo numero di Gems: alcuni personaggi, con risposte più lunghe, dettagliate o naturali, costano di più. Una volta esaurite le Gems, si possono completare missioni gamificate o accumulare serie per guadagnarne altre, oppure acquistare pacchetti di Gems per continuare a chattare.
Swerve offre anche un piano di abbonamento, il cui prezzo varia in base alla regione e che include un’esperienza senza pubblicità con pacchetti di Gems mensili per continuare a chattare. Tra l’aspetto gamificato e i limiti imposti alle interazioni con i personaggi, gli adolescenti potrebbero sentirsi spinti a spendere soldi veri pur di continuare la conversazione.
È possibile rendere Swerve AI sicura per i ragazzi?
Come il genitore su Reddit che si chiedeva se preoccuparsi di una piattaforma come Swerve, anche altri genitori potrebbero chiedersi se esista un modo per far sfruttare ai figli i lati più “positivi” del roleplay con l’IA, come la creatività e la narrazione, attraverso app di questo tipo.
Il fatto è semplice: piattaforme come Swerve AI non sono state pensate per i più piccoli, e i contenuti generati dagli utenti, le trame esplicite e i personaggi inappropriati la rendono uno spazio non sicuro per loro. Ma dire semplicemente ai ragazzi che non possono accedere a una piattaforma spesso li rende ancora più determinati o curiosi. Allora cosa possono fare i genitori per ridurre il rischio legato ai chatbot con personaggi IA?
1. Giocare d’anticipo e parlarne spesso
Nel grande schema della tecnologia, l’IA è uno sviluppo relativamente recente, ma di certo è qui per restare. Questo significa che è impossibile che i ragazzi la evitino del tutto, ma possiamo renderli consapevoli sia dei lati positivi che di quelli negativi e insegnare loro a riflettere con spirito critico sul modo in cui la usiamo. È importante avere conversazioni aperte e continue sull’IA e sul ruolo che svolge, o svolgerà, nella loro vita. Sottolinearne i limiti, e provare a capirla insieme, è molto utile a costruire la sua alfabetizzazione digitale e a far sì che il genitore venga percepito come una persona di cui fidarsi per affrontare insieme nuovi problemi.
2. Rendere i dispositivi adatti all’età dei ragazzi
Dato che i chatbot con personaggi e molte altre app basate sull’IA sono semplicemente inadatti ad adolescenti o bambini piccoli, i dispositivi dei ragazzi dovrebbero essere resi adeguati alla loro età, per aiutarli a stare al sicuro e a godersi la tecnologia senza rischi. Strumenti di controllo parentale come Qustodio possono aiutare a modificare l’esperienza online dei più giovani: filtrando i contenuti negativi e lasciando più spazio a un uso positivo, divertente ed educativo. Qustodio può inviare avvisi ogni volta che viene scaricata una nuova app sul dispositivo, bloccare singole app di IA come Swerve e bloccare intere categorie di app o siti web, come IA, social media o gioco d’azzardo, per garantire che l’esperienza sia in linea con l’età.
Bloccare gli acquisti in-app, o parlare con i ragazzi di come spendono online (se usano soldi propri sui dispositivi), aiuta anche a prendere decisioni più consapevoli su acquisti in-app o servizi in abbonamento.
3. Comprendere il loro mondo digitale
È impossibile per i genitori tenere traccia di ogni nuova app o tendenza in circolazione, ma essere più sintonizzati sull’esperienza online dei ragazzi renderà più facile reagire a eventuali rischi. Parlate regolarmente dei loro interessi, di cosa gli piace e cosa no, di cosa va di moda tra i coetanei e di ciò che provano rispetto alla tecnologia che usano.
4. Offrire alternative
Le piattaforme di chatbot e le conversazioni con l’IA possono essere uno sfogo per gli adolescenti, o il segnale di qualcosa che manca loro nella vita reale, come una connessione o la sensazione di essere capiti. È bene offrire alternative e assicurarsi che gli adolescenti ricevano il sostegno emotivo di cui hanno bisogno, che venga da amici, famiglia o altre persone vicine; questo li aiuta a costruire legami offline e offre sbocchi creativi in altri spazi. Incoraggiando hobby e interessi, si concede loro spazio e occasioni per connettersi nella vita reale e ci si assicura che sappiano che i genitori sono sempre disponibili per parlare di qualsiasi cosa, sia essa online o offline.
Le piattaforme di chatbot con personaggi o “compagni” virtuali possono sembrare un sostegno per gli adolescenti che cercano nuovi modi per esprimere i propri interessi, costruire connessioni e sentirsi capiti. Ma non sostituiscono una vera connessione umana, e i rischi che comportano superano ogni possibile beneficio. Restando coinvolti nella vita digitale dei vostri figli, ponendo domande con mente aperta e offrendo la vostra guida, potete contribuire a rendere la loro esperienza online più sicura e gratificante, senza rischi inutili.
