Petits et grands peuvent avoir du mal à suivre l’évolution des plateformes d’IA. Certains parents inquiets se tournent ainsi vers des forums, des sections de commentaires ou des recherches sur Google pour se familiariser avec les nouveautés dans ce domaine – tel cet utilisateur de Reddit désireux d’en savoir plus sur Swerve AI : « J’ai trouvé cette application sur le téléphone de ma fille de 14 ans, raconte-t-il à la communauté r/SwerveAI. Quelqu’un peut-il m’expliquer ce que c’est et si je dois m’inquiéter ? »
La réponse est simple : oui, les parents doivent se méfier des applications de chatbots telles que Swerve AI. Cela dit, tout le monde sait qu’une simple interdiction suffit rarement à dissuader les jeunes. Dans ce guide consacré à Swerve AI, nous passons donc en revue les risques à aborder avec les enfants et les ados, les mesures concrètes à prendre pour assurer leur sécurité, ainsi que des méthodes visant à réduire les risques liés à l’IA.
Swerve AI, c’est quoi ?
Swerve AI est une plateforme où vous pouvez discuter avec divers personnages virtuels, élaborant des histoires et participant à des jeux de rôle.
Chacun d’entre eux a un comportement et une histoire bien à lui, proposant une trame narrative pour vous aider à vous lancer lors de votre première conversation. D’ailleurs, vous pouvez discuter avec un ou plusieurs personnages à la fois et même en créer un selon vos envies, même si certains utilisateurs s’inspirent de célébrités existantes, comme Harry Styles, Elizabeth Olsen ou Jude Bellingham.
Alors qu’Internet regorge d’espaces dédiés aux jeux de rôle et à la fanfiction depuis des décennies, les parents inquiets à l’idée que leurs enfants discutent avec des inconnus peuvent estimer qu’il est moins risqué de parler avec des personnages générés par l’IA. La possibilité de raconter des histoires et de faire preuve de créativité peut constituer un exutoire pour les enfants, mais force est de constater qu’aucune de ces deux options n’est sûre.
Swerve AI : les risques que les parents doivent connaître
Il existe aujourd’hui des centaines de plateformes de chatbots différentes, qu’il s’agisse d’applications et de sites Web indépendants ou de fonctionnalités intégrées aux réseaux sociaux, comme Meta AI. Mais les jeunes s’exposent toujours aux mêmes risques : des conversations avec une IA souvent dépourvues de toute forme de restriction, de filtre et de limite. Jetons un coup d’œil à ce dont les parents doivent avoir conscience.
Contenu inapproprié
Swerve AI est une application réservée exclusivement aux plus de 18 ans. Tandis que d’autres plateformes telles que PolyBuzz tentent de limiter le contenu inapproprié grâce à des fonctionnalités de filtrage comme le « mode pur » (lesquelles ne fonctionnent pas toujours), il suffit de parcourir rapidement Swerve AI pour tomber sur des images suggestives et des thèmes à caractère sexuel. Voici quelques exemples trouvés pendant nos tests : « Le seul garçon à une soirée pyjama entre filles », « Homme plus âgé », « Ta sœur qui publie des vidéos osées » et « S’entraîner à embrasser ». De nombreux personnages de cette plateforme sont conçus pour participer à des jeux de rôle à caractère sexuel et il n’existe aucune option pour exclure les descriptions les plus explicites : cette sœur aux « vidéos osées » figure ainsi dans la même liste que des personnages susceptibles de plaire aux plus jeunes, comme Harry Potter.
Disponibilité permanente et réponses immédiates
Contrairement à un jeu de rôle et à une discussion ordinaire entre amis ou en famille, il n’y a pas besoin d’attendre. Les bots répondent tout de suite, ne prenant jamais de pause. Ils n’ont pas une vie bien remplie, donc ils sont toujours disponibles pour discuter. Or, cela peut séduire les jeunes qui ont l’impression de ne pas pouvoir se confier à leurs amis ou à leur famille au sujet de certains problèmes ou d’accabler leurs proches avec leurs réflexions et leurs sentiments. Un personnage virtuel est, lui, toujours là, prêt à donner la « bonne » réponse.
Personnages dangereux
Les personnages des plateformes telles que Swerve AI ne se contentent pas de présenter un caractère sexuel : leur description et leur contenu peuvent avoir d’autres aspects dangereux. Certains bots parlent de santé mentale, de violence, de discrimination et de toxicomanie, pour ne citer que quelques-uns des sujets sensibles abordés dans des scénarios susceptibles d’affecter les jeunes.
Attachement émotionnel
Puisque ces personnages virtuels sont disponibles en permanence et répondent immédiatement, les enfants peuvent vite s’y attacher et se tourner vers eux pour trouver du réconfort ou de l’« amitié ». D’ailleurs, les bots de Swerve AI envoient des notifications push si vous n’avez pas répondu à un message après un certain temps, ce qui attire à nouveau votre attention et vous empêche de vraiment vous en détacher.
En outre, leur attitude dénuée de jugement séduit les jeunes : quand ces derniers parlent de leurs sentiments ou de leurs problèmes à leur mère, leur père, une enseignante ou un ami, ils n’obtiennent pas toujours la réponse qu’ils souhaitent ou à laquelle ils s’attendent. Cette dynamique peut entraîner chez les ados (et les adultes) un attachement malsain, qui les pousse à se sentir plus à l’aise dans des échanges avec des personnes fictives toujours à l’écoute – à moins, bien sûr, qu’il y ait un problème avec le data center qui les alimentent.
Ni restriction d’âge ni mode sécurisé
Les conditions d’utilisation de Swerve AI stipulent que cette dernière est réservée uniquement aux adultes, l’âge minimum requis étant fixé à 18 ans. Toutefois, comme la plupart des applications avec des personnages virtuels, Swerve AI se contente de demander à chaque utilisateur de saisir sa date de naissance, donc les enfants peuvent contourner cette mesure simplement en en indiquant une fausse lors de leur inscription. Or, puisqu’elle précise s’adresser aux plus de 18 ans, elle n’a mis en place ni contrôle parental ni filtre. Par conséquent, ce n’est pas l’absence de protection qui pose un problème, mais la possibilité pour les enfants d’accéder facilement à une application qui ne leur est pas destinée, sans pour autant devoir prouver leur âge.
Achats intégrés et formules d’abonnement
Swerve AI fonctionne sur la base d’une monnaie virtuelle pour limiter les interactions avec les bots. Alors que chaque réponse reçue par un utilisateur coûte un certain nombre de gems, les conversations avec des personnages aux réponses plus longues, plus détaillées ou plus naturelles sont plus chères. Une fois que vous n’avez plus de gems, vous pouvez en gagner davantage en accomplissant des quêtes ludiques et en enchaînant des séries ou en acheter sous forme de packs.
Swerve AI propose une formule d’abonnement, dont le prix varie selon le pays, mais qui comprend un accès sans publicité et des packs de « Gem » mensuels. L’aspect ludique de telles interactions doublé à leur limitation peut inciter les ados à dépenser de l’argent réel pour qu’elles ne s’arrêtent pas.
Peut-on protéger les enfants sur Swerve AI ?
Comme cet utilisateur de Reddit curieux de savoir si Swerve AI doit l’inquiéter, certains parents peuvent se demander s’il existe un moyen pour leurs enfants de profiter des aspects « positifs » des jeux de rôle basés sur l’IA, tels que la créativité et le storytelling, grâce à des applications de chatbots.
Pour faire simple, les plateformes avec des personnages virtuels comme Swerve AI ne sont pas conçues pour les enfants : le contenu généré par leurs utilisateurs, les intrigues à caractère sexuel et les personnages inappropriés en font un espace dangereux pour eux. Mais interdire aux jeunes l’accès à une plateforme ne fait souvent que renforcer leur détermination ou attiser leur curiosité. Alors que faire pour réduire les risques liés aux bots générés par l’IA ?
1. Abordez le sujet tôt et régulièrement
Bien que l’IA soit relativement récente, elle n’est pas prête de disparaître. Les jeunes ne vont donc pas y échapper. Heureusement, nous pouvons les sensibiliser à ses aspects positifs et négatifs et leur apprendre à faire preuve d’un esprit critique quand il s’agit de l’utiliser. Il est important d’avoir des discussions ouvertes et régulières sur son rôle actuel ou futur dans leur vie. En soulignant les défauts de cette technologie et en cherchant à les comprendre ensemble, vous contribuerez grandement à renforcer les compétences numériques de votre enfant et à vous imposer comme une personne de confiance à qui s’adresser pour résoudre tout problème.
2. Paramétrez l’appareil de votre enfant en fonction de son âge
Étant donné que les personnages virtuels et beaucoup d’applications alimentées par l’IA ne conviennent tout simplement pas aux jeunes, l’appareil de votre enfant doit être configuré en fonction de son âge pour garantir sa sécurité. Les outils de contrôle parental, tels que Qustodio, encouragent une expérience en ligne adaptée, en filtrant tout contenu inapproprié et en favorisant une utilisation positive, divertissante et éducative. Qustodio peut envoyer des alertes chaque fois qu’une nouvelle application est téléchargée sur un appareil et bloquer des plateformes spécifiques (comme Swerve AI) ou même des catégories entières d’applications ou de sites Web (comme les services d’IA, les réseaux sociaux ou les jeux d’argent).
Bloquer les achats intégrés, ou discuter des dépenses en ligne si jamais votre enfant utilise son propre argent, l’aidera également à prendre des décisions plus réfléchies concernant les options payantes et la souscription d’abonnements.
3. Obtenez un aperçu de son activité en ligne
Il est impossible pour les parents de se tenir au courant de toutes les nouvelles applications ou tendances, mais vous intéresser à l’activité en ligne de votre enfant vous permettra de mieux réagir face à d’éventuels risques. Discutez régulièrement de ses centres d’intérêt, de ses goûts, des choses populaires chez ses camarades et de son avis sur ses plateformes préférées.
4. Proposez des alternatives
Les plateformes de discussion avec des personnages générés par l’IA peuvent constituer un exutoire pour les ados ou traduire un manque dans la vie réelle, comme celui de liens sociaux ou de gestes d’empathie. Leur proposer des alternatives et leur apporter le soutien émotionnel dont ils ont besoin, qu’il vienne de leurs amis, de leur famille ou d’autres personnes de leur entourage, les aidera à élargir leur cercle d’amis et à laisser libre cours à leur créativité dans différents domaines. Il faut les encourager à pratiquer un passe-temps, leur donner les moyens de nouer des liens dans la réalité et leur rappeler que nous autres parents sommes toujours à leur écoute en cas de préoccupations, que ce soit en ligne ou hors ligne.
Les plateformes avec des personnages virtuels peuvent souvent apporter un soutien aux ados qui cherchent de nouvelles façons d’explorer leurs centres d’intérêt, de nouer des liens et de se sentir compris. Mais elles ne peuvent en aucun cas se substituer à des relations humaines, et leurs risques l’emportent sur leurs éventuels avantages. En vous intéressant à la vie numérique de votre enfant, en lui posant des questions avec l’esprit ouvert et en lui donnant des conseils, vous pouvez lui garantir une expérience en ligne plus sûre et plus enrichissante.
