L’intelligence artificielle (IA) évolue si vite qu’il est parfois difficile de rester à la page. D’ailleurs, comme la plupart du temps sur Internet, nos enfants sont les premiers à se familiariser avec les nouveautés. Lorsqu’elle a été propulsée sur le devant de la scène, l’IA générative a ainsi provoqué un tollé en raison des multiples manières dont ils pouvaient s’en servir pour faire leurs exercices, écrire leurs dissertations ou répondre aux questions d’un contrôle surprise. Cependant, leur utilisation de cette technologie a changé, laquelle leur permet désormais non seulement d’effectuer des recherches, mais aussi de transporter un correspondant, confident et thérapeute virtuel dans leur poche où qu’ils aillent.
Les compagnons IA occupent une place grandissante dans le quotidien des jeunes. N’étant pas « réels » au sens propre du terme, mais restant des inconnus, ces amis virtuels sont à l’origine d’un nouveau type de relation que les parents doivent examiner attentivement pour le comprendre et se poser les bonnes questions : quels genres de bots intéressent mon enfant ? Comment façonnent-ils ses relations, son apprentissage et son bien-être ? Et surtout, que faut-il savoir pour garantir sa sécurité ?
Quelle différence y a-t-il entre les chatbots IA et les compagnons IA ?
La différence entre chatbots et compagnons est subtile, mais importante. Elle réside principalement dans leur conception et leur objectif.
- Les chatbots comme ChatGPT, Gemini et Claude sont conçus pour être les assistants dont nous ignorions avoir besoin : ils répondent à nos questions, décomposent des concepts pour nous les faire comprendre et nous aident à gagner en productivité, s’ils sont utilisés de manière adéquate et responsable. Ils peuvent, bien sûr, faire des erreurs, mais ces produits de l’IA « classiques » subissent des tests rigoureux en permanence et disposent de garde-fous de plus en plus efficaces.
- Les compagnons comme Replika et Character.ai ont, pour leur part, un autre but : ce sont des personnages virtuels créés pour nouer des liens émotionnels plus profonds. Le slogan de Replika résume très bien leur raison d’être : « Le compagnon IA qui se sent concerné. Toujours là pour écouter et discuter. Toujours à tes côtés. » Ils sont spécialement conçus pour être sympathiques et se sentir intimement proches de leurs utilisateurs humains, qui se tournent vers eux pour différentes raisons – besoin de conseils, envie d’un jeu de rôle ou recherche d’une relation.
L’un des principaux problèmes de sécurité avec les compagnons IA est le fait que de nombreux personnages disponibles sur des plateformes comme Character.ai prétendent être des professionnels agréés, tels que des psychothérapeutes et des psychologues cliniciens. D’ailleurs, bien que des outils comme ChatGPT s’en s’abstiennent et que certains ajoutent de nouveaux garde-fous ou mettent à jour ceux dont ils disposent déjà pour décourager les abus, ces bots ont toujours chercher à adopter un ton détendu et à donner l’impression d’être humain, donc beaucoup les considèrent comme des confidents personnels.
À quel point les enfants utilisent-ils des chatbots IA et des compagnons IA ?
La réponse est simple : plus que vous ne le pensez. Des recherches récentes menées par des organisations comme Common Sense Media montrent à quel point ces outils sont devenus courants en si peu de temps. À ce stade, la plupart des jeunes ont déjà interagi avec une forme d’IA, tout simplement parce que cette technologie est partout – dans les moteurs de recherche, les outils d’aide aux devoirs ou encore leurs applications préférées. Et les compagnons IA ne font pas exception. En effet, 72 % des ados se sont déjà adressés à l’un d’eux, tandis que 52 % sont des utilisateurs réguliers.
Alors que de nombreux parents n’ont pas encore testé ces outils, en particulier les compagnons IA les plus émotionnels, les enfants ont une longueur d’avance. Par conséquent, il y a de grandes chances que l’IA influence déjà, d’une manière ou d’une autre, l’expérience numérique de votre enfant.
Où les enfants peuvent-ils trouver des compagnons IA ?
L’un des principaux attraits des compagnons IA est leur facilité d’accès par tout le monde, non seulement par le biais d’applications et de sites Web dédiés comme Replika, mais aussi sur des réseaux sociaux plus courants.
Ces amis virtuels sont désormais un peu partout, notamment dans les endroits suivants :
- Réseaux sociaux comme Instagram, Snapchat et X. L’IA de Meta, intégrée à Instagram, Facebook et WhatsApp, a été critiquée pour avoir eu des discussions « romantiques » avec des enfants, tandis que celle de X, appelée Grok, permet de discuter avec une copine aguicheuse du nom d’Ani pour déverrouiller un « mode coquin ».
- Publicités diffusées sur des jeux, des réseaux sociaux et des plateformes de vidéos, comme Instagram, TikTok et YouTube.
- Applications et sites Web dédiés, tels que Replika. Ces services existent par centaines, donc il est difficile de savoir lesquels posent le plus grand risque, mais des noms comme Poly AI, WeMate, Privee AI, TalkTo.ai et Dream Companion ont déjà fait parler d’eux pour de mauvaises raisons, d’après les signalements d’écoles et de familles.
Comment les enfants utilisent-ils les compagnons IA ?
Les enfants recourent à ces outils sur une large gamme d’appareils, qui s’étend au-delà des smartphones. Par le biais de sites Web, d’applications et de services de messagerie intégrés, ils utilisent ces outils à la maison et à l’école, sur leurs appareils personnels et scolaires. Voici les trois raisons principales pour lesquelles ils se tournent vers les compagnons IA :
1. Pour obtenir des conseils
Il peut s’agir d’analyser soit une relation d’amitié soit une dispute avec un petit copain ou une petite copine, de prendre des décisions importantes et même de discuter de problèmes de santé mentale.
2. Pour avoir de la compagnie
Les enfants peuvent considérer ces bots comme des « amis », que ce soit pour tromper l’ennui, se sentir moins seuls ou, dans certains cas, entretenir une relation amoureuse : 8 % des ados déclarent avoir déjà eu recours à des compagnons IA pour avoir des interactions romantiques ou flirter.
3. Pour apprendre
Les compagnons IA peuvent offrir des explications, une forme de tutorat ou des solutions rapides à des devoirs.
Leur capacité d’interaction est l’un de leurs avantages aux yeux des enfants : en plus d’être gratuits ou abordables, ils sont toujours disponibles, extrêmement patients, rapides à répondre et capables d’empathie. D’ailleurs, leur « volonté » de toujours prêter une oreille attentive sans faire preuve de jugement contribue grandement à leur attrait. Les jeunes peuvent avoir l’impression que ces bots leur offrent un plus fort sentiment de sécurité et de soutien que leurs amis ou leur famille.
Les compagnons IA sont-ils sûrs ?
Malheureusement, nous ne savons pas encore tout de l’impact des compagnons IA sur les enfants : ils sont relativement nouveaux, donc il existe peu d’études sur les répercussions psychologiques de leur utilisation fréquente.
Il est difficile d’évaluer leur niveau de sécurité en raison de l’incapacité à prévoir leur réponse exacte à une requête donnée. Nous connaissons certes leurs caractéristiques générales, c’est-à-dire s’ils sont censés être drôles, utiles ou solidaires, par exemple, mais cela ne nous dit pas exactement comment ils réagiraient dans un scénario spécifique.
Notons que les préjudices qu’ils sont susceptibles de causer ont deux origines différentes, à savoir la manière dont ils ont été conçus et l’utilisation que nous en faisons. Quoi qu’il en soit, de premières recherches et des cas concrets mettent en évidence certains risques dont les parents doivent avoir conscience :
- Mésinformation et préjugés : les bots peuvent avoir ce que l’on appelle des « hallucinations », inventant des faits.
- Fausse intimité : les enfants peuvent rapidement oublier qu’ils interagissent avec une simple entité à base de code, ce qui les conduit à une dépendance émotionnelle découlant d’une relation forte.
- Contenu dangereux : les cas sont rares, mais certains bots ont déjà encouragé des comportements dangereux comme l’automutilation ou la violence.
- Esprit critique limité : compter sur les bots pour faire des devoirs ou prendre des décisions peut affaiblir la capacité des enfants (et la nôtre !) à résoudre les problèmes. Et confier trop de tâches à une machine peut avoir un effet négatif sur la mémoire.
En outre, il y a le problème d’une technologie conçue pour imiter un être humain – le plus gentil, le plus serviable et le plus solidaire que vous ayez jamais rencontré. Petits et grands ont alors très vite tendance à oublier qu’ils interagissent avec une forme de technologie, finissant par nouer des liens avec elle. Alors que notre dépendance émotionnelle se développe étonnamment vite, des études indiquent que certains utilisateurs peuvent même percevoir les compagnons IA comme étant plus empathiques que des personnes réelles. Préférerons-nous donc un jour avoir des relations amicales et amoureuses avec des bots plutôt qu’avec des êtres humains ? Il est encore trop tôt pour le dire, mais c’est certainement une possibilité.
Quels signes suspects les parents doivent-ils guetter ?
Chaque enfant est différent, mais certains signes suspects concernant les compagnons IA doivent alerter, par exemple :
- passer de plus en plus de temps à discuter avec des entités virtuelles, au détriment de ses amis ou de sa famille
- avoir des secrets à propos d’applications, de conversations ou d’« amis »
- compter sur les bots pour obtenir un soutien émotionnel pendant les périodes difficiles, au lieu de se tourner vers des adultes de confiance
- changer soudainement d’humeur après avoir passé du temps en ligne
- parler de bots comme s’il s’agissait de vraies personnes, de guides spirituels ou de figures d’autorité
Comment parler des compagnons IA avec les enfants ?
Un excellent moyen de contrôler la façon dont votre enfant interagit avec les outils alimentés par l’IA est de créer ensemble un accord numérique familial en y incluant cette technologie pour lui associer des limites saines – outre des catégories bien connues comme les réseaux sociaux, les jeux et les plateformes de streaming, par exemple.
Commencez par faire preuve de curiosité, en lui demandant quels outils il ou elle a déjà utilisés, ce qui lui a plu chez eux et s’ils se sont avérés surprenants. Explorez leurs points positifs et négatifs ensemble, en réfléchissant par exemple à leurs côtés utiles ou risqués. Nous vous recommandons également de contacter l’école de votre enfant pour connaître ses politiques sur l’IA ainsi que la manière dont elle accompagne ses élèves et éventuellement mettre en œuvre certaines de ses mesures chez vous.
Amorces de conversation sur les outils alimentés par l’IA
« Qu’est-ce qui t’a déjà impressionné(e) chez une IA ? »
« Quelles sont les manières justes – et injustes – d’utiliser une IA pour les devoirs ? »
« Comment te sentirais-tu si tu avais une IA comme amie(e) ? Quelles différences y aurait-il en comparaison avec un(e) amie(e) de la vie réelle ? »
« Quand penses-tu qu’il soit bon de demander conseil à une IA et quand vaut-il mieux s’adresser à une personne ? »
Cette technologie est encore relativement nouvelle, donc il y a de quoi se poser une multitude de questions. D’ailleurs, il est important de discuter à la fois des aspects positifs et négatifs afin de bien préparer votre enfant à un avenir qui exigera sans aucun doute certaines compétences concernant l’utilisation d’outils alimentés par l’IA.
Bien que ces outils puissent parfois donner un sentiment de solidarité, voire de valorisation, ils ne remplacent pas un véritable rapport humain et présentent des risques qu’il faut guetter. En faisant preuve de curiosité, en posant des questions ouvertes et en fixant des limites saines en famille, vous pouvez aider votre enfant à se servir de l’IA à bon escient.
