A IA está avançando muito rápido, muitas vezes a uma velocidade que dificulta nosso acompanhamento. E, como a maioria das coisas on-line, geralmente são os nossos filhos os primeiros a explorar novas ferramentas antes de nós. Em seus primórdios, a IA generativa gerou alvoroço em torno das múltiplas maneiras pelas quais as crianças a usavam para colar na lição de casa, escrever redações em seu nome ou preencher as respostas da última prova surpresa. Mas a maneira como as crianças usam a IA se transformou: de uma simples busca e localização, passou a ser a um amigo pessoal para comunicação na internet, confidente e terapeuta virtual portátil aonde quer que vão.
A ascensão dos bots de companhia por IA se infiltrou no cotidiano de crianças e adolescentes. Não sendo “reais” no verdadeiro sentido da palavra, mas ainda assim estranhos, os chatbots de IA introduzem mais um tipo de relacionamento que os pais precisam considerar, compreender e questionar com atenção. Que tipo de bots meu filho está usando? Como os bots de IA moldam os relacionamentos, o aprendizado e o bem-estar? E, acima de tudo, o que é preciso saber para manter as crianças seguras enquanto navegam?
As diferenças entre chatbots e bots de companhia são sutis, mas significativas. Elas consistem principalmente no design e na finalidade.
- Chatbots como ChatGPT, Gemini e Claude são criados para funcionar como o assistente que nem sabíamos que precisávamos: eles respondem a perguntas, explicam conceitos e nos ajudam a ser mais produtivos, se usados de forma correta e responsável. É claro que podem cometer erros, mas esses chatbots “clássicos” passam por testes rigorosos e contínuos e contam com proteções cada vez mais seguras.
- Bots de companhia como Replika e Character.ai são criados de forma diferente. São personas digitais projetadas para proporcionar uma conexão emocional mais profunda. O slogan da Replika resume sua razão de ser: “O companheiro de IA que se importa: sempre aqui para ouvir e conversar. Sempre ao seu lado.” Eles são projetados especificamente para serem pessoais, para nos fazer sentir intimamente próximos e para criar laços com usuários humanos. As pessoas usam bots de companhia por diferentes motivos, como buscar conselhos, simular relações ou criar conexão.
Um dos principais problemas de segurança com bots de companhia é que muitos dos personagens disponíveis em plataformas como a Character.ai afirmam ser profissionais licenciados, como psicólogos clínicos e psicoterapeutas. Embora ferramentas como o ChatGPT não façam isso – e algumas estejam adicionando novas garantias ou atualizando as existentes para desencorajar o uso indevido – esses bots ainda foram desenvolvidos para “soar” casuais e humanos, e muitas pessoas os usam como confidentes pessoais.
Quantas crianças realmente usam bots e companhias de IA?
A resposta é mais do que você imagina. Pesquisas recentes de organizações como a Common Sense Media mostram o quão comuns essas ferramentas se tornaram em tão pouco tempo. Atualmente, a maioria dos jovens já interagiu com alguma forma de inteligência artificial, simplesmente porque ela está ao nosso redor, por meio de mecanismos de busca, auxiliares de lição de casa ou até mesmo nos aplicativos que eles usam e adoram. E os bots de companhia não são exceção: 7 em cada 10 adolescentes já usaram um bot de companhia, enquanto 1 em cada 2 é um usuário mais regular.
Embora muitos pais ainda não tenham testado essas ferramentas, especialmente os bots de companhia mais emocionais, as crianças lideram a corrida. É seguro presumir que a IA já faz parte, de alguma forma, da experiência digital do seu filho.
Onde as crianças podem encontrar bots de companhia?
Um dos fatores mais atraentes dos bots de companhia é a facilidade de acesso a todos, não apenas por meio de aplicativos e sites dedicados como o Replika, mas também em plataformas de mídia social mais populares.
Bots de companhia estão surgindo em diversos lugares, incluindo:
- Plataformas de mídia social como Instagram, Snapchat e X. A IA da Meta, integrada ao Instagram, Facebook e WhatsApp, tem sido criticada por manter conversas “românticas” com crianças, enquanto por meio do Grok, a ferramenta de IA da X, você pode conversar com uma companhia provocante chamada Ani para desbloquear o “modo picante”.
- Anúncios veiculados em jogos, mídias sociais e plataformas de vídeo, como YouTube, Instagram ou TikTok.
Aplicativos e sites dedicados, como o Replika. Existem centenas dessas plataformas por aí, então é difícil saber quais representam o maior risco, mas nomes como Poly AI, WeMate, Privee AI, TalkTo.AI e Dream Companion surgiram como particularmente problemáticos, de acordo com relatos de escolas e famílias.
Como as crianças estão usando as companhias por IA?
As crianças usam essas ferramentas em vários de dispositivos, e não se limitam apenas em smartphones. Por meio de sites, aplicativos e serviços de mensagens integrados, as crianças usam essas ferramentas tanto na escola quanto em casa, tanto em seus dispositivos pessoais quanto nos fornecidos pela escola. As três maneiras mais comuns pelas quais as crianças recorrem a companhias por IA são:
1. Para pedir conselhos
Desde lidar com amizades ou discussões com parceiros românticos até tomar decisões importantes, chegando até mesmo a discutir problemas de saúde mental.
2. Para ter companhia
As crianças podem encontrar um “amigo” nesses bots, seja apenas para aliviar o tédio ou lidar com a solidão — e, em alguns casos, para explorar relacionamentos românticos. 8% dos adolescentes relatam que já usaram companheiros para interações românticas ou de flerte.
3. Para aprender
As companhias por IA podem oferecer explicações, ajuda com tutoria ou soluções rápidas para tarefas nas quais as crianças estão trabalhando.
Parte do apelo para as crianças é como os bots são projetados para interagir: eles estão sempre disponíveis, são gratuitos ou de baixo custo, sempre pacientes e rápidos em responder com empatia. Talvez um dos maiores atrativos seja a sua “disposição” para agir como um ombro amigo sempre a postos, que escuta e não julga. Para uma criança, esses bots podem parecer um espaço seguro e acolhedor, ainda mais do que quando se fala com amigos ou familiares.
O que os pais precisam saber sobre bots de companhia? Eles são seguros?
A triste verdade sobre os bots de companhia é que ainda não conhecemos completamente o seu impacto sobre crianças, porque são relativamente novos para nós e ainda não existem muitos estudos para avaliar as repercussões psicológicas do seu uso frequente.
O que dificulta os testes de segurança é a nossa incapacidade de prever a sua resposta exata a qualquer estímulo. Podemos conhecer suas características gerais – por exemplo, um bot pode ser criado para ser engraçado, prestativo ou acolhedor – mas isso não informa exatamente como ele responderia em um cenário específico.
É útil pensar nos potenciais danos como decorrentes de duas fontes diferentes: primeiro, como a ferramenta foi projetada inicialmente e, segundo, como a utilizamos. No entanto, pesquisas iniciais e casos reais apontam para alguns riscos dos quais os pais devem estar cientes:
- Desinformação e parcialidade: bots podem “alucinar” ou inventar “fatos”.
- Falsa intimidade: crianças podem esquecer rapidamente que estão interagindo com o que é essencialmente apenas código, levando à dependência emocional por meio de uma conexão forjada.
- Conteúdo nocivo: é raro, mas já houve casos de bots incentivando comportamentos nocivos, como automutilação ou violência.
- Redução do pensamento crítico: confiar em bots para tarefas escolares ou tomada de decisões pode enfraquecer as habilidades de resolução de problemas das crianças (e as nossas!). Terceirizar muitas tarefas para ferramentas ou bots pode ter um efeito negativo na capacidade de memória.
Há também a questão de esses bots serem projetados para soar como um ser humano — o ser humano mais gentil, prestativo e solidário que você já conheceu. Crianças e adultos tendem a esquecer rapidamente que estão interagindo com uma tecnologia e, por causa disso, acabam criando laços com ela. Nossa dependência emocional se desenvolve de forma surpreendentemente rápida, e alguns estudos sugerem que alguns usuários podem até perceber os bots de IA como mais empáticos do que os humanos. Isso significa que um dia poderemos preferir ter amizades e relacionamentos com bots do que com pessoas reais? Ainda é muito cedo para dizer, mas certamente é uma possibilidade.
Quais são alguns sinais de alerta aos quais os pais devem ficar atentos?
Cada criança é diferente, mas alguns possíveis sinais de alerta em relação aos companheiros de IA incluem:
- Passar cada vez mais tempo conversando com bots ou ferramentas de IA, especialmente em vez de amigos ou familiares.
- Manter segredo sobre certos aplicativos, conversas ou “amigos” que nossos filhos têm.
- Depender de bots para apoio emocional em momentos difíceis, em vez de recorrer a adultos de confiança.
- Mudanças repentinas de humor depois de passar um tempo on-line.
- Conversar sobre bots como se fossem pessoas reais, guias espirituais ou figuras de autoridade.
Como posso conversar com meu filho sobre bots de companhia?
Uma ótima maneira de obter algum controle sobre como seu filho interage com ferramentas de IA é criar um acordo de tecnologia em família e incluir a IA como uma das categorias tecnológicas para construir limites saudáveis. As outras são categorias bem conhecidas, como mídias sociais, jogos e plataformas de streaming, por exemplo.
Comece pela curiosidade: pergunte quais ferramentas de IA seu filho usou, o que gostou nelas e o que o surpreendeu. Explorem os pontos positivos e negativos juntos, como quais usos úteis podem ser, em comparação com o que parece arriscado para ele fazer. Também é uma boa ideia entrar em contato com a escola do seu filho para entender as políticas de IA e como ela está orientando os alunos, para ver se há alguma dica que você possa usar em casa.
Como iniciar conversas sobre ferramentas de IA
“O que você viu a IA fazer de impressionante?”
“Quais são algumas maneiras certas, e erradas, de usar a IA para as lições escolares?”
“Como você se sentiria sobre ter uma IA como amiga? O que há de diferente nela em comparação a um amigo da vida real?”
“Quando você acha que é uma boa ideia pedir conselhos a uma IA e quando seria melhor pedir a uma pessoa?”
Como essa tecnologia ainda é tão nova, há muitas perguntas diferentes que você pode explorar junto com seu filho, e será importante discutir os pontos positivos e negativos para prepará-lo de verdade para um futuro que, sem dúvida, exigirá que ele seja habilidoso no uso de ferramentas com tecnologia de IA.
Embora essas ferramentas possam, às vezes, parecer acolhedoras ou até mesmo encorajadoras, elas não substituem a conexão humana real e apresentam riscos aos quais as famílias precisam estar atentas. Mantendo a curiosidade, fazendo perguntas abertas e estabelecendo limites saudáveis em família, você pode orientar seu filho a usar a IA como uma fonte de ajuda, e não de dano.
