Acompanhar as plataformas de IA é um desafio quando tudo é novidade para todo mundo: crianças e adultos. Pais preocupados recorrem a fóruns, seções de comentários e pesquisas no Google para entender as plataformas de IA mais recentes, como o pai que buscou informações no Reddit sobre o Swerve AI, um aplicativo que encontrou no dispositivo do filho. “Encontrei este aplicativo no celular do meu filho de 14 anos”, escreveu ele na comunidade r/SwerveAI. “Alguém pode me explicar o que é isso e se devo me preocupar?”
A resposta curta: sim, os pais devem se preocupar com aplicativos de chatbot como o Swerve AI. Mas, como sabemos, simplesmente dizer a seu filho que ele não deve usar um aplicativo raramente o impede de usar. Neste guia sobre o Swerve, abordaremos os riscos que devem ser destacados para crianças e adolescentes, maneiras práticas de mantar a segurança e o que os pais podem fazer para reduzir os riscos de danos relacionados à IA.
O que é o Swerve AI?
O Swerve AI é uma plataforma de chatbot onde os usuários podem navegar por diferentes personagens e “conversar” com eles, criando histórias e participando de jogos de interpretação de papéis, ou roleplay.
A plataforma permite iniciar conversas com vários personagens, cada um com sua própria “personalidade” e histórico: ao começar uma conversa com um bot pela primeira vez, ele oferece uma história de fundo ou um cenário como ponto de partida. Você pode conversar com um personagem de cada vez ou reunir diferentes personas em um bate-papo em grupo. Os usuários podem criar seus próprios personagens, mas alguns são baseados em personalidades existentes ou pessoas do mundo real, como Harry Styles, Elizabeth Olsen ou Jude Bellingham.
O roleplay e os espaços para criação de fanfictions existem há décadas na internet. Por isso, para pais preocupados com o fato de seus filhos conversarem com estranhos na internet, personagens de IA podem parecer uma opção mais segura. A oportunidade de contar histórias e exercitar a criatividade pode servir como uma válvula de escape para os pequenos, mas a realidade é que nenhuma das opções é totalmente segura.
Swerve AI: os riscos que os pais precisam conhecer
Atualmente, existem centenas de plataformas de bots de personagens disponíveis na internet: em lojas de aplicativos, sites e até mesmo como recursos integrados em redes sociais, como o Meta AI. Mas, independentemente da plataforma, os riscos que esses espaços de bate-papo com personagens oferecem às crianças permanecem os mesmos: conversas irrestritas, em grande parte sem filtros e muitas vezes ilimitadas com a IA. Vamos analisar os pontos aos quais os pais precisam estar atentos.
Conteúdo impróprio
O Swerve AI é um aplicativo para maiores de 18 anos, destinado exclusivamente ao uso por adultos. Embora outras plataformas, como o PolyBuzz, tenham tentado restringir conteúdo NSFW (impróprio para o trabalho/inadequado para menores) introduzindo recursos de filtro como o “Pure Mode” (surpresa: os filtros nem sempre funcionam), uma rápida rolagem pela lista de personagens no Swerve revela imagens sugestivas e temas sexuais. Alguns exemplos observados em nosso teste incluem: “O único garoto em uma festa do pijama só para meninas”, “Homem mais velho”, “Sua irmã que produz vídeos de conteúdo picante” e “Treino de beijo”. Muitos personagens da plataforma são voltados para roleplay (encenação) sexual, e não há opções para filtrar descrições mais explícitas: a irmã que produz “vídeos de conteúdo picante” aparece na mesma lista que personagens que podem atrair mais o público jovem, como Harry Potter.
Disponibilidade constante e respostas instantâneas
Ao contrário de uma conversa mais íntima, ou de uma conversa comum com amigos e familiares, não há tempo de espera. Os bots respondem imediatamente e nunca fazem pausas. Eles não têm uma vida agitada para atrapalhar, o que significa que estão sempre ativos e sempre prontos para conversar. Isso pode ser atraente para jovens que sentem que não conseguem desabafar com amigos e familiares sobre certos problemas, ou que acham que estão sobrecarregando as pessoas que amam com seus pensamentos e sentimentos. Um bot de personagem estará sempre lá, com a resposta “certa” pronta.
Personagens nocivos
Os personagens em plataformas como o Swerve não são apenas sexualmente explícitos: o conteúdo e as descrições nessas plataformas também podem ser prejudiciais de outras formas. Os bots podem abordar questões relacionadas a saúde mental, violência, discriminação e abuso de substâncias, para citar apenas alguns cenários nocivos que podem afetar os jovens que utilizam a plataforma.
O potencial de vínculo emocional
Como esses bots estão sempre ativos e oferecem respostas imediatas, as crianças podem rapidamente criar vínculos com os personagens e suas personalidades, buscando neles apoio ou “amizade”. Os bots do Swerve também enviam notificações push caso você não responda a uma mensagem por certo tempo, chamando a atenção de novo e tornando difícil se desconectar deles de verdade.
A natureza dos chatbots, que não julgam, também atrai os jovens: contar à mãe, ao pai, a um professor ou a um amigo sobre sentimentos ou problemas nem sempre resulta na resposta que eles desejam ou esperam. Essa dinâmica pode gerar um apego pouco saudável em adolescentes (e também em adultos), que se sentem mais confortáveis conversando com personagens on-line e personalidades fictícias que estarão sempre disponíveis, a menos que o servidor seja desligado, é claro.
Ausência de restrições de idade ou modos de segurança
Os termos do Swerve afirmam que apenas adultos podem usar a plataforma, impondo uma restrição de idade de 18 anos ou mais. No entanto, como ocorre na maioria dos aplicativos de bots baseados em personagens, a verificação de idade do Swerve AI consiste apenas em o usuário informar sua data de nascimento. Assim, crianças podem facilmente burlar qualquer controle simplesmente registrando uma data falsa. Como o Swerve afirma ser destinado a usuários com 18 anos ou mais, a plataforma não criou nenhum tipo de controle parental ou filtro, visto que seus serviços não são voltados para menores. O risco, portanto, não é a falta de controles parentais no Swerve, mas sim a facilidade com que crianças podem acessar um aplicativo inadequado para elas, na ausência de barreiras ou verificações de idade.
Compras no aplicativo e planos de assinatura
O Swerve utiliza um sistema de “Gemas” (moeda virtual) dentro do aplicativo para limitar a interação dos usuários com os bots. Cada resposta recebida pelo usuário custa uma certa quantidade de Gemas; como alguns personagens geram respostas mais longas, detalhadas ou com tom mais natural, essas conversas têm um custo maior. Quando as Gemas acabam, é possível ganhar mais completando missões gamificadas ou mantendo sequências de uso, ou então comprar pacotes de Gemas para continuar conversando.
O Swerve oferece um plano de assinatura — com preços que variam conforme a região — que inclui uma experiência sem anúncios e pacotes mensais de Gemas para manter os usuários conversando. A experiência gamificada e os limites de interação com os personagens podem incentivar adolescentes a gastar dinheiro real para manter a conversa ativa.
Posso tornar o uso do Swerve AI seguro para meu filho?
Assim como o pai que perguntou no Reddit se deveria se preocupar com uma plataforma como o Swerve, outros pais também podem se perguntar se existe alguma maneira de as crianças aproveitarem os aspectos mais “positivos” da interação com personagens de IA — como a criatividade e a narrativa — por meio de aplicativos desse tipo.
A realidade é que plataformas de personagens como o Swerve AI não foram criadas para menores: o conteúdo gerado pelos usuários, as histórias com teor sexual ou violento e os personagens inadequados tornam o ambiente inseguro para jovens. No entanto, simplesmente proibir o acesso a uma plataforma muitas vezes aumenta a determinação ou a curiosidade da criança. Então, o que os pais podem fazer para reduzir os riscos associados aos bots de personagens de IA?
1. Converse cedo e com frequência
Embora a IA seja uma tecnologia relativamente recente no cenário geral, ela certamente veio para ficar. Isso significa que é impossível para as crianças evitá-la completamente, mas podemos conscientizá-las sobre os aspectos positivos e negativos da IA e ensiná-las a pensar de forma crítica sobre como utilizamos essa tecnologia. É importante manter conversas abertas e contínuas sobre a IA e o papel que ela desempenha — ou desempenhará — na vida do seu filho. Apontar as falhas da tecnologia e procurar entendê-la em conjunto ajuda muito a desenvolver o letramento digital da criança e define você como alguém de confiança para lidar com novos desafios lado a lado.
2. Adapte o dispositivo (ou dispositivos) do seu filho à faixa etária dele
Como os bots de personagens e muitos tipos de aplicativos de IA não são adequados para adolescentes ou crianças pequenas, é importante configurar o dispositivo do seu filho de acordo com a idade dele. Isso ajuda a garantir a segurança e permite que ele aproveite a tecnologia sem interrupções nocivas. Ferramentas de controle parental, como o Qustodio, podem ajudar a ajustar a experiência on-line do seu filho, filtrando conteúdos inadequados e abrindo espaço para usos positivos, divertidos e educativos. O Qustodio pode enviar alertas sempre que um novo aplicativo for baixado no dispositivo, bloquear aplicativos de IA específicos (como o Swerve) e restringir categorias inteiras de aplicativos ou sites — como IA, redes sociais ou jogos de azar — para garantir que a experiência do seu filho seja apropriada para a idade dele.
Bloquear compras dentro de aplicativos ou conversar com seu filho sobre gastos on-line (caso ele use o próprio dinheiro no dispositivo) também ajuda a criança a tomar decisões mais conscientes em relação a compras no app ou serviços por assinatura.
3. Entenda como é o mundo digital do seu filho
É impossível para os pais acompanharem todos os novos aplicativos ou tendências que surgem, mas estar mais atento à experiência on-line do seu filho facilitará a reação a quaisquer riscos. Converse regularmente sobre os interesses, gostos e preferências dele, sobre o que está ou não em alta no seu círculo social e sobre como ele se sente em relação à tecnologia que utiliza.
4. Ofereça alternativas
Plataformas de bots e conversas com IA podem servir como uma válvula de escape para os adolescentes, ou indicar algo de que eles sentem falta na vida real — como conexão ou compreensão. Oferecer alternativas e garantir que os adolescentes recebam o apoio emocional de que precisam — seja de amigos, familiares ou outras pessoas ao seu redor — ajuda a estabelecer conexões off-line e proporciona meios criativos de expressão em diferentes ambientes. Incentive hobbies e interesses, dê aos jovens espaço e oportunidades para se conectarem na vida real e certifique-se de que seu filho saiba que você está sempre disponível para ouvir qualquer preocupação dele, seja na internet ou fora dela.
Plataformas de bots com personagens e companheiros virtuais podem, muitas vezes, oferecer apoio a adolescentes que buscam novas formas de expressar seus interesses, criar conexões e sentir que são compreendidos. No entanto, elas não substituem a conexão humana genuína, e os riscos que apresentam superam quaisquer benefícios potenciais. Ao acompanhar a vida digital do seu filho, fazer perguntas com a mente aberta e oferecer orientação, você pode ajudar a tornar a experiência virtual dele mais segura e gratificante — sem riscos desnecessários.
