Parece impossível navegar na internet sem se deparar com novas maneiras pelas quais a inteligência artificial (IA) está mudando a internet para sempre. Mas algumas das formas como as pessoas estão usando a IA, e os tipos específicos de ferramentas de IA que utilizam, estão longe de ser positivas. Uma das tendências mais recentes e preocupantes (mas talvez inevitável) é algo chamado “IA de desnudamento”. Vamos analisar o que os pais precisam saber sobre esse tipo de tecnologia, como ela está sendo usada na prática — inclusive entre crianças — e como manter os filhos seguros.
O que é “IA de desnudamento”?
A IA de desnudamento é uma categoria de ferramentas de IA generativa que alteram imagens digitais de pessoas para fazê-las parecerem nuas. A manipulação de imagens digitais não é novidade — esse tipo de técnica já era possível antes com ferramentas como o Photoshop, mas a IA tornou a prática muito mais fácil, rápida e realista. Está ficando cada vez mais difícil distinguir o que é real do que é falso, especialmente à primeira vista.
Essas ferramentas não são acessadas apenas por pessoas que as procuram ativamente. Elas são frequentemente promovidas em espaços on-line. Além de sites que oferecem esses serviços de manipulação, os “aplicativos de desnudamento” também são populares e facilmente acessíveis por meio de anúncios em grandes plataformas de mídia social.
Apesar de esses aplicativos e ferramentas violarem claramente as políticas das plataformas, seus criadores podem ser muito criativos em maneiras de contornar as restrições. Por isso, seu filho pode encontrar essas ferramentas sem procurá-las deliberadamente. É importante ter isso em mente se você descobrir que seu filho viu ou até mesmo baixou esse tipo de ferramenta de IA generativa — dê a ele o benefício da dúvida e tenha uma conversa aberta sobre onde e como ele a viu on-line pela primeira vez.
A IA de desnudamento é legal?
Não. Criar imagens íntimas falsas sem consentimento é ilegal na maioria das partes do mundo. Em geral, criar imagens falsas não consensuais — seja qual for a ferramenta — é ilegal, especialmente quando menores de idade estão envolvidos. Criar imagens íntimas de um menor usando IA (ou outras tecnologias) é classificado como criação de material de abuso sexual infantil (CSAM). As regulamentações variam um pouco em todo o mundo, mas na maioria das regiões, existem restrições e leis para ajudar a manter as crianças seguras.
Nos EUA
A Lei Take It Down (Tire do Ar) proíbe a publicação de imagens ou vídeos íntimos de menores ou adultos sem consentimento, incluindo qualquer conteúdo gerado por IA (sejam representações íntimas ou não) com a intenção de prejudicar alguém. Também exige que as plataformas removam esse tipo de conteúdo em até 48 horas após a denúncia da vítima.
Na Austrália
Uma combinação de leis federais e estaduais aborda a criação e o compartilhamento não consensual de deepfakes sexualmente explícitos. O Comissário de Segurança On-line (eSafety Commissioner) pode agir em nome das vítimas e ordenar a remoção de conteúdo prejudicial on-line. A partir de setembro de 2025, o Governo australiano iniciou discussões sobre a proibição total de aplicativos de desnudamento.
Na Coreia do Sul
A Coreia do Sul desenvolveu uma série de leis particularmente rigorosas que abrangem a visualização, o armazenamento, a criação e a posse de deepfake CSAM, com penalidades que incluem anos de prisão e multas significativas.
No Reino Unido
O Reino Unido apresenta diversas leis que criminalizam a criação de CSAM (material de abuso sexual infantil) gerado por IA. Após um apelo urgente da Comissão da Infância em abril de 2025, o governo britânico também está considerando uma proibição total de aplicativos de desnudamento.
Na União Europeia
O Regulamento de Serviços Digitais (DSA) e a Lei de Inteligência Artificial incluem regras para proteger menores de CSAM gerado por IA e exigem que as plataformas on-line atendam a requisitos específicos que protejam os jovens em espaços virtuais.
Como as ferramentas de deepfake estão sendo usadas?
As ferramentas de deepfake e de IA para desnudar pessoas são frequentemente usadas para criar conteúdo que pode ser usado para causar danos emocionais ou à reputação de outras pessoas. Entre adultos, são comumente usadas para criar “pornografia de vingança” e, em alguns casos, para criar CSAM gerado por IA. Entre adolescentes, estamos vendo cada vez mais o uso dessas ferramentas para criar imagens não consensuais de colegas de classe, ou mesmo de professores e funcionários da escola. Desde 2023, houve mais de 30 incidentes desse tipo registrados somente nos EUA. Houve apenas um caso divulgado até agora de um pai usando esse tipo de tecnologia para tentar prejudicar os colegas de seu filho.
Embora incidentes como esses possam ter consequências devastadoras, é importante ter em mente que nem todas as crianças usam essas ferramentas com más intenções. Algumas podem experimentar por curiosidade ou pensar que é uma brincadeira, sem perceber o sério impacto legal e emocional que suas ações podem ter sobre elas e sobre os outros.
O que os pais precisam saber
Embora as ferramentas de IA para despir pessoas e gerar deepfake violem as regras de quase todas as plataformas sociais, anúncios para elas ainda podem aparecer enquanto se navega por conteúdo inofensivo. As crianças também podem encontrá-las em plataformas como o Discord, onde espaços fechados, como servidores privados, facilitam o compartilhamento de conteúdo e aplicativos inadequados ou prejudiciais.
Os incidentes noticiados em geral representam os casos mais graves do uso dessas ferramentas para criar imagens de nudez de colegas de classe. Essas imagens são então disseminadas por meio de bate-papos em grupo entre alunos da mesma escola ou compartilhadas nas redes sociais com um público mais amplo.
De acordo com algumas pesquisas recentes, cerca de 40 a 50% dos alunos estão cientes desse tipo de conteúdo sendo compartilhado na escola. Isso significa que seu filho provavelmente já ouviu falar dessas ferramentas, mesmo que não as tenha usado.
As consequências do compartilhamento de deepfakes — o que seu filho precisa saber
Compartilhar ou criar conteúdo deepfake pode ter sérias consequências emocionais, acadêmicas, para a reputação e legais. Em alguns países, as leis existentes estão evoluindo rapidamente e, em outros, novas leis estão sendo implementadas para acompanhar os rápidos avanços da tecnologia de IA. A criação, visualização, armazenamento e distribuição de deepfakes explícitos com crianças são considerados crimes na maior parte do mundo.
Uma vez que algo está on-line, pode se espalhar rapidamente e ser impossível de apagar completamente. Imagens ou vídeos podem gerar um grande número de visualizações em minutos e, como “depois que algo entra na internet, permanece na internet”, o impacto na reputação de uma criança pode ser imediato e duradouro. Mesmo que as plataformas ou autoridades removam as imagens, não há como saber quantas vezes a imagem ou o vídeo podem ter sido capturados e salvos, ou compartilhados posteriormente.
Como consequência, as vítimas de abuso com base em imagens geradas por IA frequentemente relatam traumas emocionais de longo prazo, incluindo sintomas de transtorno de estresse pós-traumático (TEPT), além de dificuldades acadêmicas decorrentes de ansiedade e evasão escolar.
Como denunciar deepfakes e conteúdo gerado por IA
- Denuncie imediatamente à plataforma onde o conteúdo foi compartilhado (não tire capturas de tela por motivos legais)
- Se necessário ou desejado, entre em contato com a polícia local
- Se o conteúdo envolver ou parecer ter sido criado por alunos da mesma escola, denuncie também à escola
Também é importante conversar com seu filho antes de tomar qualquer medida séria, especialmente se as pessoas envolvidas na criação e disseminação do material deepfake forem amigos próximos, colegas de classe ou conhecidos. Pergunte como ele se sente e qual resultado gostaria. Busque ajuda da escola e de um profissional de saúde mental, se necessário, para obter orientação sobre como conversar com as outras crianças envolvidas e seus pais ou responsáveis.
Como posso proteger meu filho contra deepfakes?
Comece tendo conversas abertas e apropriadas para a idade sobre o uso da tecnologia e o que é seguro, respeitoso e ético. Fale sobre a importância do consentimento e da privacidade nos espaços digitais.
Você também pode:
- Perguntar à escola do seu filho sobre suas políticas de combate ao cyberbullying e ao uso de inteligência artificial. Descubra como você pode apoiar as iniciativas da escola para lidar com o uso potencial desse tipo de tecnologia e ajudar a educar outras famílias sobre esse risco de segurança on-line.
- Aprenda como denunciar deepfakes nas plataformas que seu filho utiliza.
- Familiarize-se com as leis locais que podem ajudar a proteger seu filho caso ele seja vítima: por exemplo, a Lei Take It Down nos EUA.
- Use ferramentas de controle parental como o Qustodio para monitorar o uso de aplicativos e ajudar você a ficar ciente do que seu filho pode encontrar on-line. Você pode usá-lo para bloquear sites de IA, receber notificações sobre novos downloads de aplicativos e bloquear aplicativos de IA completamente.
Como conversar com seu filho sobre consentimento on-line
Conversas sobre consentimento são, na verdade, sobre respeito, privacidade e o direito de controlar informações pessoais.
Com crianças mais novas, essas conversas podem se concentrar em quando e se é aceitável compartilhar fotos de outras pessoas, ou informações como endereço, número de telefone ou algo que outras pessoas compartilharam conosco em uma conversa particular. É igualmente importante ajudar as crianças a distinguir, desde cedo, entre os tipos de informações pessoais que elas devem e não devem compartilhar sobre si mesmas e sua família com outras pessoas.
À medida que as crianças crescem, prepare-as para estabelecer limites em situações em que outras pessoas possam pedir informações que elas não se sintam confortáveis em compartilhar. Ter uma resposta simples e padrão pode ser uma boa maneira de começar, algo como: “Desculpe, mas eu não compartilho esse tipo de informação on-line”.
Algumas ideias para iniciar conversas com seu filho sobre o que ele deve e não deve compartilhar on-line incluem:
- “É sempre aceitável compartilhar senhas com outras pessoas?”
- “Existem situações em que é aceitável tirar um print da mensagem ou foto de outra pessoa?”
- “O que você pode dizer se um bom amigo pedir algumas informações pessoais que você não quer compartilhar?”
- “Como avisar seu amigo que as informações que você compartilhou são apenas para ele?”
- “Como você acha que um estranho pode tentar convencê-lo a compartilhar informações pessoais ou uma foto inadequada?”
IAs de desnudamento e outras ferramentas de deepfake fazem parte de uma tendência preocupante que envolve tecnologia, sérios riscos à privacidade, ao consentimento e ao bem-estar. Mas a combinação de conscientização, educação, ferramentas de bem-estar e comunicação aberta é um antídoto poderoso que pode ajudar a manter as crianças seguras. Mantendo-se informado e conectado, você pode ajudar seu filho a enfrentar as complexidades do mundo digital com segurança e responsabilidade, independentemente do quão avançada a tecnologia se torne.
