Nadie duda de que la IA es una gran herramienta. Sin que apenas nos diéramos cuenta, se ha convertido en una parte integral de nuestra vida cotidiana, donde desempeña el papel de confidente, consejera e incluso asistente de confianza. Sin embargo, esta tecnología no está exenta de riesgos, y es importante que seamos conscientes de las desventajas que conlleva si queremos enseñar a nuestros hijos a utilizarla de forma responsable. Ahora que expertos de todo el mundo empiezan a dar la voz de alarma sobre los peligros que los bots de chat pueden suponer para los más jóvenes, miles de familias se han encontrado un correo electrónico de lo más inesperado en su bandeja de entrada. «Hola. Queremos informarte de que tus hijos podrán empezar a utilizar las aplicaciones de Gemini dentro de poco», rezaba el mensaje que recibieron a principios de mayo de 2025 los padres que usan el servicio Family Link de Google.
Los términos de servicio de la mayoría de las plataformas de IA establecen una edad mínima de 13 años para probar sus herramientas. ¿Por qué entonces Google ha optado por una estrategia diferente? ¿Por qué está fomentando el uso de la inteligencia artificial entre los más pequeños, y qué les permite hacer exactamente Gemini?
¿Qué pueden hacer los niños con Gemini?
Según el correo electrónico que han recibido los usuarios de Family Link, los niños podrán usar Gemini para:
- Dar rienda suelta a su creatividad: las herramientas les permiten crear historias, canciones y poemas.
- Satisfacer su curiosidad: nuestros hijos pueden hacerle a Gemini todo tipo de preguntas, ya sea en un momento de necesidad o simplemente por diversión.
- Seguir aprendiendo fuera del cole: pueden utilizar el bot de chat como tutor y pedirle que les ayude a hacer los deberes.
Estos ejemplos no se diferencian demasiado de la forma en que muchos adultos utilizan actualmente las herramientas de IA, desde pedirle que genere imágenes virales para nosotros a que redacte ese correo para el que no encontramos las palabras o que nos busque esa receta de galletas caseras con la que siempre habíamos soñado. Es importante que nuestros hijos aprendan a hacer un uso saludable y responsable de esta tecnología, por lo que quizás sea buena idea empezar a familiarizarlos con ella cuando aún son pequeños. Sin embargo, más allá de las ventajas, hay algunos aspectos menos positivos de los que las familias deben ser conscientes.
¿La información que proporciona la IA de Gemini es apropiada para su edad?
Dado que el plan de Google es empezar a distribuir las herramientas de IA de Gemini entre los niños cuyos padres usan Family Link fuera del EEE y Reino Unido, el servicio solo estará disponible para aquellas familias que supervisen la actividad digital de sus hijos, al menos por el momento. Lógicamente, esta decisión debería permitir a los padres controlar el uso que hacen sus hijos de la aplicación, y los bots como Gemini disponen de medidas de seguridad dirigidas a proteger a los usuarios más jóvenes. Dicho esto, la propia empresa ha incluido en el correo electrónico que ha enviado a los padres la siguiente advertencia: «Nuestros filtros intentan limitar el acceso al contenido inapropiado, pero no son perfectos. Es posible que tu hijo tenga acceso a contenidos a los que preferirías que no estuviera expuesto».
¿Son aptos para los niños los bots de chat de IA?
Unos días antes de que Google enviara el correo electrónico a los padres, tanto el sitio web TechCrunch como el periódico The Wall Street Journal denunciaban la presencia de múltiples errores en estas herramientas: uno en ChatGPT, que podría permitir a los menores generar conversaciones eróticas, y otro en Meta AI, que provoca que los «compañeros digitales» de la plataforma puedan utilizarse en juegos de rol de carácter explícito. Aunque en ambos casos se trata de meros errores y no de una función propiamente dicha, estos incidentes son un buen ejemplo de los riesgos que pueden llevar asociados los bots de IA, especialmente cuando acaban en manos de niños curiosos que sienten el impulso natural de poner a prueba sus límites.
Otros bots de chat, como character.ai, entrañan una amenaza aún mayor: las conversaciones basadas en roles que los usuarios pueden mantener con sus personajes tienen aún menos limitaciones, son de carácter más explícito y cualquier usuario puede añadir nuevos bots, lo que significa que los usuarios más jóvenes pueden acabar expuestos a contenidos perjudiciales y peligrosos e ideologías extremistas. Es cierto que las herramientas de Gemini no incluyen esta clase de funciones, pero cuanto más confíen nuestros hijos en este tipo de bots y personajes digitales y más recurran a ellos en busca de ayuda, más estrecha será su relación y más se difuminará la línea que separa esta realidad artificial y el mundo real.
¿Sabemos cómo usan los niños la IA?
It’s a good idea to repeat what your kids say throughout the conversation, to reflect their thoughts back, show interest in the different points they might raise, and try to avoid interrupting them or criticizing the way they think. On the other hand, as parents, we shouldn’t be afraid to share our thoughts with our kids, to create an environment where everyone feels they can share and their views are worth listening to. We have to be able to exchange opinions freely, even when they’re different.
Luchar contra la IA es nadar contra corriente. Simplemente, se trata de otro avance con el que tenemos que aprender a convivir y que va a definir en buena medida nuestra forma de usar la tecnología durante los próximos años. Al igual que en el caso de los adultos, estas herramientas ofrecen infinidad de posibilidades a nuestros hijos, y es importante que tengamos en cuenta suelen ser las más negativas las que terminan acaparando titulares. Hay —y siempre habrá— muchos niños que únicamente usan la IA como ayuda para hacer los deberes, corregir su gramática y crear vídeos sobre lo que esperan que sea la próxima moda generada mediante esta tecnología. Una encuesta entre adolescentes llevada a cabo hace poco por Common Sense Media ha revelado que la principal razón por la que nuestros hijos suelen usar estas plataformas es para realizar las tareas escolares: el 53% de los menores de entre 13 y 18 años reconoce que ha utilizado alguna aplicación de IA generativa con este fin.
Los riesgos de la IA generativa de los que debemos ser conscientes
1. La información que ofrece no siempre es fiable
Una de las mayores ventajas de la IA generativa es que es capaz de simplificar o explicar los conceptos que no entendemos en un lenguaje sencillo para facilitar su comprensión. Estas herramientas pueden ayudarnos a resolver prácticamente cualquier duda sin tener que consultar una montaña de libros, sitios webs o foros. El problema es que sus respuestas no siempre son correctas. Las aplicaciones de IA sufren a veces lo que denominamos «alucinaciones», un fenómeno que provoca que el modelo genere una respuesta falsa, errónea o que carece de sentido. Por ejemplo, cuando Google lanzó la función Vista creada con IA —una sección que muestra una respuesta elaborada en la parte superior de la mayoría de las páginas de resultados de Google—, varias de las vistas del modelo fueron cuestionadas por ofrecer información peligrosa (aunque relativamente ridícula). Por ejemplo, una de ellas le sugería al usuario que añadiera pegamento a la pizza para mejorar la consistencia del queso.
One big plus of generative AI is that it can simplify or explain concepts that we don’t understand in easy terms, making it simple to digest. We can get an answer for almost anything, without having to sift through books, websites, or forums. The problem is, the answer generative AI gives isn’t always correct. “Hallucinations” can occur, where the models generate an answer that’s false, fake, or doesn’t make sense. For example, when Google released AI Overviews, appearing as a fully-fledged answer above most Google search results, a few responses were called into question for dangerous (but ridiculous) information, such as telling the searcher to add glue to pizza in an attempt to help the cheese “stick” better.
2. Puede generar contenidos inapropiados
La mayoría de los modelos de IA generativa, como ChatGPT, Gemini y Stable Diffusion, cuentan con mecanismos de seguridad para impedir que los usuarios puedan generar contenidos inapropiados, como desnudos o imágenes violentas. Sin embargo, hay usuarios e investigadores que, llevados por la curiosidad, han puesto a prueba estos límites en el pasado, forzando a los modelos de IA generativa a infringir sus propias políticas y a generar contenidos que contravienen estas directivas. Los niños que sienten curiosidad por probar la IA pueden acabar expuestos a contenidos que no son apropiados para su edad, tal y como advierte Google en el mensaje con el que avisaba a los padres de su lanzamiento: «Es posible que tu hijo tenga acceso a contenidos a los que preferirías que no estuviera expuesto».
3. Los más pequeños pueden usarla para hacer daño a los demás
La IA permite a los niños dar rienda suelta a su lado creativo ayudándoles a inventar historias, generar imágenes y experimentar con la tecnología. Sin embargo, para una minoría eso también significa que pueden crear fácilmente contenidos con el fin de burlarse de los demás. Casi 1 de cada 5 adolescentes ha utilizado la IA generativa para crear memes o reírse de otros usuarios, y 1 de cada 10 la ha empleado para generar nuevos contenidos utilizando la voz o la imagen de una persona real.
Aunque está fuera del alcance de Gemini, cada vez es más habitual que los usuarios generen desnudos deepfake —imágenes explícitas que pueden crearse con el rostro de cualquier usuario a partir de una simple foto—, y 1 de cada 8 jóvenes asegura en un estudio llevado a cabo por Thorn que conocen a alguien que ha usado la tecnología de IA para elaborar o difundir este tipo de publicaciones. Lo que empieza como una broma sencilla e inocente puede acabar derivando en ciberacoso e incluso conductas ilegales, y el hecho de que los más jóvenes normalicen el uso de la IA generativa con estos fines puede provocar que el problema se agrave más adelante.
4. Estas aplicaciones podrían acabar convirtiéndose en una suerte de confidente
El hecho de que las herramientas de IA sean capaces de actuar como un amigo o una persona de confianza tiene un lado positivo y otro negativo. Para algunas personas, acudir a los bots de chat en busca de consejo o para hablar de temas de los que no se sienten cómodos hablando con otras personas puede ser una buena forma de expresar sus emociones y aclarar sus ideas. A muchos jóvenes les gusta el hecho de que estas aplicaciones no les hacen sentirse juzgados, están diseñadas para mostrar una actitud positiva y suelen alabar o repetir las ideas de los usuarios de una forma que les hace sentir validados.
Dicho esto, anteponer la IA a las relaciones humanas puede acabar resultando problemático; al fin y al cabo, los bots no son personas, y establecer una relación de dependencia con ellos puede provocar que dejemos a un lado las relaciones sociales auténticas y afectar a la forma en la que interactuamos con los demás en el mundo real. Los primeros estudios sobre los usuarios que recurren a estas herramientas para obtener apoyo emocional indican que su uso intensivo puede intensificar los sentimientos de soledad y reducir las interacciones sociales en el mundo real.
5. La IA generativa puede usar nuestros datos
Google asegura que no planea utilizar las consultas llevadas a cabo por los usuarios menores de 13 años para entrenar sus sistemas de inteligencia artificial, pero aun así es importante que los niños tengan cuidado con los datos que introducen en estos modelos. Al igual que sucede en el caso de todo lo que compartimos a través de Internet, la privacidad de los datos no está asegurada, y nuestros hijos deben ser conscientes de que no es recomendable compartir con la IA información personal, como su nombre, su dirección, el nombre de su colegio o cualquier otro dato que permita identificarlos.
¿Es posible desactivar la IA de Gemini en los dispositivos de los niños?
Si no deseas que tus hijos puedan acceder a Gemini a través de Google Family Link, puedes desactivar la función en la configuración. Para ello, abre la aplicación o el sitio web de Family Link y selecciona el perfil de tu hijo. Toca Controles > Gemini > Aplicaciones de Gemini y desactiva la opción correspondiente (o vuelve a activarla en caso contrario).
Cómo proteger a tus hijos en la IA de Gemini
Algunas de las posibilidades que ofrece la lA pueden resultar muy útiles —y divertidas— para los más pequeños, por lo que es importante que les enseñemos a aprovecharlas de una forma apropiada para su edad y que al mismo tiempo les concienciemos de sus riesgos. A continuación, encontrarás algunas recomendaciones que puedes poner en práctica para hacer de Gemini y de otros modelos de IA un espacio seguro para los jóvenes:
- Favorece una comunicación abierta: crea un ambiente de confianza en el que tus hijos se sientan cómodos compartiendo las experiencias que viven en Internet y cualquier posible duda o problema que tengan al respecto.
- Fomenta el pensamiento crítico: enséñales a cuestionar la veracidad del contenido que encuentran en Internet y a reflexionar sobre el papel que puede haber jugado la IA en su creación.
- Da prioridad a su privacidad: sentaos juntos a revisar y a actualizar la configuración de privacidad para asegurarte de que tanto tú como ellos os sentís cómodos con la información que comparten en Internet.
- Bloquea las aplicaciones inapropiadas: utiliza alguna herramienta como Qustodio para bloquear y supervisar las aplicaciones de IA que no sean beneficiosas o que puedan resultar potencialmente peligrosas para tus hijos, como character.ai o Talkie AI.
- Conciénciales de la importancia del consentimiento: las plataformas de IA pueden convertirse en un instrumento para acosar, burlarse o agredir a otros niños. Asegúrate de que tus hijos entiendan que compartir información personal y fotos con estos bots de chat puede poner en riesgo la privacidad de otras personas, y que nunca deben compartir imágenes suyas sin su permiso.
Empieza a supervisar su actividad digital: dedicar demasiado tiempo a los dispositivos que utilizan la IA puede provocar que nuestros hijos terminen abusando de ellos, lo que a su vez puede afectar negativamente a sus relaciones sociales y reducir su actividad física. Establecer un horario de descanso y elaborar un acuerdo digital familiar es una buena forma de ayudarles a interiorizar buenos hábitos digitales.
Si sospechas que tus hijos están utilizando la IA generativa de una forma problemática o perjudicial, es importante que abordes el tema con una actitud proactiva y comprensiva en lugar de pasar directamente a la fase de los reproches. Habla con ellos de forma abierta y honesta sobre lo que hacen en Internet, pregúntales qué herramientas usan y discutid las ventajas y los riesgos que pueden conllevar este tipo de aplicaciones. Si mantienes una buena comunicación con ellos, podrás ayudarles a familiarizarse con estas plataformas, asegurarte de que se sienten cómodos acudiendo a ti cuando tengan alguna duda o problema e inculcarles unos hábitos saludables y duraderos a la hora de utilizarlas.
