Mantenerse al día de las aplicaciones de IA que aparecen en el mercado no es nada fácil porque esta tecnología es nueva para todos, niños y adultos por igual. Muchas familias preocupadas por esta perspectiva acuden a los foros, las secciones de comentarios y los buscadores para intentar entender cómo funcionan las últimas plataformas. Por ejemplo, hace poco un padre publicó un mensaje en Reddit en el que pedía información sobre Swerve AI, una aplicación que había encontrado en el dispositivo de su hijo. «He visto esta plataforma en el teléfono de mi hijo de 14 años», explicaba en el subreddit r/SwerveAI. «¿Puede decirme alguien qué es y si debería preocuparme?».
La respuesta corta a esta pregunta es que sí: a los padres deberían preocuparnos los bots de chat como Swerve AI. Sin embargo, como bien sabemos, limitarnos a decirles a los más pequeños que una aplicación no es apta para ellos rara vez evita que acaben usándola. En esta guía de Swerve repasamos los peligros en los que debes hacer hincapié cuando hables con tus hijos y te damos algunos consejos prácticos para protegerles y minimizar los riesgos que conlleva la IA.
¿Qué es Swerve AI?
Swerve AI es una plataforma de bots de chat en la que los usuarios pueden elegir entre varios personajes y «hablar» con ellos para crear sus propias historias y jugar a juegos de rol.
El servicio te permite chatear con todo tipo de personajes, cada uno con su propia personalidad y trasfondo. La primera vez que hablas con un bot, la IA te ofrece la posibilidad de inventar un pasado para él o elegir la situación en la que se enmarcará la conversación. Puedes chatear con un solo personaje o incorporar a varios bots distintos en un mismo chat grupal. Cada usuario puede generar sus propios personajes, aunque algunos están basados en famosos o en personas reales, como Harry Styles, Elizabeth Olsen o Jude Bellingham.
Los juegos de rol o los sitios web para publicar fanfictions existen desde hace décadas, por lo que, si te preocupa que tus hijos puedan entrar en contacto con algún desconocido en Internet, quizás consideres que los personajes basados en la IA son una alternativa más segura. La posibilidad de inventarse sus propias historias y dar rienda suelta a su creatividad puede ser una buena vía de escape para los más jóvenes, pero la realidad es que ninguna de estas opciones es segura.
Swerve AI: qué riesgos debemos tener en cuenta los padres
En la actualidad, podemos encontrar cientos de plataformas para chatear con bots de personajes en la Red, ya sea en tiendas de aplicaciones o a través de sitios webs, e incluso como una función integrada en algunas redes sociales (p. ej., Meta AI). Sin embargo, independientemente de la plataforma, los peligros que conllevan estos bots de chat para los niños siguen siendo los mismos, porque todos permiten conversar con la IA sin restricciones, a través de plataformas que rara vez cuentan con filtros para menores, y en las que en muchos casos pueden chatear sin ningún tipo de límite. A continuación, enumeramos algunos de los riesgos a los que debes estar atento.
El contenido inapropiado
Swerve AI es una aplicación para mayores de 18 años, y va dirigida únicamente a un público adulto. Aunque otras plataformas como PolyBuzz han intentado reducir el contenido inapropiado introduciendo funciones de filtrado como el denominado «Modo puro» (y aquí viene el principal problema, porque estos filtros no siempre funcionan), basta con echar un vistazo a algunos de los personajes de Swerve para encontrar infinidad de imágenes sugerentes y temas sexuales. Por ejemplo, en la búsqueda que hicimos nosotros encontramos los siguientes perfiles: «El único chico de la fiesta de pijamas», «Hombre maduro», «La hermana que se dedica a grabar vídeos picantes» y «Escuela de besos». Muchos de los personajes de la plataforma han sido diseñados para practicar juegos de rol sexuales, y no hay forma alguna de filtrar las descripciones más explícitas: la hermana que se dedica a «grabar vídeos picantes» aparece en la lista junto a personajes que parecen diseñados para atraer a un público mucho más joven, como Harry Potter.
La posibilidad de poder chatear al instante y en cualquier momento
A diferencia de las conversaciones que se desarrollan en el marco de un juego de rol —o de una conversación normal con nuestros amigos y familiares—, Swerve AI no hace esperar a sus interlocutores. Los bots responden de inmediato, y nunca se toman un descanso. Tampoco tienen que ocuparse de su propia vida, por lo que están permanentemente conectados y dispuestos a hablar con los usuarios. Este aspecto puede resultar especialmente atractivo para los jóvenes que sienten que no pueden compartir determinados problemas con sus amigos y familiares, o que consideran que lo que piensan o lo que sienten puede convertirse en una carga para sus seres queridos. Los bots de personajes están permanentemente ahí y siempre tienen la respuesta «correcta» para ellos.
La presencia de personajes perjudiciales
Los personajes que ofrecen las aplicaciones como Swerve son sexualmente explícitos, pero el contenido y las descripciones que incluyen también pueden ser peligrosos en otros sentidos. Los bots pueden resultar problemáticos desde el punto de vista de la salud mental y fomentar la violencia, la discriminación o el consumo de sustancias, por mencionar tan solo algunas de las situaciones perjudiciales a las que pueden estar expuestos los jóvenes que emplean la plataforma.
El riesgo de que desarrollen un vínculo emocional
Dado que este tipo de bots siempre están disponibles y son capaces de ofrecer una respuesta inmediata, algunos niños se encariñan rápidamente con los personajes y sus personalidades, y acuden a ellos en busca de apoyo o cuando necesitan un amigo. Además, los bots de Swerve envían una notificación push si los usuarios no responden a un mensaje durante un determinado periodo de tiempo para volver a atraer su atención, lo que hace que resulte difícil desconectar por completo de ellos.
El hecho de que estos bots de chat sean capaces de escuchar a los más jóvenes sin juzgarles también resulta muy atractivo para ellos: contarles a su madre, su padre, un profesor o un amigo lo que sienten o confiarles sus problemas no siempre permite a los adolescentes obtener la respuesta que buscan o que esperan. Esta dinámica puede provocar que nuestros hijos desarrollen un vínculo perjudicial para ellos (y también para los adultos) y que acaben sintiéndose más cómodos hablando con personajes digitales y personalidades que solo existen en la ficción pero que siempre estarán ahí para ellos (a menos que alguien pulse el botón adecuado en el centro de datos, por supuesto).
La ausencia de restricciones de edad o un modo seguro
Las condiciones de uso de Swerve establecen que únicamente los adultos pueden usar la plataforma, y la edad mínima para registrarse son 18 años. Sin embargo, al igual que la mayoría de estas aplicaciones de bots, el proceso de verificación de la edad del servicio únicamente exige a los usuarios que introduzcan su fecha de nacimiento, por lo que los niños pueden sortear este mecanismo de seguridad fácilmente introduciendo una fecha de nacimiento falsa. La aplicación asegura que está diseñada para usuarios mayores de edad y no dispone de ningún tipo de control parental ni filtro, dado que sus servicios no van dirigidos a los niños. El problema, por lo tanto, no es que Swerve no ofrezca estas opciones, sino la facilidad con la que los más pequeños pueden acceder fácilmente a una plataforma inapropiada para ellos pero que carece tanto de restricciones como de un sistema de verificación de la edad en condiciones.
Las compras en la aplicación y los planes de suscripción
La plataforma usa un sistema denominado «Gemas» en el servicio para limitar el tiempo que los usuarios pueden interactuar con los bots. Cada respuesta que reciben cuesta una determinada cantidad de estos objetos virtuales, y los personajes que ofrecen respuestas más largas, detalladas o naturales son los que mayores cantidades requieren. Una vez que un usuario se queda sin gemas, puede llevar a cabo una serie de misiones en forma de minijuegos, acumular rachas para ganar más o comprar un paquete para seguir chateando.
Swerve ofrece varios planes de suscripción. Su precio varía en función de la región, pero todos permiten eliminar los anuncios y recibir un paquete de gemas cada mes para seguir hablando con los bots. Los minijuegos y los límites a la hora de interactuar con los personajes pueden animar a los adolescentes a gastar dinero real para continuar chateando.
¿Cómo puedo proteger a mis hijos en Swerve AI?
Al igual que en el caso del padre que preguntaba en Reddit si debía preocuparse por esta clase de plataformas, algunas familias también se plantean si hay alguna forma de que sus hijos aprovechen al máximo las ventajas que ofrecen los juegos de rol basados en la IA, como la posibilidad de dar rienda suelta a su creatividad o crear sus propias historias, a través de las aplicaciones de personajes.
La realidad es que las plataformas de bots como Swerve AI no están diseñadas para menores, y el contenido que generan los usuarios, el carácter explícito de las historias y la presencia de personajes inapropiados hacen de ellas un espacio peligroso para los más pequeños. Sin embargo, si les prohibimos a nuestros hijos una plataforma, normalmente lo único que conseguimos es motivarlos aún más para usarla o espolear su curiosidad. ¿Qué podemos hacer los padres para reducir el riesgo que suponen los bots de personajes basados en la IA?
1. Abordar el tema con ellos de forma temprana, y con frecuencia
Aunque la IA es un invento relativamente nuevo en comparación con otras tecnologías, es evidente que su llegada ha marcado un antes y un después en nuestras vidas. Eso significa que es imposible que los niños la eviten, pero podemos concienciarlos de sus aspectos positivos y negativos y enseñarles a reflexionar de forma crítica sobre el modo en que la usamos. Por eso, es fundamental que hables abiertamente y a menudo con tus hijos sobre esta tecnología y sobre el rol que juega —o jugará— en sus vidas. Hacer hincapié en los errores que comete y pasar tiempo juntos para entender cómo funciona es una buena forma de ayudarles a desarrollar sus habilidades digitales y de conseguir que te vean como una persona de confianza a la que pueden acudir cuando tienen un problema.
2. Asegúrate de que disfrutan de una experiencia apropiada para su edad en su/s dispositivo/s
Dado que los bots que simulan personajes y muchas de las aplicaciones de IA simplemente no son aptas para los adolescentes ni para los más pequeños, es importante que te asegures de que tus hijos solo pueden acceder a contenidos apropiados para su edad en sus dispositivos; de esta forma, podrás protegerles y dejar que disfruten de la tecnología sin interrupciones perjudiciales. Las herramientas de control parental como Qustodio pueden ayudarte a controlar la experiencia que viven en la Red y a filtrar el material perjudicial para que puedan centrarse en utilizar sus dispositivos de una forma positiva que les permita entretenerse y seguir aprendiendo. Qustodio puede enviarte alertas cada vez que descarguen una aplicación nueva, bloquear las plataformas de IA individuales como Swerve o bloquear categorías enteras de aplicaciones o sitios web, como la IA, las redes sociales o los juegos de azar, para asegurarte de que disfrutan de una experiencia adecuada para su edad.
Bloquear las compras en las aplicaciones o hablar con ellos sobre los gastos que realizan en Internet (si pueden gastar su propio dinero en su dispositivo) también les ayudará a ser más conscientes a la hora de tomar una decisión como realizar una compra en una aplicación o suscribirse a un servicio.
3. Familiarízate con su mundo digital
Es imposible que los padres nos mantengamos al día de todas las aplicaciones o las modas que aparecen en Internet, pero implicarte en la vida digital de tus hijos te facilitará enormemente las cosas si tienes que reaccionar ante algún riesgo. Habla con regularidad con ellos de los temas que les interesan, las cosas que les gustan y las que no, las modas que triunfan entre los niños de su edad y lo que opinan sobre la tecnología que usan.
4. Ofréceles alternativas
Las plataformas de bots y las conversaciones con la IA pueden ser una vía de escape para los adolescentes o un síntoma de que les falta algo en la vida real; por ejemplo, de que anhelan conectar con otra persona o se sienten incomprendidos. Ofrecerles alternativas y asegurarte de que reciben el apoyo emocional que necesitan, ya sea de sus amigos, de su familia o de otras personas de su entorno, les ayudará a ampliar su círculo social fuera de la pantalla y a dar rienda suelta a su creatividad en diferentes espacios. Anímales a disfrutar de sus aficiones e intereses, dales el espacio y la oportunidad que necesitan para relacionarse sin la ayuda de la tecnología y asegúrate de que siempre pueden acudir a ti si algo les preocupa, ya sea en el mundo real o en el digital.
Muchos adolescentes que buscan nuevas formas de expresar sus intereses, relacionarse con los demás o sentirse comprendidos encuentran un apoyo en las plataformas de bots de personajes o de compañía. Sin embargo, estas aplicaciones no pueden reemplazar las relaciones humanas reales, y los riesgos que conllevan superan cualquier beneficio que puedan ofrecer. Si te implicas en la vida digital de tus hijos, mantienes la mente abierta a la hora de hablar con ellos del tema y les ofreces la ayuda que necesitan, podrás asegurarte de que disfrutan de una experiencia más segura y gratificante en la Red sin correr ningún riesgo innecesario.
