当人工智能平台对所有人来说都是全新的事物时，要跟上它们的步伐并非易事，无论是孩子还是成年人。忧心忡忡的家长们纷纷求助于论坛、评论区和谷歌搜索，试图了解最新的人工智能平台——比如这位家长在Reddit上发帖，他试图了解更多关于Swerve AI的信息，这款App是他在孩子手机上发现的。“我在我14岁孩子的手机上发现了这个App，”他在r/SwerveAI社区发帖求助。“有人能解释一下这是什么，我需要为此担心吗？”
简而言之：是的，家长应该对Swerve AI这类聊天机器人应用保持警惕。但众所周知，仅仅告诉孩子“不该用这个pp”，往往无法真正阻止他们。在本篇Swerve的指南中，我们将详细探讨需要向儿童和青少年强调的风险、提供切实可行的安全建议，以及家长可以采取哪些措施来降低人工智能带来的危害。
什么是Swerve AI？
Swerve AI是一个聊天机器人平台，用户可以在这里浏览不同的角色并与他们“对话”，共同构建故事和进行角色扮演。
该平台允许用户与多个角色展开对话，每个角色都有其独特的“个性”和背景：首次与机器人对话时，它会提供一个背景故事或场景供您展开。您可以一次与一个角色聊天，也可以将不同的角色组合成群聊。用户可以创建自己的角色，但有些角色是基于现实世界中的人物或名人，例如哈里·斯泰尔斯、伊丽莎白·奥尔森或裘德·贝林厄姆。
角色扮演和同人创作平台在网络上已经存在了几十年，因此，对于担心孩子在网上与陌生人交流的家长来说，人工智能角色听起来似乎更安全。讲述故事和进行创意互动的机会可以成为孩子们的情感出口，但现实是，这几种选择都不安全。
Swerve AI：家长需要知晓的风险
如今，互联网上已有数百个角色聊天机器人平台：它们出现在应用商店、网站上，甚至作为社交媒体的内置功能，例如Meta AI。但无论平台如何，这些角色聊天空间给儿童带来了同样的风险：与AI之间不受限、大多未经过滤，且往往没有限制的对话。让我们来看看家长需要注意哪些风险。
不当内容
Swerve AI是一款18岁以上应用，仅供成年人使用。虽然一些平台（例如PolyBuzz）曾尝试通过引入“纯净模式”等过滤功能来限制不适宜工作场所（NSFW）的内容（剧透一下：这些过滤功能并非总是有效），但在Swerve上快速浏览一下角色，就会出现露骨的图片和色情主题。我们测试的一些例子包括：“女生睡衣派对上唯一的男生”、“老男人”、“你的妹妹拍摄辣妹视频”和“接吻练习”。该平台上的许多角色都是为了性角色扮演而设计的，而且没有任何选项来过滤掉更露骨的描述。例如，那个“拍摄辣妹视频”的妹妹，就混在像哈利·波特这样可能更受年轻人群欢迎的角色列表中。
始终在线，即时回复
不同于普通的角色扮演对话，或是与亲友的日常交谈，这里无需等待。聊天机器人会立即回复，永不休息。它们没有繁忙的日常生活需要操心，这意味着它们始终在线，随时“在场”供人倾诉。对于那些觉得无法向亲友倾诉特定问题，或者担心自己的想法和感受会给所爱之人带来负担的年轻人来说，这一点颇具吸引力。角色机器人会始终陪伴在侧，随时提供“恰到好处”的回应。
有害角色
像Swerve这样平台上的角色不仅涉及露骨的色情内容，平台上的内容和描述还可能以其他方式造成危害。聊天机器人可能会引发与心理健康、暴力、歧视和药物滥用等相关的问题，这些只是对使用该平台的年轻人诸多有害影响中的一小部分。
潜在的情感依恋
由于这类聊天机器人始终在线并能立即回复，孩子们很容易对机器人角色及其个性产生依恋，并寻求它们的支持或“友谊”。Swerve的聊天机器人还会在用户一段时间没有回复消息时推送通知，再次吸引用户的注意力，让人很难彻底离开应用。
聊天机器人不带评判的特点也对年轻人很有吸引力：向父母、老师或朋友倾诉感受或问题，孩子们并不总是能得到他们想要或期待的回应。这种互动模式可能会导致青少年（甚至成年人也是如此）产生不健康的依恋，使他们更愿意与那些永远都在的网络角色和虚构人物交谈——当然，除非数据中心断电。
缺乏年龄验证或安全模式功能
Swerve的条款规定，只有成年人才能使用该平台，并设定了18岁以上的年龄限制。但与大多数基于角色的聊天机器人应用一样，Swerve AI的年龄验证方式只是让用户输入出生日期，因此儿童只需输入一个虚假的生日即可轻松绕过年龄验证。由于Swerve声称其服务面向18岁及以上的用户，而非儿童，所以该平台并未设置任何类型的家长控制或过滤功能。因此，风险不在于Swerve没有提供家长控制功能，而在于儿童可以轻易地访问一个不适合他们的应用程序，而无需任何年龄限制或验证。
应用内购买和订阅计划
Swerve 在应用内使用名为“宝石”（Gem）的系统来限制用户与机器人的互动次数。用户收到的每条回复都需要消耗一定数量的宝石——有些角色会回复更长、更详细或更自然的内容，因此聊天成本更高。宝石用完后，用户可以通过完成游戏化任务或积累连胜来获得更多宝石，也可以购买宝石包来继续聊天。
Swerve提供订阅计划，价格因地区而异，但包含无广告体验和每月宝石包，以确保用户持续聊天。这种游戏化的体验以及对用户与角色互动次数的限制可能会促使青少年为了继续聊天而花费不菲。
如何让孩子安全地使用Swerve AI？
就像Reddit上那位询问是否应该担心Swerve这类平台的家长一样，一些家长可能也在思考，孩子们是否能够通过角色扮演类App，受益于AI角色扮演中更“积极”的一面，例如创造力和讲故事的能力。
事实很简单，像Swerve AI这样的角色扮演平台并非为儿童设计：用户生成的内容、露骨的故事情节和不适宜的角色，都使之成为一个对孩子来说不安全的空间。但仅仅告诉孩子不能访问某个平台，往往会让他们更加执着或好奇。那么，家长该如何降低孩子接触AI角色机器人的风险呢？
1. 尽早沟通，定期交流
虽然从技术发展的宏观角度来看，人工智能还是一项相对较新的技术，但它无疑将长期存在。这意味着孩子们无法回避它，但我们可以让孩子了解人工智能的积极和消极两面，并教会他们对使用人工智能的方式进行批判性思考。就人工智能及其在孩子生活中所扮演（或将要扮演）的角色，进行开放且持续的对话至关重要。指出AI的缺陷，并与孩子一起努力理解它，将极大地帮助孩子培养数字素养，并让他们把您视为一个值得信赖、可以一起解决新问题的人。
2. 确保孩子的设备适合他们的年龄
鉴于聊天机器人和许多不同类型的AI应用并不适合青少年或儿童，您应该确保孩子的设备适合他们的年龄，以保障孩子的安全，并让他们在不受有害内容干扰的情况下享受科技带来的乐趣。像Qustodio这样的家长控制工具可以帮助优化孩子的上网体验：过滤不良内容，同时为积极、趣味和教育性内容腾出更多空间。Qustodio可以在设备上下载新应用时发送提醒，屏蔽像Swerve这样的特定AI应用，并阻止整个应用或网站类别（例如AI、社交媒体或赌博等），从而确保孩子的体验符合他们的年龄。
屏蔽应用内购买或与孩子讨论在线消费（如果他们用自己的钱在设备上消费）也可以帮助孩子在应用内购买或订阅服务时做出更明智的选择。
3. 了解孩子的数字世界
家长不可能随时掌握市面上每款新应用或每种新趋势，但若能更密切地关注孩子的网络体验，您就能更从容地应对各种风险。定期与孩子交流，了解他们的兴趣、喜好与厌恶，同龄人中什么流行、什么不流行，以及他们对所使用科技产品的感受。
4. 提供替代选项
聊天机器人平台和AI聊天可能是青少年的情感宣泄的出口，但也反映出他们在现实生活中有所缺失——例如人际交往或理解。提供替代选项，并确保青少年获得所需的情感支持（无论来自朋友、家人还是身边其他人），有助于他们建立线下联系，并在不同的领域为青少年提供创造性的表达渠道。鼓励青少年发展兴趣爱好，给予他们空间和机会在现实生活中与人建立联系，并确保您的孩子知道，无论线上线下，只要他们有任何困扰，您都随时愿意倾听。
对于希望探索新方式来表达兴趣、建立联系并获得理解的青少年而言，虚拟角色和伴侣机器人平台往往能提供支持。但它们无法替代真实的人际关系，且其带来的风险远大于潜在益处。通过积极参与孩子的数字生活、以开放的心态提出问题并给予指导，您可以帮助孩子获得更安全、更有益的网络体验——同时避免不必要的风险。
