子供であれ大人であれ、誰にとっても初めてのAIプラットフォームについていくのは大変なことです。子供のデバイスで見つけたアプリ「Swerve AI」について知ろうと、ある親はRedditで情報を集めようとしてみたり、心配した親たちが最新のAIプラットフォームを理解しようと、掲示板やコメント欄、Google検索などに駆け込んでいます。「うちの14歳の子供のスマホでこのアプリを見つけました。」RedditのSwerve AI専用コミュニティに投稿していたようです。「これが何なのか誰か教えて？親として心配したほうが良いものなの？」
結論から言えば、Swerve AIのようなチャットボットアプリについて、保護者は警戒しておくべきです。 しかし、ご存じの通り、「そのアプリを使ってはいけない」と口頭で伝えるだけで子供が使用を控えることなど滅多にありません。このSwerveに関するガイドでは、子供や10代の若者世代において注意すべきリスク、安全を守るための実践的な方法、AIによる被害を軽減するために保護者ができることについて詳しく解説します。
Swerve AIとは何ですか？
Swerve AIはチャットボットプラットフォームで、ユーザーが様々なキャラクターを閲覧したり、選んだキャラクターと「会話」をしたり、物語を作ったり、ロールプレイをしたりすることができます。
このプラットフォームでは、それぞれ独自の「個性」や生い立ちなどの背景を持つ様々なキャラクターとチャットをすることができます。ボットとの会話を初めてかわす際には、会話のきっかけとなるような過去の設定やシナリオが提示されます。１人のキャラクターと個別にチャットすることも、複数のキャラクターを集めてグループチャットをすることもできます。ユーザーは独自のキャラクターを作成できますが、ハリー・スタイルズ、エリザベス・オルセン、ジュード・ベリンガムといった実在の人物や既存の著名人をモデルにしたキャラクターも存在します。
オンライン上でのロールプレイや二次創作の場は、何重年も前から存在してきました。そのため、子供がインターネット上で見知らぬ相手とやり取りすることを心配する保護者にとっては、AIキャラクターの方がより安全な選択肢に思えるかもしれません。物語を語ったり、創造力を発揮したりする機会は、子供にとって思いを発散させる場所になり得ますが、現実的には、そのどちらも安全とは言えません。
Swerve AI: the risks parents need to know
現在、インターネット上には何百ものキャラクターボット・プラットフォームが存在しています。アプリストアやウェブサイトだけでなく、Meta AIのようにソーシャルメディアに組み込まれた機能としても提供されています。しかし、どのプラットフォームであっても、このようなキャラクターとのチャットの場が子供たちに与えるリスクは同じです。それは、AIと、多くの場合は無制限かつフィルタリングされていない、自由な会話ができるという点です。それでは、保護者が知っておくべき注意点を見ていきましょう。
不適切なコンテンツ
Swerve AIは18歳以上を対象としたアプリケーションであり、成人のみの利用を想定しています。PolyBuzzのような他のプラットフォームは、「Pure Mode（ピュアモード）」といったフィルター機能を導入し、NSFW（職場での閲覧注意）対象のコンテンツの抑制を試みてきましたが（残念ながら、そのフィルターは常に機能するとは限りません）、Swerveではキャラクターをざっと眺めるだけでも、挑発的な画像や性的なテーマが目に飛び込んできます。当社のテストで確認されたいくつかの例には、「女子のお泊り会にいる唯一の男子」「年上の男性」「きわどい動画コンテンツを投稿している姉」「キスの練習」といったようなものがありました。このプラットフォーム上のキャラクターの多くは性的なロールプレイを目的としており、過激な描写を除外するようなフィルタリング機能はありません。 そのため、「刺激的な動画の姉」が、ハリー・ポッターのように若年層に好まれるキャラクターと混在してリストに表示されてしまうのです。
常時稼働、即座の返答
友達や家族との通常のロールプレイや日常会話とは異なり、待つ必要が一切ありません。ボットは即座に応答し、決して休止することはありません。ボットには忙しい生活があるわけではないため常に稼働している状態で、誰かが話したいときにはいつでも「そこに」いてくれます。特定の悩みについて友達や家族に打ち明けられないと感じていたり、自分の思いや感情を伝えることで大切な人たちに負担をかけてしまうのではないかと心配していたりする若い世代の人たちにとって、こうした存在は魅力的に映るかもしれません。キャラクター・ボットならいつでもそこにいて、常に「正しい」返答を用意してくれるからです。
有害なキャラクター
Swerveのようなプラットフォーム上のキャラクターは、単に性的に露骨なだけではありません。こうしたプラットフォーム上のコンテンツや描写は、別の意味でも有害になる可能性があるのです。ボットは、メンタルヘルス、暴力、差別、薬物乱用といった問題を引き起こす可能性があり、これらはプラットフォームを利用する若い世代に悪影響を及ぼしかねない危険な事態のほんの一例にすぎません。
感情的な愛着を抱く可能性
このようなボットは常に稼働しており、即座に返事をしてくれるため、子供たちはキャラクターやその性格にすぐに愛着を抱き、ボットに支えや「友情」を求めるようになることがあります。Swerveのボットは、メッセージに一定期間返信せずにいるとプッシュ通知も送信してきます。これにより再び注意を引きつけて、ボットから離れるのを難しくしてしまうのです。
チャットボットの、相手を批判したり否定したりしないという特性もまた、若者にとって魅力的なものとなっています。親や教師、友達に自分の気持ちや悩みを打ち明けても、子供たちが望んでいたり期待していたりするような反応がいつも返ってくるとは限らないからです。 こうした関係性の仕組みは、10代の子供（そして大人も同様）に不健康な執着を生み出す可能性があります。子供たちは、オンライン上のキャラクターや架空の人物と話すほうが居心地が良いと感じるようになってしまうのです。データセンターの電源が切られない限り、ボットは「いつでもそこにいてくれる」からです。
年齢制限やセーフモード機能の欠如
Swerveの利用規約では、プラットフォームの利用は成人のみとなっており、18歳以上という年齢制限が設けられています。他の多くのキャラクター系ボットアプリと同様に、Swerve AIの年齢確認はユーザーが生年月日を入力するだけのものであるため、子供たちは偽の生年月日を登録するだけで、容易に年齢確認をすり抜けることができてしまいます。Swerveは利用対象を18歳以上としているため、ペアレンタルコントロールやフィルタリング機能といったものは一切設けていません。なぜなら、同社のサービスは子供を対象としていないからです。 ここでの本当のリスクは、Swerveにペアレンタルコントロール機能がないことではなく、年齢確認や審査の仕組みがないために、子供たちが自分にふさわしくないアプリに容易にアクセスできてしまうという点にあります。
アプリ内課金と有料プラン
Swerveは、ユーザーがボットとやり取りできる量を制限するために、アプリ内で「Gem（ジェム）」というシステムを採用しています。ユーザーが受け取る返信ごとに、一定量のGemが消費されます。キャラクターによっては、より長く、詳細で、自然な響きの返信を行うため、そのようなチャットではGemの消費が多くなります。Gemを使い切ってしまった場合は、ゲーム感覚でできるクエストをクリアしたり、ストリークを伸ばしたりしてGemを獲得するか、Gemパックを購入してチャットを継続することができます。
Swerveは有料プランを提供しており、価格は地域によって異なりますが、広告なしで利用できるほか、毎月付与されるGemパックでユーザーはチャットを継続することができます。ゲームのような体験やキャラクターとのやり取りに対する制限は、会話を続けたい10代の若いユーザーを、実際の課金へと誘導してしまう恐れがあります。
子供がSwerve AIを安全に使えるようにできますか？
Swerveのようなプラットフォームについて心配すべきかどうかをRedditで尋ねていた親と同様に、他の親たちも、キャラクター系アプリを通じたAIとのロールプレイで創造力を発揮したり物語を作ったりといったより「前向き」な面を、子供たちに最大限に活かす方法があるのではないかと考えているかもしれません。
紛れもない事実として、Swerve AIのようなキャラクター・プラットフォームは子供向けには設計されていません。ユーザーが制作したコンテンツ、露骨なストーリー展開、不適切なキャラクターといった要素が、子供たちにとって安全ではない空間にしています。しかし、単に「そのプラットフォームを使ってはいけない」と子供に伝えるだけでは、かえって頑なにさせたり、好奇心を刺激してしまうことがよくあります。では、AIキャラクター・ボットに伴うリスクを減らすために、保護者には何ができるのでしょうか？
1. 早めに、そしてこまめに話す
テクノロジーの大きな発展の中で見ればAIは比較的新しい技術ですが、間違いなくこのまま定着するでしょう。つまり、子供たちがAIを避けて通ることは不可能ですが、AIのメリットとデメリットの両側面を認識させ、その利用のあり方について批判的に考えるよう教えることはできるということです。AIや、それがお子様の生活で果たしている（あるいは将来果たすことになる）役割について、オープンかつ継続的に話し合うことが大切です。AIの欠点を指摘し、一緒に理解を深めようと努めることは、子供たちのデジタルリテラシーを高め、新たな問題に共に取り組める信頼できる存在として親子の信頼関係を確固としたものにできるでしょう。
2. お子様のデバイスを年齢に適した設定にする
キャラクターボットや様々な種類のAIアプリは、そもそも10代や幼い子供たちには適していません。そのため、お子様の安全を守り、悪質なトラブルに巻き込まれることなくテクノロジーを楽しめるよう、デバイスを年齢に適した設定にしておく必要があります。Qustodioのようなペアレンタルコントロールツールを使用すれば、お子様のオンライン体験を調整することができます。有害なコンテンツをフィルタリングで排除する一方で、ポジティブで楽しく、また教育的な利用のための環境を広げることができるのです。Qustodioは、デバイスに新しいアプリがダウンロードされるたびに通知を発信したり、Swerveのような特定のAIアプリをブロックしたりできるほか、AI、ソーシャルメディア、ギャンブルといったアプリやウェブサイトのカテゴリ全体をブロックし、お子様の体験を年齢に適したものに保つことができます。
アプリ内での購入をブロックしたり、オンラインでの出費についてお子様と話し合ったりすること（お子様自身の資金をデバイス上で使う場合）も、アプリ内課金や有料サービスを利用する際に、より意識的な判断をするのに役立ちます。
3. 子供たちのデジタルの世界がどのようなものなのかを理解する
次々と登場する新しいアプリや流行を保護者がすべて把握するのは不可能ですが、お子様のオンラインでの体験に関心を向けておくことで、リスクに対して適切に対処できるようになります。子供の関心事、好きなこと、嫌いなこと、同世代の間で流行っていること、そして普段使っているテクノロジーについて感じていることなどについて、日頃から話をしてみましょう。
4. 代わりになるものを提案する
ボット・プラットフォームやAIとの会話は、10代の若者たちにとって思いを発散させる場所になり得ますが、一方で、現実世界での人とのつながりや理解されているという感覚など、何か満たされていないという気持ちの表れである可能性もあります。代わりになる様々な選択肢を提案し、友達や家族、周囲の人から精神的サポートを十分に受けられるようにすることは、子供たちがインターネット以外でのつながりを築き、別の場所で創造力を発揮する機会を与えることにつながります。趣味や関心事を応援し、子供たちが実生活で交流するための場所や機会を与えましょう。そして、オンラインであろうとオフラインであろうと、何か気がかりな事があればいつでも相談にきてもよいのだということを伝えておいてください。
自分の関心事を表現し、つながりを築き、理解されていると感じるための新たな方法を模索している10代の若者たちにとって、キャラクターやコンパニオン・ボットのプラットフォームは、しばしば支えとなる存在に感じられるものです。しかし、それらは真の人間同士のつながりの代わりにはなりません。それらがもたらすリスクは、考えられるあらゆるメリットよりも大きいのです。お子様のデジタルライフに継続的に関わり、柔軟な姿勢で質問を投げかけ、適切なアドバイスを行うことで、不要なリスクを避けながら、オンラインの体験をより安全で有意義なものにすることができます。
