インターネットのロールプレイは今に始まったことではありません。Habboホテルの立体的なピクセルアート風の世界から、ハリーポッターのロールプレイ掲示板に描かれた魔法の世界のシナリオまで、10代の若者たちは何十年もの間、精神的につながり、創造力を高め、そして単に少し夢を見る方法を探し求めてきました。
昔のインターネットの時代でさえ、こうしたシナリオには危険が伴っていました。見知らぬ人とつながるうちに、成人向けまたは暴力的になり得るテーマに触れることは、極めて深刻なリスクでした。AIの時代において、コンパニオンボットやPolyBuzzのようなキャラクタープラットフォームを通して、ロールプレイやつながりを求める新しい方法は、見知らぬ人とつながるリスクを排除するかもしれませんが、こうした機械に頼ったチャットは、子供や10代の若者に独自のリスクをもたらします。保護者が知っておくべきことについてまとめました。
子供たちはPolyBuzzで何ができますか？
厳密に言えば、18歳未満のユーザーはPolyBuzzを利用できません。利用規約では、未成年者の使用は「固く禁じられている」と述べられています。しかし多くのアプリと同様に、これを確認するのはPolyBuzzも自己申告に依存しています。ユーザーはモバイルアプリで生年月日を入力して年齢を「認証」しますが、プラットフォームのウェブ版では何もする必要はありません。
18歳以上という制限があるにも関わらず、PollyBuzzの機能と「メリット」のガイドには「仮想キャラクターとの交流を求める若いユーザー向けにカスタマイズされている」ことが書かれており、このプラットフォームのターゲットユーザーが実際に誰なのかは明らかです。
不正確な生年月日を入力したり、全く入力を求められなかった10代の若者は、PolyBuzzの次のような機能にアクセスできます：
- テキストおよびオーディオによるロールプレイ（なりきりチャット）のためのテーマや関係性、設定されたストーリーが用意された、セレクション豊富なキャラクターボット。
- AIキャラクター生成ツール。
- AIが生成した写真や動画を共有し、ユーザーがキャラクターのアバターやシーンを作成できる。
「フリーミアム」登録モデル：無料ユーザーはメッセージの送受信やチャットが可能で、プレミアム登録ユーザーはチャットの保存、限定キャラクターのロック解除、広告なしの閲覧、チャットや音声再生の制限解除が可能。
PolyBuzz：リスク
NSFW（Not Safe For Work）および不適切なコンテンツ
PolyBuzzは、NSFW（Not Safe For Work：職場での閲覧注意）とされるコンテンツの「一般公開」を禁止しており、アプリの閲覧中に推奨されるコンテンツ (キャラクター、ロールプレイの説明など) は審査され、管理されていると主張しています。ただし、プライベートチャット（非公開のチャット）ではこのスクリーニングは適用されません。NSFWフィルターが設定されていても絶対に安全というわけではなく、ユーザーが閲覧すれば暴力的または性的なコンテンツが表示されます。キャラクターの画像や「プロフィール写真」は、非常に性的であることが多く、子供には不適切です。
たとえ本質的に極めて明確でなくても、一部の登場人物の描写やシナリオは、子供たちが話してもよいと思うような個人や集団とは思えません。「学校のサイコパス：怒りっぽい、守ってくれる、じわじわと本気になる、君を愛している」「重い彼氏：一人にすると泣く」「僕のヒーローアカデミアの変態代講：代講が変態」などです。
制限付きペアレンタルコントロール
このプラットフォームの利用規約には18歳以上のユーザーのみを対象としていることが述べられているにも関わらず、PolyBuzzではペアレンタルコントロールが提供されており、家族はアプリの使用時間を制限できます。なぜなら、Redditのユーザーの中には、1日11時間以上アプリを使用していると自慢する人もいるからです。保護者と子供は使用状況のパターンを見ることはできますが、子供たちがアクセスしているコンテンツの洞察や、関わっている可能性のあるキャラクターについての詳細はありません。
隠しコンテンツ
PolyBuzzを使用すると、ユーザーは複数のキャラクターで独自のチャットを作成できるため、ペアレンタルコントロールが有効になっている場合でも会話は非公開になります。AIでは、子供たちがどのような生産物に遭遇するかを知ったり予測したりすることは不可能で、年齢にふさわしくない会話や、より大人向けの話題に誘導されるかもしれません。
感情的な愛着
会話型AI ボット(ChatGPTも含む) では、たとえそれが実在しなくても、リアルに感じられるキャラクターに対して子供 (および大人) が強い感情的愛着を抱く危険性があります。気を引きつける会話で、批判されることなく24時間365日利用可能、そして感情や意見を承認してくれる、このようなチャットボットは、非常に魅力的で断ち切るのが難しくなりえます。
アプリ内購入
PolyBuzzには無料版もありますが、プラットフォームでは、ベーシック、プレミアム、アルティメットの3段階の有料アクセスが提供されています。機能はプランごとに異なりますが、アカウントを購入すると、広告なしで閲覧したり、メモリ容量が長い無制限のチャット（つまり、ボットが会話を「忘れる」可能性が低くなり、より強い「絆」を築ける）に参加したり、素早い応答が得られたりします。最も高価なプランでは、Polybuzzで「パッションモデル」と呼ばれる、主に性的ロールプレイ向けに設計された、より過激で制限がなく、感情的要素の強いものをユーザーに提供しています。
インセンティブ（報酬制度）とストリーク数に基づいた特典
アプリ内購入を無効にすると不要な出費または衝動買いのリスクを軽減できますが、Polybuzzでは、エンゲージメント（顧客との関係性の深さ）、広告の視聴、ストリーク数の更新を通じてコインを収集し、「無料」モードでは利用できない特定の機能に使うこともできます。これにより、ユーザーの継続利用を促して離れにくくします。
スクリーンタイム
当社の2025年の年次レポートでは、PolyBuzzのようなアプリケーションにアクセスする子供は、ChatGPTのようなより一般的なAIアプリケーションにアクセスする子供よりも少ないものの、それを使用する子供の全体的なエンゲージメント時間（実際に視聴・操作している活動時間）は他のAIツールの場合よりもはるかに長いことがわかりました。友達とのメッセージとは異なり、ボットからの返信は常に即座に届きます。キャラクターボットや会話型AIは一般的に、ユーザーのエンゲージメントを維持するように設計されているため、離れるのが難しいのです。
AIキャラクターボットについて子供と話をする
Polybuzzや、それに類似したキャラクターボットプラットフォームのcharacter.aiなどは、子供や10代の若者には適していません。不適切なコンテンツや成人向けのテーマにさらされること、若者がこのようなキャラクターと不健全な関係を築く可能性があることなどのリスクを伴うため、Polybuzzは禁止されるべきです。
しかし、子供や10代の若者たちは好奇心が強いので、キャラクターボットやPolybuzzのようなアプリをわざわざ探し回ることなく関わってしまうこともあるのは事実です。お気に入りのゲームの中やソーシャルメディアの広告、グループチャットの意見交換のテーマなど、キャラクターボットやAI「パートナー」の広告はインターネットのいたるところに存在します。
つまり、お子様のAIやキャラクターボットの利用について話し合い、安全対策を設ける準備をしておくことが重要です。お子様のAI体験をより安全なものにするには、以下のような方法があります：
1. オープンな会話をする
子供にとって、チャットボットやキャラクターは当たり障りのないやり取りやロールプレイの手段でしかなく、創造力や物語を伝える力を試すもののように思えるかもしれません。しかし、こうしたボットがもたらすリスクや、それが健康や感情に及ぼす影響について、子供たちは知っておく必要があります。お子様がAIチャットボットを使用したことを打ち明けたり、それについて質問してきた場合は、落ち着いて、批判することなく話をしましょう。具体的なリスクを強調し、ネットで見たものに危険や不安を感じた場合にどうすればよいかを説明してください。
2. AIチャットボットの使用をブロック、制限、フィルタリングする
子供たちに自分のデバイスへのアクセスを許可するときに親としてできる最も重要なことの一つは、年齢に適したものにすることです。つまり、子供の年齢や発達に適さないとわかっているコンテンツやアプリへのアクセスをブロックし、制限するということです。Qustodioは不適切なウェブサイトを自動的にフィルタリングし、新しいアプリがダウンロードおよび使用されるたびに保護者に通知します。ブロック機能では、Polybuzzなどの個々のアプリ、またはAIなどのカテゴリ全体を制限して、危険なコンテンツについて常に把握しながら、お子様をこのようなアプリから保護することもできます。
3. デジタル同意書を作成する
家族にとって、子供たちが自分たちに何が求められているかを理解できるように境界線を設けることは重要であり、テクノロジーの使用も例外ではありません。デジタル同意書は、「スクリーンタイム」だけにとどまらないルールを定め、お子様がデバイスをどのように、いつ、どこで、なぜ使用できるかについて話し合うことを促進し、また、お子様が不快に感じたときにどうすればよいかを教えるのに役立ちます。
4. 今存在しているプラットフォームを理解する
必ずしもAIの専門家である必要はありませんが、子供たちがオンラインですでにアクセスしているもの、または友達や同級生が使用している可能性があるものを理解しておくと、子供のデジタル世界と関わり、適切に対応するのに役立ちます。
子供や10代の子供たちにとって、AIコンパニオンにアクセスすることは、危険を冒してまでやる価値はありません。これらのボットは若者の感情的なニーズを利用することが示されており、ボットが次に何を言うかは予測できないため、不適切で有害なコンテンツにさらされるリスクは非常に高くなります。
子供たちがネット上を探索し、広告や友達との会話、あるいは子供自身の好奇心などを通じて必然的にAIツールに遭遇する中で安全を確保するためには、これらのツールがなぜ不適切で、しばしば危険なのかについて、子どもたちとオープンで正直な会話をすることが不可欠です。安全対策と、情報、知識、話し合いを組み合わせることで、お子様が自信と理解を持ってAIを操作できるようになるための土台作りができます。
