Rollenspiele im Internet sind kein neues Phänomen: Von der pixeligen Welt von Habbo Hotel bis hin zu Fantasieszenarien in Harry-Potter-Rollenspielforen finden Teenager seit Jahrzehnten Wege, ihre Emotionen auszuleben, kreative Fähigkeiten zu entwickeln und einfach ein wenig zu träumen.
Selbst in früheren Zeiten des Internets waren diese Szenarien nicht ohne Risiko. Der Kontakt mit Fremden und die Konfrontation mit potenziell nicht jugendfreien oder gewalttätigen Themen stellten sehr reale Risiken dar. Im Zeitalter der KI könnten neuere Möglichkeiten, Rollenspiele und Kontakte zu erkunden, beispielsweise durch Begleit-Bots und Charakterplattformen wie PolyBuzz, das Risiko des Kontakts mit Fremden beseitigen, aber diese maschinengestützten Chats bergen ihre eigenen Risiken für Kinder und Jugendliche. Hier ist, was Eltern wissen müssen.
Was können Kinder auf PolyBuzz machen?
Theoretisch dürfen Nutzer unter 18 Jahren PolyBuzz nicht verwenden – in den Nutzungsbedingungen heißt es, dass die Nutzung für Minderjährige „strengstens untersagt“ ist. Um dies zu überprüfen, verlässt sich PolyBuzz jedoch wie viele andere Apps auf Selbstauskünfte: Nutzer geben ihr Geburtsdatum in der mobilen App ein, um ihr Alter zu „verifizieren“, während sie in der Webversion der Plattform keinerlei Angaben machen müssen.
Trotz der Altersbeschränkung ab 18 Jahren geht aus dem Leitfaden von PolyBuzz zu den Funktionen und „Vorteilen“ hervor, dass die Plattform „auf junge Nutzer zugeschnitten ist, die gerne die Interaktion mit virtuellen Charakteren erkunden möchten“, was zeigt, wer die eigentliche Zielgruppe der Plattform ist.
Für Teenager, die ein falsches Geburtsdatum eingeben oder gar nicht dazu aufgefordert werden, bietet PolyBuzz folgende Funktionen:
- Eine große Auswahl an Charakter-Bots mit Themen, Beziehungen und definierten Hintergrundgeschichten für textbasierte und Audio-Rollenspiele.
- KI-Tools zur Charaktererstellung.
- KI-generierte Foto- und Video-Freigabe, mit der Benutzer Charakter-Avatare und Szenen erstellen können.
- Ein „Freemium” Abonnementmodell: Kostenlose Benutzer können Nachrichten senden und chatten, während Premium-Abonnenten Chats speichern, exklusive Charaktere freischalten, ohne Werbung surfen und Beschränkungen für Chats und Sprachwiedergaben aufheben können.
PolyBuzz: Die Risiken
NSFW und unangemessene Inhalte
PolyBuzz verbietet die „öffentliche Darstellung” von NSFW-Inhalten (not safe for work, nicht für die Arbeit geeignet) und behauptet, dass Inhalte, die beim Surfen in der App empfohlen werden (z. B. Charaktere, Rollenspielbeschreibungen), geprüft und moderiert werden. In privaten Chats gilt diese Prüfung jedoch nicht – und selbst wenn NSFW-Filter vorhanden sind, sind diese nicht ausfallsicher, sodass beim Surfen weiterhin gewalttätige oder sexuelle Inhalte angezeigt werden. Bilder und „Profilbilder“ von Charakteren sind oft stark sexualisiert und für Kinder ungeeignet.
Auch wenn sie nicht direkt explizit sind, klingen einige Charakterbeschreibungen und Szenarien nicht nach Personen oder Gruppen, mit denen Sie Ihr Kind sprechen lassen möchten: „Schulpsychopath: Hat Wutprobleme, ist beschützerisch, langsam, liebt dich.” „Anhänglicher Freund: Er weint, wenn du ihn allein lässt.” “Perverser Vertretungslehrer: Es gibt einen Vertretungslehrer, und er ist ein Perversling.”
Begrenzte Kindersicherung
Obwohl die Plattform in ihren Nutzungsbedingungen angibt, dass sie nur für Nutzer über 18 Jahren bestimmt ist, bietet PolyBuzz Kindersicherungen an, mit denen Familien die Nutzungszeit der App begrenzen können, und das aus gutem Grund – einige Nutzer auf Reddit geben an, täglich mehr als 11 Stunden mit der App zu verbringen. Eltern und Kinder können Nutzungsmuster einsehen, aber es gibt keinen Einblick in die Inhalte, auf die Kinder zugreifen, und die Charaktere, mit denen sie möglicherweise interagieren.
Versteckte Inhaltecontent
Mit PolyBuzz können Benutzer ihre eigenen Chats mit mehreren Charakteren erstellen, was bedeutet, dass die Unterhaltung privat ist, selbst wenn die Kindersicherung aktiviert ist. Mit KI haben Sie keine Möglichkeit zu wissen oder vorherzusagen, auf welche Inhalte Ihr Kind stoßen wird, und es könnte zu Unterhaltungen geführt werden, die für sein Alter ungeeignet sind oder es mit Themen konfrontieren, die eher für Erwachsene geeignet sind.
Emotionale Bindung
Bei dialogorientierten KI-Bots – sogar bei ChatGPT – besteht die Gefahr, dass Kinder (und Erwachsene) eine starke emotionale Bindung zu Charakteren entwickeln, die ihnen real erscheinen, auch wenn sie es nicht sind. Durch ansprechende Gespräche, die rund um die Uhr verfügbar sind, ohne zu urteilen, und die Gefühle oder Meinungen bestätigen, können solche Chatbots sehr attraktiv sein und es schwer machen, sich von ihnen zu lösen.
In-App-Käufe
Es gibt zwar eine kostenlose Version von PolyBuzz, aber die Plattform bietet drei Stufen für den kostenpflichtigen Zugang: Basic, Premium und Ultimate. Die Funktionen variieren zwischen den einzelnen Stufen, aber wenn man für ein Konto bezahlt, kann man ohne Werbung surfen, unbegrenzt chatten und hat einen längeren Speicher (was bedeutet, dass Bots Gespräche weniger schnell „vergessen“ und eine stärkere „Verbindung“ aufbauen) und bekommt schnellere Antworten. Die teuerste Stufe bietet Nutzern Zugang zu dem, was PolyBuzz als „Passion-Modell“ bezeichnet, einer intensiveren, uneingeschränkten und emotionalen Ebene, die hauptsächlich für sexuelle Rollenspiele konzipiert ist.
Anreize und streak-basierte Belohnungen
Das Deaktivieren von In-App-Käufen hilft, das Risiko unerwünschter oder spontaner Ausgaben zu verringern, aber PolyBuzz ermöglicht es Nutzern auch, durch Engagement, das Ansehen von Werbung und das Aufbauen von Streaks Münzen zu sammeln, die sie dann für bestimmte Funktionen ausgeben können, die im „kostenlosen” Modus nicht verfügbar sind. Dies kann Nutzer dazu ermutigen, zurückzukehren und sich länger zu engagieren, was es schwieriger macht, sich abzumelden.
Bildschirmzeit
In unserem Jahresbericht 2025 haben wir festgestellt, dass zwar weniger Kinder auf Anwendungen wie PolyBuzz zugreifen als auf gängigere KI-Anwendungen wie ChatGPT, aber dass die Nutzungsdauer bei den Kindern, die sie nutzen, insgesamt viel höher ist als bei anderen KI-Tools. Im Gegensatz zu Nachrichten mit Freunden kommt eine Antwort von einem Bot immer sofort. Charakter-Bots und dialogorientierte KI sind im Allgemeinen so konzipiert, dass sie den Nutzer beschäftigen, was bedeutet, dass es schwierig ist, sich davon zu lösen.
Mit Ihrem Kind über KI-Charakter-Bots sprechen
Polybuzz und ähnliche Charakter-Bot-Plattformen wie character.ai sind für Kinder und Jugendliche ungeeignet. Die damit verbundenen Risiken, wie die Konfrontation mit unangemessenen Inhalten, Themen für Erwachsene und die Möglichkeit, dass junge Menschen ungesunde Beziehungen zu diesen Charakteren aufbauen, bedeuten, dass PolyBuzz tabu sein sollte.
Es ist jedoch eine Tatsache, dass Kinder und Jugendliche neugierig sind und sich möglicherweise mit Charakter-Bots oder Apps wie Polybuzz beschäftigen, ohne danach zu suchen: Werbung für Charakter-Bots und KI-„Partner” ist überall im Internet zu finden – in ihren Lieblingsspielen, in Social-Media-Anzeigen und wahrscheinlich auch als Diskussionsthema im Gruppenchat.
Das bedeutet, dass Sie darauf vorbereitet sein müssen, Gespräche zu führen und Grenzen für die Nutzung von KI und Charakter-Bots durch Ihr Kind zu setzen. Hier sind einige Möglichkeiten, wie Sie dazu beitragen können, die Erfahrungen Ihres Kindes mit KI sicherer zu gestalten:
1. Offene Gespräche führen
Für Kinder mögen Chatbots und Charaktere wie eine harmlose Möglichkeit erscheinen, zu interagieren und Rollenspiele zu spielen, bei denen sie ihre Kreativität und ihre Fähigkeiten zum Geschichtenerzählen ausprobieren können. Aber sie müssen wissen, welche Risiken diese Bots bergen und welche Auswirkungen sie auf ihr Wohlbefinden und ihre Emotionen haben können. Wenn Ihr Kind Ihnen mitteilt, dass es KI-Chatbots verwendet hat, oder Sie danach fragt, sprechen Sie ruhig und ohne Vorurteile mit ihm, weisen Sie auf konkrete Risiken hin und erklären Sie, was es tun kann, wenn es sich durch etwas, das es online sieht, unsicher oder beunruhigt fühlt.
2. Blockieren, Einschränken und Filtern der Nutzung von KI-Chatbots
Eine der wichtigsten Maßnahmen, die wir als Eltern ergreifen können, wenn wir unseren Kindern den Zugang zu einem eigenen Gerät erlauben, ist, dieses altersgerecht zu gestalten: Das bedeutet, dass wir Inhalte und Apps, die für ihr Alter und ihre Entwicklung ungeeignet sind, blockieren und einschränken. Qustodio filtert automatisch unangemessene Websites und benachrichtigt Eltern, wenn eine neue App heruntergeladen und verwendet wird. Mit den Blockierungsfunktionen können Sie sowohl einzelne Apps wie Polybuzz als auch ganze Kategorien wie KI einschränken und so Ihr Kind vor diesen Apps schützen, während Sie über gefährliche Inhalte auf dem Laufenden bleiben.
3. Eine digitale Vereinbarung erstellen
Grenzen sind wichtig für Familien, damit Kinder verstehen, was von ihnen erwartet wird, und die Nutzung von Technologie bildet da keine Ausnahme. Eine digitale Vereinbarung kann Ihnen dabei helfen, Regeln festzulegen, die über die reine „Bildschirmzeit” hinausgehen, Diskussionen darüber anzuregen, wie, wann, wo und warum Ihr Kind Geräte nutzen darf, und Ihrem Kind zu vermitteln, was es tun soll, wenn es sich unwohl fühlt.
4. Die verfügbaren Plattformen verstehen
Sie müssen keineswegs ein KI-Experte sein, aber wenn Sie verstehen, worauf Kinder bereits online zugreifen oder was Freunde und Schulkameraden nutzen könnten, können Sie besser mit der digitalen Welt Ihres Kindes in Kontakt treten und angemessen reagieren.
Für Kinder und Jugendliche ist der Zugang zu KI-Begleitern das Risiko einfach nicht wert. Es hat sich gezeigt, dass diese Bots die emotionalen Bedürfnisse junger Menschen ausnutzen, und da man nicht vorhersagen kann, was die Bots als Nächstes sagen werden, ist das Risiko, mit unangemessenen und schädlichen Inhalten konfrontiert zu werden, einfach zu hoch.
Um die Sicherheit von Kindern zu gewährleisten, wenn sie auf Entdeckungsreise gehen und unweigerlich mit KI-Tools in Berührung kommen – sei es durch Werbung, Gespräche mit Freunden oder aufgrund ihrer eigenen Neugier –, ist es unerlässlich, dass wir offen und ehrlich mit ihnen darüber sprechen, warum diese Tools unangemessen und oft gefährlich sind. Durch die Kombination von Schutzmaßnahmen mit Informationen, Wissen und Gesprächen versetzen Sie Ihr Kind in die Lage, sich sicher und informiert in der Welt der KI zu bewegen.
