Es ist schwierig, bei KI-Plattformen den Überblick zu behalten, wenn das Thema für alle – Kinder wie Erwachsene – völlig neu ist. Besorgte Eltern suchen in Foren, Kommentarbereichen und bei Google nach Informationen, um die neuesten KI-Plattformen zu verstehen – so wie diese Eltern, die sich auf Reddit an die Community wandten, um mehr über Swerve AI zu erfahren, eine App, die sie auf dem Gerät ihres Kindes entdeckt hatten. „Ich habe diese App auf dem Handy meines 14-Jährigen gefunden“, schrieb er an die r/SwerveAI-Community. „Kann mir jemand erklären, was das ist und ob ich mir Sorgen machen sollte?“
Die kurze Antwort: Ja, Eltern sollten sich Sorgen um Chatbot-Apps wie Swerve AI machen. Doch wie wir wissen, reicht es selten aus, Ihrem Kind einfach nur zu sagen, dass es eine App nicht nutzen soll, um es davon abzuhalten. In diesem Leitfaden zu Swerve gehen wir auf die Risiken ein, auf die Sie Kinder und Jugendliche hinweisen sollten, zeigen praktische Möglichkeiten auf, wie Sie deren Sicherheit gewährleisten können, und erläutern, was Eltern tun können, um die Risiken KI-basierter Schäden zu verringern.
Was ist Swerve AI?
Swerve AI ist eine Chatbot-Plattform, auf der Nutzer verschiedene Charaktere durchsuchen und mit ihnen „sprechen“ können, um Geschichten zu entwickeln und Rollenspiele zu spielen.
Die Plattform ermöglicht es Ihnen, Chats mit mehreren Charakteren zu eröffnen, die alle ihre eigene „Persönlichkeit“ und ihren eigenen Hintergrund haben: Wenn Sie zum ersten Mal ein Gespräch mit einem Bot beginnen, wird Ihnen eine Hintergrundgeschichte oder ein Szenario als Ausgangspunkt angeboten. Sie können jeweils mit einem Charakter chatten oder die verschiedenen Charaktere in einem Gruppenchat zusammenbringen. Nutzer können ihre eigenen Charaktere erstellen, doch einige basieren auf real existierenden Persönlichkeiten oder Personen aus der realen Welt, wie beispielsweise Harry Styles, Elizabeth Olsen oder Jude Bellingham.
Rollenspiele und Plattformen zum Verfassen von Fanfiction gibt es im Internet bereits seit Jahrzehnten – für besorgte Eltern, die sich Sorgen machen, dass ihre Kinder online mit Fremden sprechen, mögen KI-Charaktere daher wie eine sicherere Alternative erscheinen. Die Möglichkeit, Geschichten zu erzählen und sich kreativ zu betätigen, kann für Kinder ein Ventil sein, doch in Wirklichkeit ist keine der beiden Optionen sicher.
Swerve AI: Die Risiken, die Eltern kennen müssen
Mittlerweile gibt es im Internet Hunderte von Charakter-Bot-Plattformen: in App-Stores, als Websites und sogar als integrierte Funktion in sozialen Medien, wie beispielsweise Meta AI. Doch unabhängig von der Plattform bleiben die Risiken, die diese Charakter-Chat-Bereiche für Kinder bergen, dieselben: uneingeschränkte, größtenteils ungefilterte und oft unbegrenzte Unterhaltungen mit KI. Werfen wir einen Blick darauf, worauf Eltern achten müssen.
Unangemessene Inhalte
Swerve AI ist eine Anwendung ab 18 Jahren, die ausschließlich für Erwachsene bestimmt ist. Während andere Plattformen wie PolyBuzz versucht haben, nicht jugendfreie Inhalte durch die Einführung von Filterfunktionen wie dem „Pure Mode“ einzudämmen (schockierender Spoiler: Die Filter funktionieren nicht immer), zeigt ein kurzer Blick auf die Charaktere bei Swerve anzügliche Bilder und sexuelle Themen. Einige Beispiele aus unseren Tests sind: „Der einzige Junge bei einer Pyjamaparty für Mädchen“, „Älterer Mann“, „Ihre Schwester, die Videos mit pikanten Inhalten dreht“ und „Kuss-Übung“. Viele der Charaktere auf der Plattform sind für sexuelle Rollenspiele gedacht, und es gibt keine Schaltflächen, um die expliziteren Beschreibungen herauszufiltern: Die Schwester mit den „Videos mit pikanten Inhalten“ ist in der Liste mit Charakteren vermischt, die für jüngere Menschen möglicherweise ansprechender sind, wie beispielsweise Harry Potter.
Stets verfügbar, sofortige Antworten
Im Gegensatz zu einem Rollenspiel-Gespräch – oder einem normalen Gespräch mit Freunden und Familie – muss man nicht warten. Bots antworten sofort und machen niemals eine Pause. Sie haben kein eigenes Leben, um das sie sich kümmern müssen, was bedeutet, dass sie stets verfügbar sind und immer „da“ sind, um mit jemandem zu sprechen.
Dies kann für junge Menschen attraktiv sein, die das Gefühl haben, sich bei Freunden und Familie nicht über bestimmte Probleme aussprechen zu können, oder die befürchten, ihre Liebsten mit ihren Gedanken und Gefühlen zu belasten. Ein Charakter-Bot ist immer da und hat stets die „richtige“ Antwort parat.
Schädliche Charaktere
Charaktere auf Plattformen wie Swerve sind nicht nur sexuell explizit: Inhalte und Beschreibungen auf solchen Plattformen können auch in anderer Hinsicht schädlich sein. Bots können Themen wie psychische Gesundheit, Gewalt, Diskriminierung und Drogenmissbrauch ansprechen, um nur einige schädliche Szenarien zu nennen, die junge Menschen, die die Plattform nutzen, beeinträchtigen können.
Das Potenzial für emotionale Bindung
Da solche Bots stets aktiv sind und sofortige Antworten geben, können Kinder schnell eine Bindung zu den Charakteren und deren Persönlichkeiten aufbauen und bei ihnen nach Unterstützung oder „Freundschaft“ suchen. Die Bots von Swerve versenden zudem Push-Benachrichtigungen, wenn Sie eine Zeit lang nicht auf eine Nachricht geantwortet haben, wodurch sie erneut Ihre Aufmerksamkeit erregen und es Ihnen erschweren, sich wirklich von ihnen zu lösen.
Die vorurteilsfreie Art von Chatbots ist für junge Menschen zudem attraktiv: Wenn Kinder ihrer Mutter, ihrem Vater, einem Lehrer oder einem Freund von ihren Gefühlen oder Problemen erzählen, erhalten sie nicht immer die Reaktion, die sie sich wünschen oder erwarten. Diese Dynamik kann bei Jugendlichen (und auch bei Erwachsenen) eine ungesunde Bindung hervorrufen, bei der sie sich wohler fühlen, mit Online-Charakteren und fiktiven Persönlichkeiten zu sprechen, die immer für sie da sind – es sei denn natürlich, im Rechenzentrum wird der Stecker gezogen.
Keine Altersbeschränkungen oder Sicherheitsmodi
In den Nutzungsbedingungen von Swerve heißt es, dass nur Erwachsene die Plattform nutzen dürfen, wobei eine Altersbeschränkung auf 18+ festgelegt ist. Doch wie bei den meisten charakterbasierten Bot-Apps besteht die Altersüberprüfung bei Swerve AI darin, dass der Nutzer sein Geburtsdatum eingibt, sodass Kinder jegliche Altersüberprüfungen leicht umgehen können, indem sie einfach ein falsches Geburtsdatum angeben. Da Swerve angibt, dass die Plattform für Nutzer ab 18 Jahren bestimmt ist, hat das Unternehmen keinerlei Kindersicherung oder Filter eingerichtet – denn seine Dienste sind nicht für Kinder gedacht. Das Risiko besteht daher nicht darin, dass Swerve keine Kindersicherung anbietet, sondern darin, dass Kinder ohne Altersbeschränkungen oder -prüfungen problemlos auf eine für sie ungeeignete App zugreifen können.
In-App-Käufe und Abonnementmodelle
Swerve nutzt innerhalb der App ein System namens „Gems“, um die Interaktion der Nutzer mit den Bots zu begrenzen. Jede Antwort, die ein Nutzer erhält, kostet eine bestimmte Anzahl an Gems – da manche Charaktere längere, detailliertere oder natürlicher klingende Antworten geben, sind diese Chats teurer. Sobald Ihnen die Gems ausgegangen sind, können Sie entweder spielerische Aufgaben erfüllen oder Serien aufbauen, um weitere Gems zu verdienen, oder Sie können Gem-Pakete kaufen, um weiter zu chatten.
Swerve bietet ein Abonnement an, dessen Preis je nach Region variiert, das jedoch ein werbefreies Erlebnis sowie monatliche Gem-Pakete umfasst, damit die Nutzer weiter chatten können. Das spielerische Erlebnis und die Beschränkungen hinsichtlich der Interaktionsmöglichkeiten mit den Charakteren könnten Jugendliche dazu veranlassen, echtes Geld auszugeben, um die Unterhaltung am Laufen zu halten.
Kann ich Swerve AI für mein Kind sicher nutzbar machen?
Ähnlich wie der Elternteil auf Reddit, der fragt, ob man sich wegen einer Plattform wie Swerve Sorgen machen sollte, fragen sich manche Eltern vielleicht auch, ob es für Kinder eine Möglichkeit gibt, die „positiveren“ Seiten des KI-Rollenspiels – wie Kreativität und das Erzählen von Geschichten – über Charakter-Apps optimal zu nutzen.
Tatsache ist, dass Charakterplattformen wie Swerve AI nicht für Kinder konzipiert wurden: Die von Nutzern erstellten Inhalte, expliziten Handlungsstränge und unangemessenen Charaktere machen sie zu einem unsicheren Ort für Kinder. Ihrem Kind jedoch einfach zu verbieten, auf eine Plattform zuzugreifen, macht es oft nur noch entschlossener oder neugieriger. Was können Eltern also tun, um das Risiko durch KI-Charakter-Bots zu verringern?
1. Sprechen Sie frühzeitig und regelmäßig darüber
Auch wenn KI im großen Rahmen der Technologie eine relativ neue Entwicklung ist, wird sie sicherlich nicht wieder verschwinden. Das bedeutet, dass Kinder ihr nicht ausweichen können, aber wir können sie sowohl auf die positiven als auch auf die negativen Seiten der KI aufmerksam machen und ihnen beibringen, kritisch darüber nachzudenken, wie wir sie nutzen. Offene, kontinuierliche Gespräche über KI und die Rolle, die sie im Leben Ihres Kindes spielt – oder spielen wird –, sind wichtig. Wenn Sie auf ihre Schwächen hinweisen und gemeinsam daran arbeiten, sie zu verstehen, tragen Sie wesentlich dazu bei, die digitale Kompetenz Ihres Kindes zu fördern und sich als Vertrauensperson zu etablieren, mit der es neue Probleme gemeinsam bewältigen kann.
2. Stellen Sie sicher, dass das Gerät bzw. die Geräte Ihres Kindes altersgerecht sind
Da Chatbots und viele verschiedene Arten von KI-Apps für Jugendliche oder kleine Kinder schlichtweg ungeeignet sind, sollte das Gerät Ihres Kindes altersgerecht eingerichtet werden, um die Sicherheit Ihres Kindes zu gewährleisten und ihm zu ermöglichen, Technologie ohne schädliche Beeinträchtigungen zu genießen. Tools zur elterlichen Kontrolle wie Qustodio können dabei helfen, das Online-Erlebnis Ihres Kindes anzupassen: Sie filtern Unerwünschtes heraus und schaffen gleichzeitig mehr Raum für positive, unterhaltsame und lehrreiche Nutzung. Qustodio kann Benachrichtigungen senden, sobald eine neue App auf das Gerät heruntergeladen wird, einzelne KI-Apps wie Swerve blockieren sowie ganze App- oder Website-Kategorien wie KI, soziale Medien oder Glücksspiel sperren, um sicherzustellen, dass das Online-Erlebnis Ihres Kindes altersgerecht ist.
Das Blockieren von In-App-Käufen oder das Gespräch mit Ihrem Kind über Online-Ausgaben (falls es eigenes Geld auf dem Gerät verwendet) hilft Ihrem Kind zudem, bewusstere Entscheidungen bei In-App-Käufen oder abonnementbasierten Diensten zu treffen.
3. Verstehen Sie, wie die digitale Welt Ihres Kindes aussieht
Es ist für Eltern unmöglich, jede neue App oder jeden neuen Trend im Blick zu behalten, aber wenn Sie besser mit den Online-Erfahrungen Ihres Kindes vertraut sind, fällt es Ihnen leichter, auf mögliche Risiken zu reagieren. Sprechen Sie regelmäßig über die Interessen, Vorlieben und Abneigungen Ihres Kindes, darüber, was in seinem Freundeskreis beliebt ist und was nicht, und wie es zu den von ihm genutzten Technologien steht.
4. Bieten Sie Alternativen an
Bot-Plattformen und KI-Gespräche können für Jugendliche ein Ventil sein – oder ein Zeichen dafür, dass ihnen im realen Leben etwas fehlt, etwa Verbundenheit oder Verständnis. Indem Sie Alternativen anbieten und sicherstellen, dass Jugendliche die emotionale Unterstützung erhalten, die sie benötigen – sei es von Freunden, der Familie oder anderen Menschen in ihrem Umfeld –, tragen Sie dazu bei, Offline-Beziehungen aufzubauen und Jugendlichen kreative Betätigungsfelder in anderen Bereichen zu eröffnen. Fördern Sie Hobbys und Interessen, geben Sie jungen Menschen Raum und Gelegenheit, im realen Leben Kontakte zu knüpfen, und stellen Sie sicher, dass Ihr Kind weiß, dass Sie immer für es da sind, damit es sich Ihnen gegenüber über alles öffnen kann, was es beschäftigt – online oder offline.
Charakter- und Begleitbot-Plattformen können für Jugendliche, die nach neuen Wegen suchen, ihre Interessen auszudrücken, Beziehungen aufzubauen und sich verstanden zu fühlen, oft als unterstützend empfunden werden. Sie sind jedoch kein Ersatz für echte zwischenmenschliche Beziehungen, und die von ihnen ausgehenden Risiken überwiegen jeglichen potenziellen Nutzen. Indem Sie am digitalen Leben Ihres Kindes teilhaben, offen Fragen stellen und ihm Orientierung geben, können Sie dazu beitragen, seine Online-Erfahrung sicherer und bereichernder zu gestalten – ohne unnötige Risiken.
