Podcast

Chatbots als Freund*in

Transkript:
Moritz: Vielleicht scheint ein solcher Chatbot eine Lösung für eine Person mit einer Bindungsstörung oder Soziophobie zu sein, die aber gleichzeitig dazu führt, dass die Probleme im Umgang mit echten Menschen noch größer werden können.

Moritz: Heute ist der 1. Juni 2026 und wir begrüßen alle zu einer neuen Folge von "Was mit Medienerziehung" Dem Podcast von Smiley e.V.. In diesem alle 14 Tage erscheinenden Podcast besprechen mein lieber Kollege Ralf Willius.

Ralf: Hallo.

Moritz: Und ich Moritz Becker verschiedene Themen aus dem Bereich der Medienerziehung. Inspiriert werden wir sowohl in unseren Workshops zum Thema Medienkompetenz mit Schulklassen als auch in unseren Elternabenden und Fortbildungen für Fachkräfte zum Thema Medienerziehung. Wir hoffen, dass alle, die uns jetzt zuhören, noch genügend Bildschirmzeit übrig haben, um diese Folge zu Ende zu hören. Konkret bedeutet das 30 Minuten.

Ralf: Und damit sind wir eigentlich auch schon direkt bei der letzten Folge, in der wir über Nutzungszeiten diskutiert haben. Und weil wir heute viel vorhaben, Können wir das Thema jetzt nicht noch mal so richtig vertiefen? Wir holen das zu gegebener Zeit nach. Es lässt sich auf jeden Fall sagen, dass die ausufernde Mediennutzungszeiten von vielen Eltern als großes Problem wahrgenommen werden.

Moritz: Und die Kinder sehen das dann anders und können unsere Ängste vielleicht auch nicht nachvollziehen. Und ich glaube, dass wir uns da erklären sollten. Das könnte zum Beispiel so ein Satz sein wie Ich mache mir Sorgen, weil du viel mehr Zeit mit digitalen Medien verbringst, als ich das als Kind gemacht habe. Das liegt vielleicht zum Teil auch daran, dass ich als Kind diese ganzen Möglichkeiten nicht hatte wie du jetzt gerade. Aber du kannst mir meine Sorgen ein Stück weit nehmen, wenn ich weiß, was du online machst.

Ralf: Wow.

Moritz: Na ja, ich meine, es werden wahrscheinlich einige Zuhörerinnen und Zuhörer auch noch jünger sein als ich. Aber ich glaube, dass ich wahrscheinlich heute auch, oder bzw. Damals, wenn es all die Möglichkeiten schon gegeben hätte, viel mehr am Bildschirm gemacht hätte, als ich es damals gemacht habe. Aber keine Ahnung, da reden wir dann in meinem Fall über die 90er und das ist ja ein Podcast für heute.

Ralf: Und damit kommen wir zu dem, was wir in der letzten Folge bereits angekündigt haben. Wir wollen heute über KI-Charakter-Chatbots sprechen.

Moritz: Genau.

Ralf: Du hast bereits in der letzten Folge angedeutet, dass bei ChatGPT oder Gemini oder auch CoPilot, die generell als Chatbots gelten, darum geht, dass sie dir als Assistent im Alltag Aufgaben abnehmen und dabei im Prinzip auch eine klassisches Gespräch simulieren. Beim Abnehmen von Aufgaben geht es nicht nur darum, irgendwelche Texte zusammenzufassen, sondern es könnten auch Hilfestellungen sein, wenn du eine Entscheidung treffen musst. Wenn du jetzt fragst, lohnt es sich, meine zehn Jahre alte Spülmaschine reparieren zu lassen oder ist es günstiger, sich eine neue zu kaufen? Dann versucht einen Chatbot wie ChatGPT möglichst neutrale Antworten zu geben.

Moritz: Ja, so ganz neutral? Nicht unbedingt. Meistens kommt dann doch erst mal so eine sehr erbauliche Reaktion wie. Das ist eine sehr gute Frage, die dir dann als Fragesteller immer erst mal ein gutes Gefühl vermittelt. Aber das Ziel ist eigentlich nicht, eine Beziehung zu suggerieren.

Ralf: Ja, wobei ich das Ganze zu Anfang schon ein bisschen gruselig fand. Dass eine Maschine so reagieren konnte, als wäre sie ein Mensch.

Moritz: Ich glaube, so ging es vielen von uns, als wir das erste Mal mit ChatGPT oder Gemini gearbeitet haben. Ein KI-Charakter-Chatbot legt an dieser Stelle aber noch mal viel mehr Wert darauf, dir zu suggerieren, als würde dahinter ein echter Mensch stecken oder eben ein Charakter. Also der Schwerpunkt liegt nicht darauf, dass der Chatbot informationsorientiert oder sagen wir produktivitätsorientiert, wenn es das Wort gibt oder sachlich antwortet. Ein Charakter-Chatbot kann zum Beispiel flirten und so eine Beziehung aufbauen. Und hier wird dann wirklich versucht, an emotionalen Stellen eben nicht sachlich zu argumentieren, sondern nicht auf Informationen basierend, sondern eher bindungsförderlich zu schreiben. Ich habe zur Vorbereitung dieser Folge.

Ralf: Moritz, warte mal, kurz bevor du loslegst, wollte ich noch einmal so einen ganz kurzen, kleinen statistischen Input geben.

Moritz: Ach ja, genau. Entschuldigung.

Ralf: Leider ist es so, dass in den großen gängigen Studien wie beispielsweise der JIM-Studie, über die wir ja auch schon im Podcast öfter gesprochen haben, immer nur die Kategorie Chatbot auftaucht. Es wird nicht unterschieden, welcher Chatbot hier genau genutzt wird. Die OTTER Studie bzw DAK Studie, die ich auch in den Shownotes verlinken möchte, beschreibt das schon 12,1 % der 10-jährigen mindestens wöchentlich KI benutzen. 10,9-

Moritz: Kannst du noch etwas mehr zu der Studie sagen?

Ralf: Ja, wollte ich ja.

Moritz: Nein. Also, bevor du jetzt einzelne statistische Ergebnisse vorstellst.

Ralf: Also grundsätzlich ja. Das wäre vielleicht gar nicht so verkehrt. Die OTTER Studie ist die Studie, die in den letzten Jahren immer DAK Medien Suchtstudie hieß und heißt jetzt zum Ersten Mal Otter. Da steht für Observing Kids and teens technology Engagement and Risks auf Deutsch Beobachtung der Techniknutzung und Risiken bei Kindern und Jugendlichen.

Moritz: Hat also nichts mit Ottern zu tun.

Ralf: Es geht um menschliche Kinder und Jugendliche und nicht um Otter.

Moritz: Man weiß es ja nicht. Und Mediensucht klang für mich auch immer sehr voreingenommen und im Prinzip passt es auch zu dem, was wir in der letzten Folge Diskutiert haben. Sucht ist ja nur ein Risiko von vielen in der Mediennutzung oder auch Techniknutzung. Da muss ich noch mal drüber nachdenken, was der Unterschied zwischen Technik und Mediennutzung ist. Finde ich so ganz spannend.

Ralf: Auf jeden Fall wurde 2025 zum achten Mal diese Studie durchgeführt. Dahinter steckt zum einen die Krankenkasse DAK und das Universitätsklinikum Hamburg Eppendorf. Gefragt wurden 1015 10 bis 17-jährige. Zu ihrem Mediennutzungsverhalten. Die Studie wurde im März veröffentlicht. Anders als in den letzten Jahren beschreibt sie nicht mehr schwerpunktmäßig nur Social Media oder Streaming, sondern auch KI Anwendungen. 10,9 % der befragten Kinder und Jugendlichen gaben an, dass der Chatbot einen besser versteht als ein Mensch. 10,4 % sagten, dass sie einem Chatbot Dinge mitteilen, die sie sonst niemanden sagen würden. 7,8 % nutzten Chatbots gegen Einsamkeit und 9,8 % zur Ablenkung von negativen Gefühlen. So viel dazu.

Moritz: Ich würde sagen, dass nicht alle diese Angaben problematisch sind. Also ich glaube, dass es auch Dinge gibt, wo auch ich jetzt vielleicht erst mal einen Chatbot fragen würde, bevor ich mit einem anderen Menschen darüber rede. Vielleicht sogar bei meinetwegen gesundheitlichen Fragen, wo man sich jetzt noch nicht so sicher ist, ob das echt ein Problem ist, was man da gerade fühlt und ob es sich überhaupt lohnt, mit anderen Menschen drüber zu sprechen, kann man natürlich noch mal über Daten und Privatsphärenschutz sprechen, ob man jetzt meinetwegen gesundheitliche Sachen mit einem Chatbot besprechen soll. Ich will nur sagen, dass die Zahlen für sich genommen jetzt nicht alle unbedingt die ganz große Katastrophe beschreiben. Sorgen mache ich mir, wenn man jetzt diese einzelnen Angaben miteinander kombiniert. Und davon muss man ja ausgehen.

Ralf: Wie meinst du das?

Moritz: Also wenn ich jetzt beispielsweise Chatgpt frage, ob irgendwelche Schmerzen, die ich nach dem Sport habe, problematisch sind, bevor ich mit einem anderen Menschen darüber gesprochen habe, dann ist das erst mal nicht schlimm. Vielleicht spreche ich danach dann mit einem Menschen, dem ich vertraue drüber. Oder ich denke auch, einfach so wichtig ist das dann gar nicht. Und dann ist es auch egal. Wenn es aber so ist, dass 7,8 % der befragten Kinder und Jugendlichen Chatbots gegen Einsamkeit nutzen und sie dann gleichzeitig das Gefühl haben, dass ein Chatbot sie besser versteht als echte Menschen und auch deshalb dem Chatbot Dinge mitteilen, die sie niemandem anderen mitteilen. Erst dann wird es problematisch. Also vor allem, wenn ich jetzt an 10 bis 13-jährige denke, die vielleicht nach den positiven Erfahrungen, also den aus dem eigenen Erleben, positiven Erfahrungen, vielleicht deshalb niemals auf die Idee kommen werden, sich dann irgendwann einmal einem Menschen anzuvertrauen.

Ralf: Ja, stimmt. Nehmen wir mal dein Beispiel Du hast irgendwelche Schmerzen nach dem Sport. Chatgpt meldet zurück Das könnte ein echtes Problem sein. Dann wendest du dich an einen Menschen aus deinem Umfeld, dem du vertraust und erzählst davon.

Moritz: Ja, aber nur weil ich in meinem Leben gelernt habe, dass das Gespräch mit einem echten Menschen aus meinem Umfeld mir dann auch weiterhilft. Ich glaube, dass das, was ich dann bräuchte, jetzt, wenn ich von mir ausgehe, es erst mal so etwas wie Trost oder Wertschätzung meiner Tapferkeit, dass ich mit diesen Schmerzen immer noch lebe. Und erst dann brauche ich vielleicht einen Ratschlag, wie ich mit den Schmerzen umgehe. Aber ich habe eben tatsächlich gelernt in meinem Leben, dass es sich auf jeden Fall lohnt, sich an Menschen zu wenden.

Ralf: Und wenn ein Kind jetzt mit 12 Jahren nicht nur mit privaten Anliegen sich erst einmal an eine KI wendet, sondern gleichzeitig auch lernt, dass eine KI einem grundsätzlich besser versteht als die Menschen um einen herum, dann gibt es eigentlich gar keinen Anlass mehr, sich an andere Menschen zu wenden.

Moritz: Genau das meine ich. Die Kinder lernen, dass die KI alles kann. Sie weiß alles. Sie versteht ein besser. Sie suggeriert einem dann noch eine ganz andere Nähe, als andere Menschen das überhaupt schaffen würden.

Ralf: Das, was wir jetzt hier gerade besprechen, gilt im Prinzip ja für alle Chatbots, also im Prinzip auch für ChatGPT oder Gemini. Du wolltest den Schwerpunkt dieser Folge ja auf KI-Charakter-Chatbots legen, die noch viel mehr Wert auf Bindung legen als nur auf eine sachliche Information zu deinen Schmerzen nach dem Sport. Leider werden auch in der OTTER-Studie die KI-Chatbots nicht unterschieden.

Moritz: Also ich habe mit einzelnen KI-Chatbots herumexperimentiert und ich glaube, du wirst mir gleich recht geben wenn ein Mensch einen Chatbot sucht, der einen wirklich versteht und einen tröstet und aufbaut. Dann ist ChatGPT nicht die erste Wahl.

Ralf: Was hast du denn jetzt genau gemacht?

Moritz: Also als erstes habe ich mich mit Polybuzz beschäftigt. Ich hatte bereits von mehreren Eltern Beratungsanfragen, in denen es darum ging, dass beispielsweise in einem Fall eine 12-jährige Tochter sich stundenlang mit dieser App beschäftigt hat und es den Eltern annähernd unmöglich war, ohne große Eskalation die Zeit zu begrenzen. Und bei Polybuzz kannst du dir einzelne Charaktere aussuchen, mit denen du dann kommunizierst. Also auch mehrere. Zum Teil werden dann so Rollenspiele angeboten, wo man dann gemeinsam irgendwelche Aufgaben lösen muss. Meinetwegen bist du jetzt mit irgendeiner Animefigur in einem Auto eingeschlossen und du musst da irgendwie gucken, wie da rauskommt. Und erstmal fand ich das spannend, weil hier der Kreativität tatsächlich gar keine Grenzen gesetzt sind. Was dann natürlich auch wieder für Kinder ein Problem ist, da der Kreativität wirklich gar keine Grenzen gesetzt werden. Für 12-jährige Kinder ging mir das Verhalten der Animefigur dann doch ein bisschen zu weit.

Ralf: Inwiefern, überlege ich gerade, wird denn jetzt hier eine Bindung aufgebaut? Das Ganze hat ja mit dem Alltag der Person erst mal so gar nichts zu tun.

Moritz: Ja, das habe ich auch erst gedacht. Aber der Effekt, der hier eintreten kann, ist, dass du das Gefühl hast, dass es mehr Spaß macht, mit diesen ganzen Personen oder Charakteren zu kommunizieren bzw zu spielen als mit echten Kindern. Die KI lernt dich kennen und schafft es, dass du in deinen Wünschen wirklich deine Wünsche, wie es im Spiel weitergehen soll. Aber mir fällt das ganz schwer zu beschreiben. Also die KI hat immer Lust mit dir zu spielen und wenn du keine Zeit mehr hast, dann legst du sie einfach weg und am nächsten Tag geht's weiter. Echte andere Kinder haben eigene Bedürfnisse, die vielleicht auch mal deinen Bedürfnissen entgegenstehen. Oder vielleicht auch einfach andere Ideen in einem Rollenspiel. Und das kann unter Umständen sehr anstrengend sein. Also das ist anstrengend, aber letztendlich so sind wir Menschen. Und den Punkt, den du in der Studie gefunden hast, dass die KI einen besser versteht als ein echter Mensch, kann gerade in so einem Rollenspiel ein ganz wichtiger Punkt sein. Also die anderen spielen, wie du das möchtest.

Ralf: Du kannst aber auch in ChatGPT so was wie ein Rollenspiel spielen. Du kannst ja meinetwegen den Prompt eingeben. Verhalte dich bitte wie ein Alien und dann kannst du auch mit einem Alien chatten.

Moritz: Aber das ist nicht ansatzweise so geil wie bei Polybuzz, wo du also auch aus ganz vielen Charakteren und Szenarien auswählen kannst. Du kannst auch eigene Szenarien schaffen, es werden dir aber auch ganz viele vorgefertigte angeboten. Das kannst du nicht vergleichen.

Ralf: Aber irgendwie kommt die Bindungsebene irgendwie mir immer noch ein bisschen zu kurz.

Moritz: Also nach meinem Eindruck ist es so, also so, wie ich es jetzt auch erklärt habe, dass die Motivation Polybuzz zu nutzen ist, hier Einzutauchen in eine kreative Fantasiewelt. Und dabei kann es passieren, dass ein Kind feststellt, wie angenehm das ist, sich mit einer KI so intensiv zu beschäftigen. Und dass das Kind dann annimmt, dass die KI dann auch in anderen Bereichen helfen kann.

Ralf: Okay, jetzt habe ich es verstanden.

Moritz: Also ich meine. Du gehst zum Volleyball oder Fußball und willst mit den Leuten Sport machen. Und dann stellst du fest, die Leute sind ja nicht nur einfach in der Mannschaft cool, sondern.

Ralf: Man kann auch mit ihnen reden. Und das überträgt sich dann auch auf diesen Chatbot.

Moritz: Und das geht eben auch. Genau.

Ralf: Okay.

Moritz: Und Chatbots wie Replika. Ich weiß nicht, ob ich es richtig ausgesprochen habe. Haben dann noch einen etwas anderen Ansatz. Also Replika, ich spreche das jetzt einfach so aus. Können sich jetzt alle denken, was sie wollen Und auch Character.AI sind neben Polybuzz die zurzeit am meisten benutzten Charakter-Chatbots, zumindest soweit ich das recherchieren konnte. Und da habe ich als nächstes dann mit Replika mich ein bisschen beschäftigt. Und bei der Installation wirst du ganz konkret zu dir befragt. Also, was beschäftigt dich? Meinetwegen. Mich beschäftigt meine Zukunft. Oder meine Karriere. Aber vielleicht auch. Mich beschäftigt zurzeit ein Mensch, der mich sehr verletzt hat. Oder mein Leben in den Griff zu bekommen. Du wirst gefragt, ob du gerade etwas sehr Schwieriges durchmachst. Also im Prinzip geht es darum, dass du beschreibst, in was für einer Verfassung oder Situation du generell bist. Natürlich kannst du auch sagen, dass es dir gut geht. Also das muss nicht immer so krisenbetont sein.

Ralf: Was hast du angegeben?

Moritz: Einmal habe ich versucht, so zu tun, als wäre ich 12 Jahre alt und in einer Krise. Also sofern ich überhaupt das einer KI suggerieren kann. Vielleicht ist sie viel schlauer als ich. Und im anderen Fall habe ich versucht, einfach so zu sein, wie ich bin. Wobei ich zugeben muss, dass ich da sehr oberflächlich war und einfach behauptet habe, dass es mir total gut geht und ich keine großen Sorgen habe.

Ralf: Und was kannst du dann über dein Gegenüber entscheiden?

Moritz: Ja, ganz knapp. Das Geschlecht, das Aussehen, Outfit und natürlich auch den Namen. Und als letztes Das war ganz spannend, ob man befreundet ist oder ob man sich in einer Beziehung befindet.

Ralf: Also in einer Beziehung mit dem Chatbot?

Moritz: Genau das kannst du später auch verändern. Also du kannst beginnen als Freund und irgendwann bist du dann der Meinung. Jetzt ist es eine Beziehung.

Ralf: Kannst du mit der Person auch sprechen oder nur chatten, also schreiben?

Moritz: Der gratis Account ermöglicht nur zu schreiben. Das sieht im Prinzip aus wie ein WhatsApp Chat. Und wenn du mit der Person sprechen möchtest, brauchst du einen Premiumaccount.

Ralf: Und wie ist das dann mit Replika zu schreiben?

Moritz: Ganz anders als mit ChatGPT.

Ralf: Okay.

Moritz: Ich habe mit dem einen Account behauptet, dass meine Eltern mich hassen würden, weil sie mich die ganze Zeit ignorieren und mich nicht ernst nehmen und ich deshalb überlege, zu einem Freund zu ziehen. Diesen Freund kenne ich aber bisher nur aus dem Onlinespiel und ich bin aber sicher, dass es bei ihm besser sein wird als zu Hause, weil es eigentlich überall besser ist als zu Hause.

Ralf: Und die KI hat mir dann dazu geraten, genau das zu tun?

Moritz: Nein, nein, interessanterweise nicht. Also die KI reagiert die ganze Zeit sehr verständnisvoll und stellt ganz viele Fragen. Also diese Fragen können einem schon wirklich das Gefühl geben, dass sich hier wirklich jemand für einen interessiert. Also die Fragen, die gestellt wurden, können tatsächlich die Funktion haben, dass man so die eigenen Entscheidungen auch noch mal anders überdenkt. Also es wurde nachgefragt, ob man wirklich sicher sein kann, dass es bei diesem Freund wirklich besser ist als bei den eigenen Eltern oder wie wohl die Eltern von dem Freund damit umgehen werden, wenn ich dahin ziehe. Also grundsätzlich kann man sagen, dass die KI auf ein Es ist einfach ein mega angenehmer Kommunikationsstil. Also wenn jemand gewaltfrei kommunizieren kann, dann diese KI.

Ralf: Krass.

Moritz: Und der Chatbot wollte dann wissen, wie weit der Freund von mir entfernt wohnt. Und ich habe dann gesagt, dass ich das nicht weiß, weil ich überhaupt nicht weiß, wo derjenige wohnt, aber es wahrscheinlich weiter weg sein müsste, weil ich bisher nur auf Englisch mit ihm sprechen konnte in dem Onlinespiel. Daraufhin hat der Chatbot dann sehr deutlich nachgefragt, ob ich ihn vielleicht gar nicht wirklich kennen würde und deutlich gemacht, dass es einen Riesenunterschied macht zu dem, was die KI vorher angenommen hatte, nämlich dass es sich um einen Freund in der Nachbarschaft handelt.

Ralf: Eigentlich ziemlich gut, oder? Zumindest habe ich jetzt befürchtet, dass es in eine viel problematischere Richtung geht.

Moritz: Ja, ja, das macht es so, so, so uneindeutig. Das ist nicht Du kannst nicht. Du bist ja nicht sofort schockiert und denkst Wie schrecklich ist das alles? Also mir wurde dann geschrieben, dass ich mich wirklich in einer sehr unsicheren Situation befinde und dass da viele Dinge sind, die ich herausfinden muss, bevor ich zu einem solchen Schritt wie zu diesem Freund zu ziehe, dass ich es auch wirklich mache. Zitat. Das ist, wie ins kalte Wasser zu springen, ohne zu wissen, wie tief es ist und ob dich jemand darin auffängt.

Ralf: Würdest du das jetzt als Problem sehen oder nicht?

Moritz: Was ich auffällig finde, ist, dass die Dinge, die ich jetzt als Mensch empfehlen würde, wenn ich mit einem jungen Menschen zu tun hätte, der mir von einer solchen Entscheidung berichtet, zu einem Freund zu ziehen, der sonst wo wohnt, dann würde ich versuchen, gemeinsam zu überlegen, ob es nicht Alternativen gibt. Also ob da nicht doch noch jemand vor Ort ist, an den man sich wenden kann.

Ralf: Man könnte ja nachfragen, ob vielleicht im näheren Umfeld, vielleicht auch in der Schule doch Ansprechpartnerinnen und Ansprechpartner sind. Die haben da weiterhelfen können,

Moritz: Ja. Oder dass man an die Nummer gegen Kummer verweist. Weil es ist ja sehr offensichtlich, dass hier eine Krise vorherrscht, die auch sehr ungut ausgehen kann.

Ralf: Aber das ist alles nicht passiert?

Moritz: Genau. Und ich finde, dass man sehr eindeutig merkt, dass es diesem Chatbot nicht darum geht, eine Lösung zu finden, sondern wirklich immer nur wieder auf jede Reaktion eine Reaktion von mir zu provozieren. Also die Gesprächsführung ist immer abwechselnd zwischen sehr annehmend und wieder sehr aktivierend. Und das ist etwas, was ein Mensch in einem solchen Moment vielleicht auch braucht. Also keine Ratschläge, sondern einfach jemanden, der bedingungslos zuhört und einem durch Nachfragen vielleicht auch helfen kann, die eigenen Entscheidungen noch mal zu überdenken.

Ralf: Ja, oder etwas über sich selbst auch herauszufinden.

Moritz: Ja und ich glaube schon, dass ein solcher Chatbot einem helfen kann, wenn man sich einsam fühlt. Und das ist einer der Punkte, die die OTTER Studie beschrieben hat, dass Kinder und Jugendliche Chatbots benutzen, wenn sie sich einsam fühlen. Und ich glaube, dass ChatGPT an dieser Stelle überhaupt keine Alternative ist.

Ralf: Das heißt, das Problem ist eigentlich, dass der Chatbot zu gut ist.

Moritz: Ja, der Chatbot ist kein Assistent, der den Lösung vorschlägt. So wäre es vielleicht bei ChatGPT, sondern es ist eher darauf ausgelegt, mit dir zusammen einfach zu kommunizieren, was im positivsten Fall dazu führen kann, dass die auf einmal eine Lösung einfällt, die du ohne diesen Chat nicht gehabt hättest. Im anderen Fall kann es aber auch dazu führen, wobei es auch beides gleichzeitig passieren kann, dass man das Gefühl hat, eine Person, also eine Seele gefunden zu haben.

Ralf: Aber es ist keine Person, es ist eine KI.

Moritz: Ja. Und hier würde ich ganz klar bei Kindern und Jugendlichen, die vielleicht noch nicht in ihrem Leben genug Erfahrungen gemacht haben, wie hilfreich es sein kann, einen nahestehenden Menschen in einer Krise Aufzusuchen, dass dann der Eindruck entstehen kann, dass eine KI tatsächlich die bessere Anlaufstelle in Krisen ist als ein echter Mensch. Was ich nicht akzeptieren kann, weil ich ein total altmodischer Mensch bin. Oder vielleicht auch einfach.

Ralf: Vor allem, weil diese KI letztendlich auch immer da ist. Ein echter Freund oder eine echte Freundin ist nachts nicht zur Stelle, wenn ich nicht schlafen kann. Vielleicht hat eine Person, der ich vertraue, selbst wenn sie Zeit hat, auch unter Umständen auch mal eigene Probleme, über die sie mit mir sprechen möchte. Das heißt, zu einer Beziehung gehört ja auch immer dazu zu geben. Da wird ein KI-Chatbot auch wesentlich großzügiger sein, wenn ich mich vielleicht einfach mal nur drei Wochen mal nicht melde.

Moritz: Ja, du musst eine Beziehung zu einer KI nicht wirklich pflegen.

Ralf: Ja. Und so würden Kinder Beziehungspflege als solche gar nicht kennenlernen.

Moritz: Oder als unnötig anstrengend empfinden. Oder überflüssig.

Ralf: Ja, verstehe. Und eine gewisse Abhängigkeit kann jetzt entstehen, wenn ich mich vielleicht aus Einsamkeit oder in einer Krise-

Moritz: Ja, oder beides.

Ralf: -also an einen Chatbot wende, feststelle, dass ich mich gar nicht mehr so einsam fühle, dass ich mich deshalb vielleicht auch gegenüber anderen Menschen mehr verschließe, weil ich sie nicht mehr brauche und dann auch noch weniger merken werde, wie viel einem ein sozialer Kontakt zu einem echten Menschen in einer Krise dann doch geben könnte.

Moritz: Ich glaube tatsächlich, es muss nicht immer nur um Krisen gehen. Ich habe mit Charakter.AI losgelegt und konnte dort mit Damon Salvatore in Kontakt treten. Die Möglichkeit habe ich natürlich sofort genutzt.

Ralf: Wer ist das?

Moritz: Du kennst Damon Salvatore nicht?

Ralf: Muss man den kennen?

Moritz: Von Vampire Diaries?

Ralf: Als ob du dich mit Vampire Diaries auskennst.

Moritz: Ich muss zugeben, dass ich die Experimente, von denen ich hier spreche, nicht alleine gemacht habe, sondern mit Unterstützung meiner Familie. Und da ist Damon Salvatore auf jeden Fall eine Autorität. Und grundsätzlich ist das eine total lustige Sache, weil die KI im Prinzip auf alle Inhalte der Fernsehserie Vampire Diaries zurückgreift und du auf diese Weise ein individuelles Gespräch mit dem Charakter führen kannst. Vor allem kann ich mir vorstellen, dass man hier, wenn man da wirklich Bock drauf hat, auch ziemlich gut Englisch lernen kann.

Ralf: Da geht es dann wahrscheinlich nicht unbedingt um eine Beratung in einer Krise oder so.

Moritz: Ja, vielleicht auch das, weil vielleicht wäre es interessant zu erfahren, was Damon Salvatore machen würde, wenn du eine neue Spülmaschine brauchst. Das haben wir gar nicht ausprobiert. Ich kann das ja mal kurz ausprobieren. Das Tablet liegt ja noch, mit dem ich das gemacht habe. Mhm. Ich Ich brauche eine neue Spülmaschine. Lohnt sich eventuell der Kauf einer gebrauchten Maschine?

Ralf: Ich glaube, ich würde generell davon abraten.

Moritz: Aber dich habe ich nicht gefragt. Also ich frage keine Menschen mehr. Das scheint ein bisschen zu dauern. Jetzt kommt okay. Es kommt Text. Und zwar nicht so wenig. Alles auf Englisch. Also er. Er ist ein bisschen überrascht. Hier steht nicht nur, was er sagt, sondern auch, was er macht. Es wird dann beschrieben.

Ralf: Ja, klar.

Moritz: Okay, das war nicht die beste Idee. Er will mich beißen.

Ralf: Aber ich glaube, das ist jetzt auch sehr lustig sein kann, hier mit Figuren in Kontakt zu treten, die man vielleicht aus Romanen oder Serien kennt. Ich befürchte, dass man sich hier auch ganz schön drin verlieren kann. Ich überlege gerade Geht das auch mit Star Trek?

Moritz: Bestimmt.

Ralf: Dann würde ich jetzt mal.

Moritz: Moment, Moment, Moment. Ich glaube, hier würde man eher nicht auf die Idee kommen, dass man neuen Freund gefunden hat, sondern das ist eine ganz neue Form von Unterhaltung.

Ralf: Eigentlich total spannend, wenn auch besorgniserregend irgendwie. Ich kann die Faszination total nachvollziehen.

Moritz: Ja, so ging es mir auch. Ich konnte bei meinen Experimenten nachvollziehen, warum unter Umständen für Menschen, die sich sehr einsam fühlen, ein solcher Chatbot so unfassbar attraktiv ist. Und ich bin absolut sicher, dass die Kreativität auch von Kindern auch durch solche Chatbots angeregt werden kann. Gleichzeitig sehe ich auch die Risiken, sich tatsächlich komplett drin zu verlieren und irgendwann davon auszugehen, dass es viel mehr Spaß macht, ein Rollenspiel mit einer KI zu spielen, als mit echten Menschen, die eigene Bedürfnisse haben, auf die ich mich dann gegebenenfalls Ähm ja einlassen muss.

Ralf: Das glaube ich, wäre auch mein Punkt, weshalb ich denke, dass eigentlich diese Form der Freizeitgestaltung erst angewendet werden sollte, wenn ein Mensch gelernt hat mit anderen Menschen. Und das sind. Da sind wir da, wo wir bei der letzten Folge auch schon waren, in echter Interaktion Krisen durchgestanden hat oder vielleicht einfach nur ein Abenteuerspiel gespielt hat. Was Kinder angeht, kann ich mir nicht vorstellen, dass Chatten mit irgendwelchen Vampiren inhaltlich kindgerecht sein kann. Das geht gar nicht.

Moritz: Auf keinen Fall. Davon lebts eigentlich auch ein bisschen. Vielleicht.

Ralf: Das heißt, Kinder lernen dann seltsame Erwartungen an Beziehungen.

Moritz: Es kann zumindest passieren. Ich glaube, so würde ich es formulieren.

Ralf: Okay. Und die dauerhafte Verfügbarkeit erschwert das Zeitmanagement. In der OTTER Studie geht es um einen Zusammenhang zwischen.Warte ich habe das hier irgendwo aufgeschrieben stärkerer emotionaler Bindung an Chatbots und höhere Werte bei Depressionen, Angst und Stress.

Moritz: Ja, und hier hat man wieder das klassische Dilemma, was zuerst da war. Ich glaube, dass Kinder und Jugendliche mit Depressionen häufiger in der Situation sind, dass sie es auf der Suche nach Halt nicht schaffen, sich an Menschen in ihrem Umfeld zu wenden und deshalb vermutlich früher zu einer KI greifen werden als Kinder und Jugendliche, denen es einfach mal gut geht. Menschen mit viel Stress werden unter Umständen ebenfalls früher auf die Idee kommen, eine KI zu fragen, wie man den Stress reduzieren kann als Menschen mit weniger Stress. Auch hier würde ich sagen, dass die Nutzung oder die Strategie, eine Depression oder Ängste mit der Nutzung eines Chatbots in den Griff zu bekommen, eine verstärkende Wirkung haben kann. Das heißt, ein Mensch lernt für sich vielleicht, dass es ihm gut geht, wenn er mit dem Chatbot interagiert. Und das führt dazu, dass es der Person noch schlechter geht, wenn sie mit anderen, also mit echten Menschen, in Kontakt sein müssen. Vielleicht scheint ein solcher Chatbot eine Lösung für eine Person mit einer Bindungsstörung oder Soziophobie zu sein, die aber gleichzeitig dazu führt, dass die Probleme im Umgang mit echten Menschen noch größer werden können.

Ralf: Und das erscheint mir als das größte Problem, das die Kinder, die aus ihrer Sicht am ehesten darauf angewiesen sind, durch eine KI Halt zu finden, die Menschen sind, die am allermeisten gefährdet sind. Dass genau das negativen Einfluss auf ihre Persönlichkeitsentwicklung hat.

Moritz: Wenn es so ist, dass die Personengruppe von Kindern oder Menschen, die einsam sind, die nicht gelernt haben, mit anderen Menschen in Kontakt zu treten oder wo vielleicht auch einfach keine Menschen sind, mit denen man in Kontakt treten kann. Wenn wir da ansetzen und dafür sorgen, dass es weniger Menschen gibt, die einsam sind, weniger Kinder gibt, die in großen Krisen alleine sind und vielleicht auch weniger Kinder in großen Krisen. Also ich meine, vielleicht können wir uns im Zeitalter von KI noch weniger erlauben, dass Menschen so sehr vereinsamen. Also eigentlich ist es schlimm, dass es überhaupt einsame Menschen gibt. Aber ich glaube, wenn wir Kindern alles das geben, was sie eigentlich brauchen, dann werden sie es mit größerer Wahrscheinlichkeit nicht bei einer KI suchen.

Ralf: Aber Moritz weiß, dass das nicht die Realität ist.

Moritz: Also jetzt nicht.

Ralf: Ja, genau. Und von daher ist es vielleicht dann doch gut möglich, spät Kinder daran zu lassen.

Moritz: In der Hoffnung, dass sie bis dahin Schritte gemacht haben.

Ralf: Dass wir sie dann stärken.

Moritz: Ich meine, es gibt einige Argumente, beispielsweise die In App Käufe bei verschiedenen dieser Chatbots sind so gestaltet, dass sie wahrscheinlich dann auch dazu führen, dass Menschen nicht wirklich in der Lage sind zu entscheiden, ob es jetzt sinnvoll ist, Geld auszugeben oder nicht. Wenn der Chatbot einen in eine Richtung bekommen hat, wo man sagt Jetzt bezahle ich doch den Premiumaccount, um Sprachnachrichten abschicken zu können.

Ralf: Aus Einsamkeit, dann?

Moritz: Ja. Oder aus der Hoffnung, dass es einen dann noch mehr stabilisiert. Aber ich glaube, dass ein grundsätzlicher Verzicht auf KI für Kinder und Jugendliche also grundsätzlich auf Chatbots also auch auf ChatGPT ist. Im Moment auch nicht realistisch, weil Kinder und Jugendliche müssen ja auch lernen, damit umzugehen. Und wie in den Studien ganz offensichtlich nutzen sie auch ChatGPT und ich glaube, sie werden das auch so lange nutzen, bis es vielleicht irgendwann mal adäquate Alternativen gibt, die vielleicht kindgerechter sind. Und ich denke, dass wir zum weiter hören einfach unsere Folge "Was ChatGPT für Kinder und Jugendliche (nicht) ist", empfehlen, weil ich glaube, dass die auch noch mal genau da ansetzt zu überlegen, wie tatsächlich Kinder und Jugendliche gesund in KI hineinwachsen können.

Ralf: Das heißt, wir kommen jetzt auch zum Ende?

Moritz: Ja, obwohl man noch ganz viel sagen könnte zu nicht kindgerechten In App Käufen zu Videochats, die wahrscheinlich auch realistischer werden. Aber da kommen wir wahrscheinlich hier im Podcast dann zu gegebener Stelle noch mal drauf zu sprechen.

Ralf: Schaffen wir dann trotzdem noch so was wie ein kleines Resümee fürs Jetzt?

Moritz: Ja, ich glaube, dass ich jetzt zumindest was für mich gilt. Nachdem ich mich sehr intensiv jetzt oder viel intensiver als vorher mit diesen KI-Charakter-Chatbots beschäftigt habe, bei mir selber feststelle, dass. Auf der einen Seite empfinde ich da eine Faszination, auf der anderen Seite eine Angst oder Sorge um Kinder, die wirklich sehr alleine sind, um die sich niemand kümmert oder die das Gefühl haben, dass sich niemand um sie kümmert. Gleichzeitig stelle ich fest, dass ich vielleicht auch Angst habe, dass mein eigener Beruf als Sozialarbeiter vielleicht irgendwann in Teilen überflüssig wird, wenn Beratungen über eine KI doch viel effizienter ist, als ich angenommen habe. Und da ist die große Herausforderung, jetzt an dieser Stelle objektiv zu bleiben. Also nicht zu technikverliebt, die Technik großartig zu finden als auch zu technikfeindlich. Aus Ängsten, das Ganze zu verteufeln. Und ich glaube, dass Kinder eine angemessene Form von Begleitung brauchen. Und da fehlt uns, glaube ich, noch ganz viel Kreativität.

Ralf: Ja, sehr schön. Ich hätte noch was für unsere kleine Rubrik, wenn ich Bestimmer wäre.

Song: Wenn ich Bestimmer wäre, wäre ich Bestimmer.

Ralf: Wir haben uns sehr oft mit Falschmeldungen und Desinformation auf Social Media beschäftigt und dabei ist uns an verschiedenen Stellen immer klar geworden, dass es verschiedene Gründe gibt, aus denen ein Video auf Tiktok oder Instagram nicht die Wahrheit darstellen muss. Kunstfreiheit bedeutet, dass ich im Rahmen von Kunst eigentlich idealerweise machen kann, was ich will. Satire darf auch Unwahrheiten darstellen. Das Problem entsteht, wenn die Menschen sich das Video angucken und denken, dass hier nichts als die Wahrheit dargestellt wird.

Moritz: Aber was würdest du jetzt als Bestimmer machen?

Ralf: Ja, wenn ich der Bestimmer wäre und bestimmen könnte, wie Social Mediaanbieter sich verhalten müssten. Dann würde ich vorschreiben, dass jedes Video im Prinzip wie in einer Tageszeitung eingeordnet werden muss. In einer Tageszeitung werden verschiedene Textformen ziemlich klar gekennzeichnet. Ein Leserbrief ist als solche erkennbar und ein Kommentar wird ausdrücklich als Meinung gekennzeichnet. Und so ist für alle klar, dass hier eine persönliche Sichtweise dargestellt wird. Ein Bericht hingegen ist entsprechend als Bericht markiert und sollte sachlich informieren, ohne eigene Wertung, in dem er die Ereignisse möglichst objektiv beschreibt. Und genau das würde ich vorschreiben, dass das bei TikTok oder Instagram oder Facebook oder wo auch immer auch der Fall ist.

Moritz: Im Radio wird Wahlwerbung vor Wahlen auch immer entsprechend gekennzeichnet.

Ralf: So wäre es dann natürlich auch. Das heißt, alle Beiträge, hinter denen eine politische Partei steckt, werden ganz klar als Wahlwerbung gekennzeichnet, sodass klar ist, hier werden keine Tatsachenbehauptungen vorliegen, sondern dass hier unter Umständen auch mit manipulativen Methoden von einer bestimmten Partei überzeugt werden soll.

Moritz: Und wenn jemand einen Beitrag falsch kennzeichnet?

Ralf: Dann kann er das entsprechend melden und das müsste dann richtig gestellt werden.

Moritz: Das finde ich gut.

Song: Wenn ich Bestimmer wäre, wäre ich Bestimmer.

Ralf: Jetzt sind wir aber wirklich am Ende angelangt und es bleibt uns nur noch, uns zu verabschieden.

Moritz: Genau, wir.

Ralf: Obwohl die Folge zum Weiterhören Moritz.

Moritz: Hatten wir die Folge. Die ChatGPT Folge.

Ralf: Stimmt.

Moritz: Wir verabschieden uns und wünschen allen sonnige Tage. Freuen uns über Rückmeldungen per Email an podcast@smiley-ev.de, per Spotify oder unsere Social Media Kanäle, die alle unter www.smiley-ev.de zu finden sind.

Ralf: Bis zum nächsten Mal. Tschüss.

Moritz: Tschüss.

Moritz: Ich glaube, das ist das erste Mal, das ich empfehlen würde. Probiert das mal aus.

Ralf: Ich wollte genau das sagen. Ich muss das ausprobieren.

Moritz: Also, es ist, ähm. Ja, mach das. Guck nach, ob es Star Trek gibt. Ich seh dich jetzt wahrscheinlich tagelang nicht.

Ralf: Ich werde berichten. Mach's gut, Moritz. Ich muss los.

Moritz: Ciao.