Podcast

Chatten mit Meta AI bei WhatsApp

Transkript:
Moritz: Nutzen Menschen mit echter Intelligenz die künstliche Intelligenz von Meta AI bei WhatsApp? Heute ist der 5. Mai 2025 und Zeit für eine neue Folge von "Was mit Medienerziehung", dem Podcast von smiley e.V.. Mein Name ist Moritz Becker und mir gegenüber sitzt ein - ich muss ganz ehrlich sagen gar nicht so ausgeschlafener Kollege Ralf Willius.

Ralf: Guten Morgen von meiner Seite. Und ja, ich habe schlecht geschlafen. Ich habe mir... irgendwie habe ich mich verlegen und mein Rücken und wenn ich meinen Kopf weiter als so.

Moritz: Aber wir sind kein Gesundheitspodcast, sondern der Podcast zum Thema Medienerziehung, in dem wir uns über unsere Erfahrungen aus Workshops mit Schulklassen, Veranstaltungen mit Eltern und Fachkräften austauschen und so alle 14 Tage am Medienerziehungsmontag eine Folge zum Thema Medienerziehung veröffentlichen.

Ralf: Und dieser Podcast wird gefördert von Aktion Mensch.

Moritz: Und weil wir Menschen sind, ist auch immer mal Zeit und Raum für die menschlichen Themen. Von daher ist es schon okay, dass du hier von deinen Rückenbeschwerden berichtest.

Ralf: Ich bin mir sicher, einige Hörerinnen und Hörer wissen, wovon ich hier spreche.

Moritz: Jetzt aber genug. Mensch, kommen wir zu unserem Podcast.

Ralf: Und somit zu der Frage, die ich immer stelle. Gibt es Rückmeldungen zu der letzten Folge?

Moritz: Ja, es gab viele Rückmeldungen zu den beiden letzten Folgen, als es darum ging, ob in Schulen die private Smartphonenutzung verboten werden sollte oder nicht. Und ich habe mir überlegt, dass wir da noch ein bisschen warten und noch mehr Rückmeldungen sammeln und die dann gemeinsam diskutieren. Und von daher komme ich heute direkt zum Thema: Wir haben darüber gesprochen bzw. du hast das Thema gestern angeregt und ich finde es wirklich ganz wichtig. Wir reden über Meta AI, der Chatbot von WhatsApp, wo man jetzt ganz unkompliziert mit künstlicher Intelligenz kommunizieren kann.

Ralf: Also bei WhatsApp gibt es seit ein paar Wochen die Möglichkeit mit einem KI Assistenten zu chatten. Die meisten Hörerinnen und Hörer werden diese Funktion vermutlich kennen.

Moritz: Also das würde ich jetzt nicht unbedingt voraussetzen. Also ich habe mit, also im Freundeskreis, mit verschiedenen Menschen gesprochen und das ist jetzt nicht so Standard.

Ralf: Okay, dann würde ich doch ein bisschen mehr dazu sagen wollen. Unten rechts taucht bei WhatsApp jetzt immer so ein Kreis auf, der ist blau oder lila, oder?

Moritz: Also so Farben.

Ralf: Genau. Auf jeden Fall sehr offensichtlich, sage ich mal und wenn du darauf tippst, kannst du mit Meta AI chatten. Das sieht erstmal aus wie ein ganz normaler Chat mit einer anderen Person. Nur dass ich eben nicht mit einer anderen Person chatte, sondern mit dem Chatbot von Meta AI. Chatbot würde ich jetzt so erklären, dass man im Prinzip sich um einen Chat handelt, der auf den ersten Blick wie ein normaler Chat aussieht, aber ich nicht mit einer Person schreibe, sondern da sitzt kein Mensch, sondern eine künstliche Intelligenz, die in der Lage ist, in Alltagssprache auf das zu antworten, was ich halt so frage.

Moritz: Ja.

Ralf: Und das funktioniert jetzt im Prinzip genauso wie bei Chat GPT. Du kannst Fragen stellen, wie meinetwegen: Wie heißt die Landeshauptstadt von Niedersachsen oder meinetwegen wie sage ich geschickt meinen Zahnarzttermin ab oder so?

Moritz: Das ist ja ein geiles Beispiel.

Ralf: Es war jetzt ja nur irgendein Beispiel.

Moritz: Aber sehr typisch. Genau solche Sachen brauchst du ja.

Ralf: Du kannst auch einfach eine Nachricht, die zu lang ist, entsprechend kürzen lassen, Texte in andere Sprache übersetzen. So wie ich vorhin schon gesagt habe, finde ich, dass vieles, was man sonst vielleicht mit Chat GPT macht, würde, auf diese Art und Weise direkt mit WhatsApp gemacht werden.

Moritz: Ah, okay.

Ralf: Und wenn du jetzt eine Nachricht geschrieben hast und denkst, der Text ist irgendwie zu lang oder nicht offiziell genug, dann hätte man früher das rauskopieren müssen zu Chat GPT, bearbeiten, wieder zurück.

Moritz: Wie sage ich meinen Zahnarzttermin ab?

Ralf: Genau das geht auf diese Weise viel, viel praktischer und wahrscheinlich auch viel, viel schneller.

Moritz: Bei Facebook und Instagram wird dieser Chatbot auf ähnliche Art und Weise angeboten, ist aber aus meiner Wahrnehmung für Kinder und Jugendliche eigentlich nur bei WhatsApp so relevant.

Ralf: Ja, was ich an dieser Stelle noch viel wichtiger finde, ist zu sagen, dass man zwar den ganzen Chat löschen kann oder archivieren, aber diese Funktion nicht deaktivieren kann.

Moritz: Genau. Du kriegst diesen Kreis, von dem wir nicht wissen, welche Farbe er hat. Der bleibt immer da unten links, rechts, rechts. Was aber zumindest noch ganz kurz der Vollständigkeit halber jetzt bei meinem Smartphone ich glaube generell in Deutschland nicht geht, ist das Generieren von Bildern oder Videosequenzen. Solche Tools sind in Planung bzw. zu erwarten oder auch in anderen Ländern schon möglich. Geht halt nur so.

Ralf: Ich habe ehrlich gesagt noch gar nicht wirklich damit gearbeitet.

Moritz: Ich habe ein bisschen rumgetestet und würde sagen, das gibt meistens also zumindest auf meine Fragen oder Anliegen die besseren Antworten hatte. Außerdem hatte ich mehrere Male dann so nicht vollständige Antworten, also, die mitten im Satz aufhörten. Aber ich will jetzt gar nicht unbedingt darüber sprechen, ob Meta AI besser ist als Chat GPT. So auf dieser, sagen wir mal inhaltlichen Ebene, sondern darüber, was generell bei der Benutzung beachtet werden sollte.

Ralf: Ich sag mal, im Prinzip ist ja deine Vorgehensweise immer erstmal zu überlegen, warum darf ich Sachen kostenlos nutzen bzw. womit bezahle ich dann, wenn ich kein Geld zahle.

Moritz: Genau. Ich freue mich, Ralf. Warum ist das alles kostenlos? Was haben die davon? Genau. Und ich denke, dass du bei der kostenlosen Version von vielen KI-Tools, so sagen wir mal so ein bisschen durch die Nutzung den Anbietern mehr oder weniger direkt mitteilst, was du mit der KI machen möchtest. Und auf diese Art und Weise hilfst du im Prinzip die, das Angebot zu präzisieren oder in vielen Fällen dann auch die KI zu trainieren. Und gleichzeitig ist es aber auch so, dass man vielleicht dann irgendwann bereit ist, einen Bezahlaccount meinetwegen bei Chat GPT einzurichten, wenn man gemerkt hat, dass die kostenlose Version schon so hilfreich ist, aber man dann doch einen größeren Leistungsumfang braucht.

Ralf: Ja, aber genau das gibt es bei Meta AI nicht. Also da gibt es keine Bezahlaccounts.

Moritz: Also der Mutterkonzern von Facebook, Instagram und WhatsApp stellt das Tool vollständig kostenlos zur Verfügung. Und hier bezahlst du wahrscheinlich, sage ich mal jetzt ganz vereinfacht so wie bei der Nutzung von WhatsApp grundsätzlich auch, mit deinen Daten.

Ralf: Ja, aber bei Chat GPT doch auch.

Moritz: Ich glaube, dass die Kombination aus den Daten, die beispielsweise WhatsApp sowieso schon von dir hat, kombiniert mit dem, was du dann in dieser diesem Chatbot verrätst, das noch mal eine ganz andere Dimension hat.

Ralf: Okay, nehmen wir mal an, ich hätte Rückenprobleme.

Moritz: Das ist nicht zu verheimlichen.

Ralf: Wenn ich jetzt bei Chat GPT beschreibe, welche Schmerzen ich habe und wissen möchte, welche Übungen da hilft, dann weiß Chst GPT, dass ich Rückenprobleme habe. Und wenn ich das ganze mit der WhatsApp Meta KI mache, dann weiß es eben nicht nur Chat GPT, sondern auch der Meta Konzern. Ja, aber wo ist da der große Unterschied?

Moritz: Also wenn du Rückenprobleme hast, dann sollst du das vorhin nicht in einem Podcast erzählen. Also um Datensparsamkeit.

Ralf: War nur ein Beispiel. Außerdem geht es schon ein bisschen besser.

Moritz: Das habe ich auch gerade gedacht.

Ralf: Ja.

Moritz: Aber mal im Ernst: Weiß Chat GPT wer du bist?

Ralf: Na ja, Chat GPT kennt meine E-Mail-Adresse, mit der ich mich registriert habe und meinen Benutzernamen.

Moritz: In meinem Fall noch die Telefonnummer, die ich angegeben habe.

Ralf: Muss man die angeben?

Moritz: Ich will jetzt nichts Falsches sagen. Also ich habe mich damals bei OpenAI mit der Telefonnummer registriert und das ist so gesehen in meiner Accountverwaltung hinterlegt, also habe ich. Aber ich bin mir sehr sicher.

Ralf: Die Smartphone-App hat glaube ich oder bin ich mir auch ziemlich sicher Zugriff auf die Geräte ID und wenn ich nicht gesperrt habe auch den Standort.

Moritz: Also kurz gesagt und das ist das, was ich mir überlegt habe, wenn du jetzt eine extra E-Mail-Adresse eingerichtet hättest, die du oder vielleicht hast du das ja, die du nur für Chat GPT benutzt und sonst noch nirgendwo und dann meinetwegen per WLAN kommunizierst und so eine IP-Adresse von einem ganzen Netzwerk übermittelt. Dann kannst du, wenn man dann über deine Rückenschmerzen nachdenkt, nicht so ohne Weiteres aus diesen Datensätzen rekonstruieren. Ralf Willius hatte im Mai 2025 Interesse an Rückenschmerzen.

Ralf: Okay, ich verstehe, worauf du hinaus willst. Ich meine, du kannst ja Chat GPT auch komplett ohne Registrierung nutzen.

Moritz: Ja, ja, klar. Genau. Also das geht auch. Dann hast du zwar keinen Verlauf über die einzelnen Themen, also die werden da nicht gespeichert, aber du kannst auf diese Art und Weise kostenlos mit noch weniger Datenspuren Chat GPT nutzen.

Ralf: Okay, und dadurch, dass WhatsApp bzw Meta viel mehr über seine User weiß, entsteht hier unter Umständen eine viel konkretere Datensammlung.

Moritz: Ja, und ich stelle mir vor, dass aus irgendwelchen Gründen irgendjemand Zugriff auf die Datensammlung von OpenAI hat.

Ralf: Also der Betreiberfirma von Chat GPT.

Moritz: Genau. Also das wäre dann meinetwegen in meinem Fall vermutlich die große Schwachstelle meine Handynummer. Also man könnte jetzt gucken, ob es noch andere Datensätze im Internet gibt, wo meine Handynummer hinterlegt ist. Dann könnte man wahrscheinlich irgendwie schon meinen Klarnamen ermitteln und eine Kombination herstellen zu dem, was ich dann bei Chats gemacht habe.

Ralf: Dabei gehst du jetzt von irgendwelchen Hackern oder so aus.

Moritz: Oder Hackerinnen.

Ralf: Oder Hackerinnen.

Moritz: Also ich bin sicher, da gibt es einige, die versuchen genau an diese Daten zu kommen.

Ralf: Ja, wahrscheinlich.

Moritz: Und jetzt ist es so, dass WhatsApp bzw. Meta von vornherein viel mehr über dich weiß als Chat GPT.

Ralf: Klar, aber das, was ich inhaltlich chatte, das ist ja verschlüsselt.

Moritz: Genau. Das heißt, wenn du mir jetzt bei WhatsApp schreibst, lieber Moritz, ich habe Rückenschmerzen, was würdest du an meiner Stelle tun? Dann ist dieser Text bei WhatsApp verschlüsselt. Das heißt, WhatsApp weiß nur, dass du mit mir gechattet hast, aber die wissen nicht, über welche Inhalte wir gechattet haben.

Ralf: Okay, ich verstehe jetzt. Und das genau ist bei einem Chatbot bei Meta anders.

Moritz: Das wird unverschlüsselt gespeichert.

Ralf: Das heißt, um genauso sicher mit einer künstlichen Intelligenz von WhatsApp zu kommunizieren, bräuchte ich ja was bräuchte ich da eigentlich?

Moritz: Eine spezielle Handynummer, die du nur dafür verwendest?

Ralf: Und da frage ich mich, ob es diesen Aufwand wert ist und dann nicht vielleicht gleich zu Chat GPT zu gehen.

Moritz: Und das ist der Punkt, über den wir mit Schulklassen vielleicht noch viel mehr diskutieren sollten. Wir diskutieren schon viel über Datenschutz, das spielt immer eine Rolle.

Ralf: Also im Prinzip diskutieren wir mit Schulklassen darüber, dass die Chats verschlüsselt sind.

Moritz: Wir reden über Ende-zu-Ende-Verschlüsselung.

Ralf: Und da nicht mitgelesen werden kann.

Moritz: Ich glaube, dass eine große Sorge, die oft so unterschwellig durchklingt, ist, dass dieser Chatbot oder Meta AI jetzt alle möglichen Chats durchsuchen kann. Also das ist nicht so, das finde ich ganz wichtig. Ich finde aber wichtig, dass klar ist, dass diese Ende-zu-Ende-Verschlüsselung eben nicht in dem KI-Chat stattfindet. Also das heißt, überall hast du die Ende-zu-Ende-Verschlüsselung. Was einem natürlich ein großes Gefühl von Sicherheit vermittelt. Aber wenn du jetzt tatsächlich einen neuen Chat startest, mit dieser, dieser, dieser Meta AI, dann steht da und ich kann dir das vorlesen, ich habe das genau, ich lese dir das mal vor. Hier steht Teile keine Informationen, insbesondere zu sensiblen Themen über Dritte oder dich selbst, von denen du nicht möchtest, dass die KI sie speichert und verwendet. Meta teilt Informationen mit ausgewählten Partnern, damit Meta AI relevante Antworten liefern kann. Das heißt, hier steht schwarz auf weiß. Weil ehrlich gesagt eher dunkelgrau auf hellgrau, dass sensible Daten hier nicht hingehören.

Ralf: Dann sollte ich also Tipps für meine Rückenbeschwerden tatsächlich eher mit einer neutralen E-Mail-Adresse bei Chat GPT besprechen.

Moritz: Genau.

Ralf: Oder eben ganz ohne Account. Das geht ja auch.

Moritz: Zumindest ist es da nicht ganz so riskant.

Ralf: Okay, und was bedeutet das jetzt für Kinder und Jugendliche? Was muss da diskutiert werden?

Moritz: Also ich finde, dass wir berücksichtigen müssen, dass Menschen in der Pubertät noch viel intimere Fragestellungen quälen als die meisten Erwachsenen, so glaube ich. Jetzt mal ganz platt. Also Kinder und Jugendliche machen sich Gedanken zu ihrer sexuellen Orientierung, religiöse Fragen, Fragen zu Leben und Tod zu. Ja, von mir aus auch selbstverletzendes Verhalten, zu Essstörungen.

Ralf: Und da bin ich mit meinen Rückenschmerzen ja noch ganz gut dran.

Moritz: Du, erinnerst du dich, was man für eine Welle gemacht hat wegen irgendwelchen Saufbildern oder so bei StudiVZ und SchülerVZ früher?

Ralf: Ja und die Sorge, dass diese Daten vielleicht irgendwann dann wieder auftauchen können, beispielsweise in einem Bewerbungsverfahren und dann sicherlich auch zum Nachteil sich auswirken können.

Moritz: Ich glaube, dass diese Sorge zum großen Teil damals übertrieben war. Also vieles von dem Datenmüll von damals ist zumindest in meiner Wahrnehmung nicht wieder aufgetaucht. Also von daher kann es sein, dass meine Sorge hier bezogen auf WhatsApp auch zu groß ist.

Ralf: Bei Snapchat gibt es My AI. Das ist im Prinzip die genau gleiche Funktion.

Moritz: Die gibt es schon viel länger.

Ralf: Ja, genau. Ich erlebe die Schülerinnen und Schüler in Klassen hier als er genervt sage ich mal ich glaube, dass sie eher aus Langeweile, aus Langeweile mit My AI chatten, aber das nicht wirklich zielführend nutzen, sage ich mal. Dann und wann erzählt mal ein Schüler. Ja, ist ganz gut für Mathehausaufgaben oder Gedichtsinterpretation oder so.

Moritz: Ja, also ich finde wichtig, also jetzt gar nicht, um das jetzt irgendwie zunnötig zu problematisieren. Ich finde wichtig, dass einem selber klar sein muss, wenn ich das nutze, dass es da eine Datensammlung auf der Welt gibt, in der zu meiner Telefonnummer und sehr wahrscheinlich auch zu meinem Rufnamen bzw. meinem Klarnamen ganz dezidiert steht, welche Fragen ich die KI zu einem ganz bestimmten Thema wann gestellt habe. Und ich habe mal geguckt, was ich in den letzten Wochen alles mit Chat GPT so geklärt habe. Und ich würde sagen, dass das meiste davon jetzt nicht wirklich problematisch wäre, wenn es öffentlich einsehbar wäre. Also es wäre mir unangenehm, aber nicht wirklich dramatisch.

Ralf: Ja, aber Moritz, du weißt doch gar nicht, was andere Leute vielleicht problematisch finden, was du so machst.

Moritz: Ja, das kann natürlich sein. Nein, ich meine jetzt einfach so Dinge, die. Das sind ja Geschmacksfragen. Also ich meine jetzt so so Dinge, die ganz offensichtlich einen angreifbar machen. Also zum Beispiel wollte ich wissen, wie hoch das Bußgeld ist, wenn der TÜV von meinem Auto zwei Monate abgelaufen ist. Und das impliziert ja schon, dass ich mit Vorsatz ohne TÜV mit meinem Auto herumfahre. Und in der Polizeikontrolle würde ich wahrscheinlich jetzt so tun, als hätte ich gar nicht gewusst, dass mein Auto überhaupt zum TÜV muss.

Ralf: Das hättest du ja auch mich fragen können. Also ich glaube zwei Monate, das ist total okay. Das zahlt, so glaube ich, noch nichts. Ab drei wird's kritisch.

Moritz: Ja, aber ich muss ja immer eine Entscheidung treffen, wenn ich etwas wissen will. Ist es peinlicher, dass Chat GPT jetzt weiß, was für mich wichtig ist. Also in diesem Fall der abgelaufene TÜV oder ob du es weißt. Das heißt, ich muss entscheiden, was die Informationen von über mich in Big Data oder bzw. im Internet angeht. Wäre es besser, wenn das nicht im Internet gespeichert wäre, sondern wenn ich dich gefragt hätte.

Ralf: Dann wäre in meinem, also meinem Gehirn gespeichert, dass du wissen willst, wie riskant es ist, mit einem illegalen Kraftfahrzeug herumzufahren, sage ich mal, und das wäre vielleicht besser, wenn nur ich das weiß und nicht eine Datensammlung, die im worst case in den Besitz von irgendwelchen Hackern kommt.

Moritz: Oder Hackerinnen.

Ralf: Oder Hackerinnen.

Moritz: Also ich finde es einfach viel praktischer, schnell Chat GPT zu fragen, als dich jetzt anzurufen bei so einer Frage mit dem TÜV. Und das ist genau der Punkt bzw. die Sorge, die ich mir mache. Wir thematisieren in Schulklassen, dass sehr persönliche Fragen, idealerweise nicht per WhatsApp und KI geklärt werden.

Ralf: Und sogar WhatsApp weist darauf hin, dass genau das nicht passieren soll.

Moritz: Und weil es für mich aber viel praktischer ist, Chat GPT zu benutzen, als deine Expertise anzufragen, benutze ich dann doch Chat GPT.

Ralf: Datenschutz ist immer umständlich, glaube ich.

Moritz: Also zumindest in diesem Fall. Also im Falle von KI. Also weil KI einfach sehr praktisch ist. Und was wir, glaube ich mit Kindern und Jugendlichen diskutieren müssen, ist, dass man unter Umständen durch die Bequemlichkeit verleitet wird, Dinge dann doch mit der WhatsApp KI zu klären, die aber eigentlich viel besser per Chat GPT mit einem möglichst neutralen Account geklärt werden sollten. Oder noch besser Du öffnest in deinem Browser ein privates Fenster, verwendet GPT ohne Registrierung. U nd jetzt kann es natürlich sein, dass über die IP Adresse und sonstwelche Angaben dann auch irgendwelche Rückschlüsse möglich sind. Aber zumindest ist es schon wesentlich datensparsamer aber unpraktisch. Und wenn du sowieso schon gerade WhatsApp benutzt, weil du mit anderen Leuten über irgendwas geschrieben hast, dann.

Ralf: Ich finde das total spannend, diese Diskussion. Und ich glaube, ich werde das in den nächsten Schulklassen einfach mal besprechen. Also eigentlich möchte ich erstmal wissen, ob die das überhaupt nutzen die Schülerinnen und Schüler, also diese Meta KI.

Moritz: Nutzen Menschen mit echter Intelligenz die künstliche Intelligenz von Meta AI bei WhatsApp, auch wenn wir eigentlich datensparsam leben wollen.

Ralf: Also im Ernst ich glaube, dass diese Meta KI für ganz einfache Fragen schon hilfreich und oder praktisch ist.

Moritz: Dein Beispiel mit der Frage Wie sage ich einen Zahnarzttermin ab zeigt, wie fließend die Grenze verlaufen kann zwischen Kommunikation und dann mal eben die Kommunikation mit KI optimieren und das alles in einer App.

Ralf: Ich denke, was ganz wichtig an dieser Stelle ist, dass viele Kinder und auch Jugendliche also Chat GPT gar nicht kennen.

Moritz: Zumindest die jüngeren.

Ralf: Ja für die ist Meta AI vielleicht, ich sage mal so der erste Berührungspunkt in dieser Form mit künstlicher Intelligenz.

Moritz: Ja, also ich glaube, es geht jetzt nicht darum zu sagen, dass Chat GPT total super ist. Also ich glaube, es geht nur darum, dass man Chat GPT datensparsamer nutzen kann. Und ich glaube schon, dass es so ist, dass viele Kinder dann sagen wir mal so einen Chatbot bei WhatsApp kennenlernen und dann sind sie neugierig, so wie du das auch für My AI von Snapchat gesagt hast. Die probieren dann irgendwie rum und stellen dann irgendwann fest, wie mächtig oder hilfreich dieses Tool ist oder erleben es zumindest dann bei verschiedenen Fragestellungen als hilfreich, weil sie da gute Antworten bekommen. Und dann liegt es nahe, dass sie dann das Ganze auch mit sehr privaten Fragestellungen machen. Wenn Sie dann wirklich mal was wissen wollen wie meinetwegen. Ja, schon wieder. Meinetwegen die Frage nach der sexuellen Orientierung oder so.

Ralf: Aber genau das müssen Eltern dann heutzutage bedenken, wenn sie ihren Kindern Zugang zu WhatsApp geben.

Moritz: Und da finde ich es sehr ärgerlich, dass es nicht möglich ist, diese KI einfach zu deaktivieren. Also dadurch, dass dieser Kreis da unten immer so aufdringlich zu sehen ist, verleitet er unter Umständen permanent dazu, benutzt zu werden. Und das ist ja wahrscheinlich auch der Hintergrund. Und Eltern könnten sich ja sonst mit ihren Kindern darauf einigen, dass man einfach sagt, komm, diese Funktionen, die machen wir einfach weg. So, und das geht eben nicht. Und ich hatte gelesen, in den USA gab es Experimente, dass es irgendwie möglich war, erotische Chats mit dieser KI zu führen, was dann wirklich auch nicht mehr kindgerecht ist oder wirklich auch problematisch. Ich weiß nicht, wie realistisch das ist, dass das Kindern passiert oder ob man da sehr gezielt vorgehen muss, um die KI in diese Richtung zu ja wie soll man sagen manipulieren?

Ralf: Ja, was ich gelesen habe ist, dass das bei Tests in deutschen Chats allerdings jetzt nicht zu anzüglichen Nachrichten kam.

Moritz: Ja, das musst du mir mal schicken. Also in Deutschland ist ja zumindest die Möglichkeit, Bilder mit KI generieren zu lassen bei WhatsApp noch nicht möglich. Und ich habe da immer so im Sinne von Jugendgefährdung gedacht, dass das dann vielleicht möglich ist, irgendwelche grenzwertigen Bilder generieren zu lassen, die dann pornografisch sein können oder so. Also ich finde das auf jeden Fall ganz interessanten Punkt zu überlegen, an welcher Stelle auf inhaltlicher Ebene KI in so einem Dialog für Kinder und Jugendliche ein Problem sein können. Also bisher habe ich so den oder das ist auch oft so, wenn du das liest, dann wird immer betont, wie wichtig ist, dass Kinder lernen, dass das, was die KI dann schreibt oder empfiehlt, nicht zu 100 % richtig sein muss oder auch nicht zu 100 % moralisch oder ethisch einwandfrei sein muss.

Ralf: Moralisch und ethisch. Wann spielen solche Fragestellungen denn eine Rolle?

Moritz: Stell dir mal vor, ein Kind hat Ärger mit anderen Kindern und stellt jetzt eine Frage im Sinne von "Wie soll ich mich wehren, wenn andere über mich lachen" oder so? Ich kann mir vorstellen, dass das, was einem die KI dann empfiehlt, nicht unbedingt das ist, was immer zielführend ist, wenn es darum geht, Konflikte zu lösen?

Ralf: Ja, spannend. Soll ich zurückschlagen, wenn ich auf dem Schulhof geschlagen werde? Zum Beispiel.

Moritz: Es gibt Eltern, die würden sagen Ja.

Ralf: Ich würde sagen...

Moritz: Warte mal! Warte, ich frag Chat GPT

Ralf: Okay.

Moritz: Ist es legitim, zurückzuschlagen, wenn man als Kind in der Schule geschlagen wird? Warte...

Ralf: Ich bin gespannt.

Moritz: Ach du Scheiße. Das ist sehr lang. Also, die Antwort ist. Das ist eine sehr ernste und wichtige Frage. Und sie berührt sowohl moralisch als auch praktische Ebenen. Ähm. Ich lese. Ich lese mal nicht komplett vor, aber auf den ersten Blick finde ich es eigentlich ganz cool hier. Am Ende sagt Chat GPT, das Beste ist eigentlich immer Unterstützung von Erwachsenen, Klammer auf, Lehrern, Eltern, Sozialarbeitern, Klammer zu, zu holen, bevor es soweit kommt.

Ralf: Aber das bedeutet, dass Kinder zum einen sensibilisiert werden sollten, was Datenschutz angeht und zum anderen natürlich die Richtigkeit bzw. Fehleranfälligkeit von KI zu berücksichtigen.

Moritz: Genau. Wobei Fehleranfälligkeit. Also man muss halt sagen, das hat kein Mensch so oder das ist halt nicht - kein Sozialarbeiter, Sozialarbeiterin oder so und im Sinne von Begleitung fände ich es schön, wenn Kinder die Möglichkeit haben, auch mit ihren Eltern zusammen, meinetwegen auch die Meta AI von WhatsApp zu nutzen. Und Eltern können dann einfach so ganz pragmatisch im Alltag auch mal sagen, in bestimmten Situationen dann vielleicht auch nicht damit zu arbeiten. Also dass man sagt, diese Frage finde ich jetzt ein bisschen zu privat für WhatsApp, also weil da wird es gespeichert bla bla bla, also unverschlüsselt und lass uns lieber einen anderen Dienst nutzen.

Ralf: Das wäre auf jeden Fall hilfreich oder zielführender, als das auf Teufel komm raus zu vermeiden.

Moritz: Weil es halt da ist. Also ich glaube schon.

Ralf: Aber lass uns mal kurz zusammenfassen, was wir hier diskutiert haben. Ich sage mal, grundsätzlich ist es so, dass Chatbots eine praktische Erfindung sind.

Moritz: Ja.

Ralf: In vielen Alltagsfragen durchaus hilfreich sind und vermutlich deshalb auch von Kindern und Jugendlichen intensiv genutzt werden.

Moritz: Genau. Unter Umständen teilt man einem künstlichen Chatbot durch sehr intime Fragen viel mehr Persönliches mit, als man das in manchen Chats mit echten Menschen tun würde. Und in den letzten Jahren hat sich bei Messengern eine Ende-zu-Ende-Verschlüsselung durchgesetzt, die dazu führt, dass die Anbieter von Messengern keine Inhalte der Chats speichern und auswerten können.

Ralf: Und genau das ist bei Chatbots anders und stellt bei entsprechend unvorsichtiger Nutzung dann unter Umständen eine Sicherheitslücke dar.

Moritz: Ja und wie groß das Problem ist oder ob es überhaupt eine Sicherheitslücke ist, ist für uns beide zum jetzigen Zeitpunkt wahrscheinlich schwer zu beurteilen. Es entsteht zumindest eine Datensammlung, die unter Umständen gegen die Interessen der Nutzerinnen und Nutzer verwendet werden kann.

Ralf: Ja, wenn auf einmal klar ist, dass du ganz genau wusstest, dass man mit einem Auto ohne TÜV nicht fahren darf.

Moritz: Also Kinder und Jugendliche sind hier vielleicht noch gefährdeter als Erwachsene, die dann nicht so anlegen wie ich mit dem TÜV, sondern halt meinetwegen so Pubertätsfragen, die dann ja, was sind die eigentlich?

Ralf: Ja, darüber bin ich dann auch gestolpert, als du zum Beispiel über sexuelle Orientierung gesprochen hast. Eigentlich dürfte es doch in einer aufgeklärten Welt, ich sag mal, kein Problem sein, wenn ein Chatbot weiß, dass ich mit 13, 14 Fragen über Sexualität mir gestellt habe.

Moritz: Das würde ich ganz genauso sehen. Ich stelle mir nur immer vor, jetzt kommt jemand an den kompletten Datensatz, meinetwegen von Chat GPT.

Ralf: Also irgendwelche Kriminellen, vielleicht Hacker oder Hackerinnen.

Moritz: Oder eine Regierung. Also stell dir vor, eine Regierung schafft es, die Gesellschaft davon zu überzeugen, dass es zur Verbrechensbekämpfung sinnvoll ist, in entsprechenden Datensätzen nach Verdächtigen zu suchen.

Ralf: Das heißt, wenn in Chatverläufen irgendwie anhand des was sie schreiben, herausgefunden werden kann, dass zum Beispiel Straftaten geplant werden. Das ist ja auch nicht völlig abwegig.

Moritz: Was ist nicht völlig abwegig.

Ralf: Also die Gesellschaft davon zu überzeugen?

Moritz: Ach so, ich dachte ja, ich glaube, dass du auf diese Art und Weise Kriminelle entdecken kannst. Das, glaube ich, ist sehr, sehr. Also das ist ganz offensichtlich. Also wenn irgendwo ein Attentat stattfindet, dann findet man hinterher oft raus, dass die Täter...

Ralf: Oder Täterinnen.

Moritz: Es sind aber fast immer Täter.

Ralf: Ja, ich habe noch mal darauf geachtet, dass ich auch.

Moritz: Frag doch mal eine KI, wie viele weibliche Personen schwere Attentate verüben. Also Prozentual sind es nicht so viele, aber von mir aus dann auch Täterinnen, klar. Auf jeden Fall wird hinterher oft klar, was dann im Vorhinein mit beschlagnahmten Laptops gegoogelt wurde oder auch, welche offensichtlichen Datenspuren online im Nachhinein auf das Attentat hingewiesen haben. Und wenn...

Moritz: Okay. Wenn jetzt beispielsweise ich etwas gegen Kindesmissbrauch unternehmen möchte, dann könnte sie eine Auswertung vorab dieser Chatbots unter Umständen dann präventiv sein.

Moritz: Genau. Ich kann mir vorstellen, dass gerade bei so einem emotionalisierenden Thema wie Kindesmissbrauch die Gesellschaft dann zum Zugriff auf die entsprechende Datensammlung dann auch gut finden würde. Und jetzt wird dieses Rechtssystem übernommen von einer vielleicht totalitären Regierung, also irgendwelche Faschisten, die dann vielleicht auch freiwillig gewählt werden in einer Demokratie. Und die kommen dann und beschließen das auf einmal ganz unverfängliche Sachen, die jetzt völlig in Ordnung sind, auf einmal ein Problem sind im Hinblick auf sexuelle Orientierung oder so, dann können die mit diesen Daten Menschen unter Druck setzen und da also also da müssen wir auch in dem Zusammenhang drüber sprechen mit Kindern und Jugendlichen in der Schule oder auch Eltern mit Kindern. Aber das geht zu weit.

Ralf: Ich merke gerade, wir sind kommen so ein bisschen vom Thema ab, bzw. haben nicht das gemacht, was wir eigentlich machen wollte. Also eigentlich wollten wir eine kurze Zusammenfassung.

Moritz: Genau. Also ganz knapp ist es nachvollziehbar, dass Kinder und Jugendliche KI Chatbots nutzen wollen, also dass sie gegebenenfalls auch sehr private Anliegen dort besprechen und klären wollen und.

Ralf: Dass sie deshalb darauf angewiesen sind zu wissen, wie man möglichst datensparsam diese KI nutzt.

Moritz: Also für die sehr wichtigen Themen vielleicht nicht die Meta AI bei WhatsApp, sondern vielleicht lieber Chat GPT ohne Account im privaten Modus im Browser.

Ralf: Ja, und das ist 100 % sichere Nutzung zurzeit vermutlich nicht gibt.

Moritz: Weshalb man für manche Themen vielleicht dann doch lieber einen Menschen fragt, dem man vertraut oder sich anderweitig informiert. Wie auch immer.

Ralf: Ja, und das ist eine wohlwollende Begleitung durch Eltern und Schule konstruktiver ist als die Möglichkeit von KI komplett zu ignorieren.

Moritz: Und dass es mich total ärgert, dass ich diesen komischen Kreis nicht weg wegbekommen.

Ralf: Ja, WhatsApp ist halt nicht einfach nur ein Messenger.

Moritz: Sondern...

Moritz: Vielleicht auch wieder ein Argument dafür, wie großartig Signal ist. Da gibt es keine komischen Kreise, keine Channels.

Ralf: Vielleicht sollten wir mal wieder eine Folge über Signal machen oder andere alternative Messenger.

Moritz: Das können wir machen. Das ist auch eine gute Überleitung zum nächsten Thema, das ich mit dir besprechen möchte.

Ralf: Aber wir sind eigentlich schon am Ende unserer Sendung angekommen.

Moritz: Ja, aber es darf nicht unerwähnt bleiben, dass Skype abgeschaltet wird.

Ralf: Ja, stimmt, ich glaube sogar heute noch.

Moritz: Ja, und Skype wird eingestellt und alle Accounts können weiter mit Microsoft Teams benutzt werden. Und ich...

Ralf: Ich weiß gar nicht, wie viele Menschen Skype noch nutzen.

Moritz: Also das weiß ich auch nicht. Aber ich erinnere mich noch, wie begeistert ich war, als Skype vor 20 Jahren kam. Und du konntest mit, also per Webcam mit anderen Leuten kommunizieren. Und auch damals gab es große Bedenken wegen Datenschutz oder Jugendschutz.

Ralf: Ich erinnere mich an Geschichten, wo Eltern, die dann einfach so ins Kinderzimmer gegangen sind, auf einmal Teil einer Videokonferenz waren zu einem Zeitpunkt, als sie gar nicht wussten, dass so was überhaupt geht.

Moritz: Und spätestens mit Corona haben dann auch Generationen die Videochats und sowas vorher komplett abgelehnt haben, die Vorzüge dieser Kommunikationsform lieben gelernt und auf einmal begannen Großeltern mit ihren Enkelkindern zu skypen.

Ralf: Ja, wobei ich, da würde ich eher zoomen. Also ich glaube das da eher Zoom.

Moritz: Ja, aber zu Beginn von Corona zumindest in meiner Wahrnehmung haben einige Leute dann ihre alten Skype Accounts auf einmal wieder reaktiviert. Aber du hast recht, Skype war da eigentlich schon gar nicht mehr so relevant. Aber trotzdem wollte ich noch mal kurz traurig sein, dass es diesen Dienst dann nicht mehr gibt.

Ralf: Gut, dann sind wir einmal ganz kurz traurig.

Moritz: Waren wir jetzt. So und der letzte Punkt, den ich ansprechen möchte, ist eine Millionen-Strafe für TikTok.

Ralf: Lass mich raten, es geht um Datenschutz-Verstöße.

Moritz: Und passt deshalb durchaus zu unserem Thema. Also Tiktok hat gegen die Datenschutzgrundverordnung in Europa verstoßen, weil das Unternehmen europäische Nutzerdaten wohl nach China weitergeleitet hat. Es wurde wohl auch gegen Transparenz-Anforderungen der EU verstoßen, so dass jetzt eine Strafe von 530 Millionen € gezahlt werden soll.

Ralf: Ist das viel?

Moritz: Ja, das habe ich mich auch gefragt. Also auf jeden Fall mehr als wenn du mit deinem Auto ohne TÜV herumfährst.

Ralf: Okay.

Moritz: Ich habe einfach mal die Top drei der höchsten Strafen in diesem Bereich ganz knapp zusammengetragen. Platz eins betrifft Facebook bzw. Mutterkonzern Meta.

Ralf: Das ist der Laden, über den wir hier seit ner halben Stunde reden.

Moritz: Genauso. Und die wurden zu einer Strafe von 1,2 Milliarden € verdonnert wegen der Weiterleitung von Daten in die USA. Platz zwei geht an amazon mit 746 Millionen € wegen Datenschutzverletzungen. Auf Platz drei ist Instagram bzw. wieder Meta mit 405 Millionen €. Da geht es um den Umgang mit Daten Minderjähriger im September 2021. Inwieweit diese Strafen dann tatsächlich gezahlt wurden oder ob Widersprüche geltend gemacht wurden oder ob da noch Verfahren laufen, habe ich jetzt nicht recherchiert. Aber die Strafe von 530 Millionen € reicht dann, dass TikTok in den Top drei auftaucht.

Ralf: Okay, ich hoffe, dass wir nicht irgendwann berichten müssen, dass Chat GPT bzw. OpenAI betroffen ist.

Moritz: Ja, aber weißt du nicht.

Ralf: Aber grundsätzlich zeigt das ja doch, dass Datenschutz weiterhin ein wichtiges Thema ist.

Moritz: Ja und was ich mich immer so frage ist also es wird ja oft gesagt, dass in Europa kannst du eigentlich nicht vernünftig mit KI und was weiß ich was arbeiten, weil die Datenschutzbedenken so krass sind, dass dann Innovationen nicht möglich sind. Und wie gesagt, auch über Skype wurde am Anfang über Datenschutz diskutiert und im Nachhinein muss ich sagen vielleicht auch gut, dass Skype sich doch durchsetzen konnte, weil jetzt auf Videochats würde ich jetzt nicht verzichten wollen. Deshalb ist halt irgendwie immer so Innovation auf der einen Seite, Datenschutz auf der anderen Seite.

Ralf: Und ja, das gleiche gilt ja für Chatbots. Also, ich möchte nicht darauf verzichten.

Moritz: Ja genau. Obwohl, irgendwie. Ach naja, wir haben mal wieder eine schöne Folge zu dem Spagat zwischen praktisch und bedenklich produziert und der Weg liegt wie immer irgendwo dazwischen.

Ralf: Genau. Und damit würden wir zum Schluss kommen und ich sage wie immer vielen Dank fürs Zuhören. Wir freuen uns über Rückmeldungen an podcast@smiley-ev.de.

Moritz: Über unsere diversen Social Media Kanäle, die unter smiley-ev.de zu finden sind.

Ralf: Und sagen: Bis zum nächsten Mal auf Wiederhören.

Moritz: Tschüss! Ralf. Es tut mir leid, dass ich das mit deinen Rückenproblemen jetzt hier in unserem Podcast so.

Ralf: Ist schon ein bisschen besser geworden.

Moritz: Nein, ich meine, weil das ist schon doof, dass das jetzt hier so auftaucht.

Ralf: Ja, da bin ich schmerzbefreit...

Moritz: Du hast Rückenschmerzen, aber schmerzfrei werden wir hier öffentlich drüber reden.

Ralf: Im Alltag, das kennen unsere zu Zuhörerinnen und Zuhörer.

Moritz: Dann leg dich aufs Sofa oder keine Ahnung.

Ralf: Ja, stehen ist am besten.

Moritz: Dann ist doch schön. Wenn du Eltern-Veranstaltungen hast, kannst du schön rumstehen. Rücken. Freundliches Arbeiten. Mach's gut. Ciao.