Spotlight Community #12 Deep Dive Deepfakes

Ist KI fair? Denkt KI wie ein Mensch? Und welche Regeln gelten für Mensch und Maschine? Diese und weitere Fragen treiben Jugendliche um, wenn es um das Thema Künstliche Intelligenz geht. Und wir wollen uns den Antworten aus verschiedenen Blickwinkeln nähern: In dieser Folge sprechen wir mit sieben Expertinnen und Experten aus unterschiedlichen Bereichen wie u.a. den Geisteswissenschaften, der IT oder des Technikjournalismus. Es geht neben vielem mehr um die Entstehung von KI, mögliche Zukunftsszenarien und die übergeordnete Frage: Wie können wir im Umgangmit und trotz KI unsere Menschlichkeit bewahren?

»Wer glaubt, Deepfakes sicher mit den eigenen Sinnen erkennen zu können, wiegt sich in einer falschen Sicherheit.« Das ist nur eine der Erkenntnisse, die wir aus unserem Deep Dive in das Thema Deepfakes aus den letzten beiden Folgen mitnehmen. Wie blickt ihr als Community auf das Thema und welche Strategien und Möglichkeiten gibt es dann, KI-generierte/-manipulierte Inhalte einzuordnen? Wir blicken gemeinsam darauf! —-- Für die Förderung dieser Folge bedanken wir uns beim Hessischen Informations- und Kompetenzzentrum gegen Extremismus (HKE).

Ein Nacktbild im Netz — und nichts daran ist echt? Das mag sein. Die Folgen für die Betroffenen sind trotzdem real. Sexualisierte Deepfakes können psychisch stark belasten, selbst wenn klar ist, dass es sich um KI-manipuliertes Material handelt. Es geht um den Kontrollverlust über die eigenen Persönlichkeitsrechte, um Rufschädigung und um gezielte Einschüchterung. Und in den meisten Fällen betrifft es Frauen.

In dieser Folge tauchen wir zusammen mit der Politikwissenschaftlerin und Deepfake-Expertin Maria Pawelec vom IZEW der Universität Tübingen in die weite Welt der Deepfakes ein. Wir erläutern, was das Phänomen ist, woher es kommt und werfen einen differenzierten Blick auf Chancen, vor allem aber auf die mannigfaltigen Risiken der Technologie — insbesondere im Kontext von Desinformation. Ganz besonders im Rampenlicht aber steht eine alles entscheidende Frage: Was können wir tun, um Deepfakes möglichst nicht auf den Leim zu gehen, wenn doch die eigene Sinneswahrnehmung dank stetiger technologischer Entwicklungssprünge immer weniger ausreicht, um authentische von gefakten Inhalten zu unterscheiden? Warum der Grundsatz »Ich glaube nur das, was ich mit den eigenen Augen gesehen bzw. mit den eigenen Ohren gehört habe« bzw. das detektivische Suchen nach fehlerhaften Details eine trügerische Sicherheit schafft und was es anstelle dessen wirklich braucht — all das und vieles mehr erfahrt ihr in dieser Folge. Kleiner Teaser: Mit diesem ersten Tauchgang in das Reich der Deepfakes ist es nicht genug. In der nächsten Folge werfen wir einen spezifischeren Blick auf nicht-einvernehmliche sexualisierte Deepfakes, einer besonders verbreiteten Erscheinungsform, die uns alle betrifft — und inner- und außerhalb des Schulkontextes großes Schadenspotenzial mit sich bringt. Auch diesen zweiten Tauchgang bestreiten wir mit einer ausgewiesenen Expertin auf dem Gebiet. Für die Förderung dieser Folge bedanken wir uns beim Hessischen Informations- und Kompetenzzentrum gegen Extremismus (HKE).

It’s Quiz-Time! Angesichts der nicht enden wollenden Flut an Bildern, Videoclips und Tonaufnahmen,, die uns täglich in Social-Media-Feeds und den Weiten des Netzes begegnet, stellen sich 20 Jugendliche der Herausforderung: Schaffen sie es, KI-generierte/-manipulierte Inhalte noch verlässlich von echten Darstellungen zu unterscheiden? Wir wollen nicht zu viel verraten, aber dabei tun sich einige überraschende Erkenntnisse auf!

Die generation:ki wächst ganz selbstverständlich mit Künstlicher Intelligenz auf — sowohl im privaten Bereich als auch in der Schule gehört ihr Einsatz inzwischen zum Alltag. Doch wie reflektiert gehen Jugendliche eigentlich mit der Technologie um? In der ersten Folge »Komfort oder Kontrollverlust? Wenn Künstliche Intelligenz dein Alltag ist« richten Schülerinnen und Schüler zusammen mit uns den Blick auf den Einsatz von generativer KI im Schul- und im privaten Alltag. Dabei zeichnen wir ein Lagebild, das u. a. folgende Fragen beleuchtet: Für welche Zwecke nutzen Jugendliche generative KI alles? Wo bleibt sie außen vor? Wo können KI-Chatbots wie ChatGPT, Gemini & Co. wirklich unterstützen — und wo steht man plötzlich ohne Hilfe da oder wird sogar in die falsche Richtung gelenkt?

Nicht zuletzt die WDR-Doku »Inside Klassenchats« hat gezeigt: Immer mehr Kinder berichten von belastenden und verstörenden Inhalten im Klassenchat. Wir schauen hin: Warum reichen Regel-Plakate allein nicht aus, welche Zuständigkeiten müssen geklärt werden und welche Rolle dürfen und sollten Eltern beiin diesem Gebilde der Medienerziehung spielen?

In dieser Zusatzfolge werfen Kevin und Myrna gemeinsam einen Blick in Subreddits, die u. a. KI-Fails auf textgenerativer Basis beleuchten. Unfreiwillig komische absurde Zuordnungen treffen auf Fehlinformationen. Die Reaktionen: Eine Mischung aus Lachen, Fremdscham und kritischer Einordnung: Wo ist die Ausgabe von KI einfach nur harmlos bis peinlich und an welcher Stelle wird es für uns individuell, aber auch als Gesellschaft gefährlich?

Die Zahl jugendlicher Opfer von Cybermobbing ist in den letzten Jahren deutlich angestiegen. Europaweit ist inzwischen jedes sechste Schulkind von Cybermobbing betroffen. Wie möchte der im Kontext des diesjährigen »Safer Internet Days« vorgestellte EU-Aktionsplan gegen Cybermobbing auf diese Entwicklungen reagieren? Wir sprechen darüber, welche Ideen und Maßnahmen sich konkret dahinter verbergen und ob wir diese für vielversprechend halten. Darüber hinaus gehen wir angesichts des öffentlichen Bekanntwerdens immer weiterer besorgniserregender Fälle eurer Frage nach, wie sich die Deepfake-Technologie auf Dynamiken von Mobbing und digitaler Gewalt auswirkt.

Mobbing findet nicht nur analog im Klassenzimmer, sondern auch digital auf Social Media und im Klassenchat statt. In dieser Folge macht Anna Wagner von »Zeichen gegen Mobbing« deutlich, wie variabel Mobbing sein kann und wie wichtig es ist, Haltung zu zeigen. Dabei kommt vor allem der sogenannte No Blame Approach zum Einsatz: Statt Schuldige zu bestrafen, liegt der Fokus auf der Problemlösung, also darauf, die Situation für die betroffene Person nachhaltig zu verbessern und gefestigte Gruppendynamiken positiv zu verändern. Sich mit den betroffenen Personen solidarisieren, ihnen zeigen, dass sie nicht alleine sind, Lehrkräfte mit einbeziehen und gemeinsam Gruppendynamiken positiv verändern — all das kann helfen.