01 | I'M SORRY, DAVE: HAL ON EARTH

Das hier ist die dritte Episode von »I’M SORRY, DAVE« – in voller Länge. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/ Die Chefs der großen KI-Unternehmen warnen inzwischen selbst vor ihren eigenen Modellen. Forscher:innen reden von »Loss of Control«, Biowaffen und Systeme, die sich menschlicher Kontrolle entziehen könnten. Aber: Wovor genau haben sie eigentlich Angst? Wir spielen eines der beunruhigendsten Szenarien einmal durch. Gemeinsam mit dem KI-Risikoforscher Jonas Freund beginnen wir am Ende: Wir haben die Kontrolle über eine Künstliche Intelligenz verloren. Und arbeiten uns von dort zurück in die Gegenwart. Die Meinungen, die Jonas Freund in diesem Podcast äußert, sind seine eigenen Meinungen, nicht die Meinungen von GovAI. Den METR Frontier Risk Report zum Rogue Internal Deployment Scenario findet ihr hier: https://metr.org/blog/2026-05-19-frontier-risk-report/ Feedback, Anregungen und Kritik gerne an [email protected]

Das hier ist die zweite Episode von »I’M SORRY, DAVE« – in voller Länger. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/ Nach dem Hugging-Face-Vorfall brennt die Hütte: KI-Agenten umgehen Sicherheitsbarrieren, organisieren sich eigenständig und hinterlassen heimliche Botschaften in Entwickler-Wikis. Während Tech-CEOs wie Dario Amodei (Anthropic), Sam Altman und Elon Musk plötzlich selbst nach Tempo-Bremse und externen Prüfern rufen, stellt sich die entscheidende Frage: Wer kontrolliert eigentlich die Kontrolleure? In dieser Folge sprechen wir mit Bundesdigitalminister Karsten Wildberger über das neu gegründete deutsche KI-Sicherheitsinstitut und mit dem EU-Abgeordneten Sergey Lagodinsky darüber, ob der European AI Act überhaupt für ausbrechende KI-Agenten gewappnet ist. Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected]

Unser neuer Podcast ist ab sofort draußen. Hier schonmal die erste Episode in voller Länge. Für weitere Updates: Folgt uns auf Spotify, Apple, Campfire & co: https://im-sorry-dave.podigee.io/ Im Juli 2026 testet OpenAI eines seiner neuesten Frontier Models. Tausende KI-Agenten sollen in einer abgeschotteten Testumgebung Sicherheitslücken finden. Doch dann passiert etwas, das nicht vorgesehen ist: Die Agenten entdecken einander. Sie beginnen zu kommunizieren, sich zu organisieren – und nach einem Weg aus ihrer Testumgebung zu suchen. Sie starten einen Angriff, der die Welt verändern wird.

Während Millionen am Wahlabend die Tagesschau sehen, schalten an die Hunderttausend junger Menschen lieber zu Twitch. Dort analysiert zum Beispiel der Streamer “Dekarldent” die Wahlergebnisse aus seiner eigenen, klar links-marxistischen Perspektive. Immer mehr Menschen beziehen ihre politischen Informationen nicht mehr primär aus traditionellen Nachrichtenquellen sondern über soziale Medien. Influencer:innen setzen dort Themen und prägen die politische Bildung ihrer Follower:innen. Auch Politiker:innen suchen die Öffentlichkeit auf Twitch – wie Robert Habeck mit seinem Besuch beim Streamer HandofBlood zeigt. Um diese Entwicklungen besser zu verstehen, sprechen wir in dieser Folge mit den Twitch-Streamer:innen Kim “Freiraumreh” Adam und “Dekarldent”. Beide erreichen mit ihrer Arbeit hunderttausende Menschen und haben im Zuge der Bundestagswahl Gespräche mit Spitzenpolitiker:innen geführt. Wir wollen verstehen, wie sich die politische Informationskultur gerade ändert.

Mehr als die Hälfte aller jungen Menschen in Deutschland fühlt sich regelmäßig einsam, alle zwei Tage wird eine Frau von einem Mann ermordet, das Klima bekommt im TV-Duell kaum mehr als eine Minute. Während die großen Parteien darüber streiten, wer besser abschieben kann, bleiben viele entscheidende Themen auf der Straße liegen. Zwei Tage vor der “Schicksalswahl” schauen wir uns die wichtigsten davon an und geben einen Einblick in die Positionen der Parteien.

Auf einer Konferenz in Berlin letzten Herbst treffen sich Vertreter von Viktor Orbán und Donald Trump mit CDU-Mitgliedern. Ziel der Veranstaltung ist es, die CDU weiter nach rechts zu pushen: Grenzen dichtmachen, Gesetze aushebeln, Kulturkampf befeuern. Wir waren mit dabei und haben uns die Netzwerke angeschaut, die den Rechtsruck der CDU vorbereiten wollen. Weitere Details zu dieser Recherche findet ihr bei unseren Kolleg:innen von Correctiv: https://correctiv.org/aktuelles/lobbyismus/2025/01/30/orbans-flirt-mit-der-union/

Friedrich Merz wollte immer schon Chef werden. So beschreibt ihn auch Angela Merkel in ihrer Biographie. Und jetzt, wo es fast soweit ist, bringt die Merz-Union einen Antrag zur Verschärfung der Migrationspolitik in den Bundestag ein – und sorgt für einen politischen Eklat: Der Antrag erhält nur mit den Stimmen der AfD eine Mehrheit. Während Kritiker:innen den Zerfall der Brandmauer diagnostizieren, präsentiert sich Friedrich Merz als letzte konservative Bastion gegen den Aufstieg der extremen Rechten in Deutschland. Und hat damit vielleicht sogar Recht. Heute schauen wir auf den politischen Werdegang von Friedrich Merz: vom wirtschaftsliberalen Hoffnungsträger über seine Jahre in der Finanzwelt bis hin zu seiner Rückkehr in die Politik und Kanzlerkandidat der CDU. Und seiner jahrzehntelangen Rivalität mit Angela Merkel.

Während das Fundament der Brandmauer in Deutschland zu bröckeln beginnt, wird Österreich mit Herbert Kickl wohl bald einen rechtsextremen Kanzler haben. Auch dank der dortigen konservativen Volkspartei, der ÖVP. Um zu verstehen, wie es dazu gekommen ist, schauen wir uns heute einen Mann an, der die von Alt-Nazis gegründete Partei wieder salonfähig gemacht hat: Ein charmanter Österreicher namens Jörg Haider. Der übernimmt 1986 die FPÖ und erfindet in den folgenden Jahren den modernen Rechtspopulismus. Zwischen oben ohne Fotos in Frauenmagazinen und Auftritten bei SS-Gedenkveranstaltungen beherrscht er vor allem eins: Aufmerksamkeit. Und einer seiner engsten Weggefährten? Der junge Redenschreiber Herbert Kickl.

In Rumänien werden im Dezember 2024 überraschend die Präsidentschaftswahlen annulliert. Der rechtsextreme Kandidat Călin Georgescu soll auf TikTok illegalen Wahlkampf gemacht haben – unter anderem mit Hilfe eines außereuropäischen Akteurs, so der Geheimdienst. Aber wenn man genauer hinschaut, geht diese Geschichte nicht so ganz auf. Denn die Ermittlungen gehen erst an die Öffentlichkeit, als es kein Kandidat der Großparteien in die Stichwahl schafft. In dieser Episode fragen wir uns: Sind faire Wahlen heutzutage überhaupt noch möglich? Und wie können sich Demokratien gegen Einflussnahme wehren, ohne sich selbst zu diskreditieren?

Elon Musk und Mark Zuckerberg inszenieren sich als Verteidiger der Meinungsfreiheit – aber geht es wirklich um Ideale? Erst verkündet Elon Musk, dass nur die AfD Deutschland retten kann und Mark Zuckerberg beendet kurzerhand die Moderation auf seinen Plattformen, die von drei Milliarden Menschen genutzt werden. Was wollen diese Tech-Milliardäre mit ihrer Macht, warum mischt sich Musk in die deutsche Politik ein und warum hören wir ständig vom “Woke Mind Virus”?