House of Nerds

Fünf Prozent Zinsen auf Tagesgeld, garantierte monatliche Gewinne bei einem Internetbroker - klingt alles fast zu gut, um wahr zu sein? Dann ist es das meist auch, sagt Renate Daum. Sie ist Redakteurin bei der Stiftung Warentest und beschäftigt sich mit Finanzbetrug und dem Grauen Kapitalmarkt - im House of Nerds spricht sie über die neuesten Betrugsmaschen und gängige Tricks der Scamming-Industrie. Ganz groß in Mode ist derzeit Betrug mit Tagesgeld und betrügerische Internetbroker, oft werden von den Scammern auf Facebook und Instagram reguläre Werbeanzeigen geschaltet. Ein großer Treiber ist hier - genau wie überall - KI, denn so können die Ansprachen an jede "Opfergruppe" zielgerichtet angepasst werden: Von Deepfakes mit Finfluencern auf TikTok über betrügerische Investment-Angebote in WhatsApp-Gruppen bis hin zum klassischen Telefon-Scam - alles geht professionell und vor allem wahnsinnig schnell mittels KI-Anwendungen. Renate Daum sieht hier einen Tsunami an unterschiedlichsten Scam-Angeboten über uns hereinbrechen. In ihrer langen Karriere als Finanzredakteurin sind ihr schon viele skurille Anlageformen untergekommen, zum Beispiel Walnüsse und Diamanten als Renten-Invest oder Gold, das mit der Zeit immer billiger wird. Das klingt lustig, allerdings verursachen solche Maschen Schäden in Milliardenhöhe, und oft ist es nicht so einfach wie beim Walnussbaum, sie zu erkennen. ---- Shownotes: Zur Warnliste Geldanlage der Stiftung Warentest: https://www.test.de/Warnliste-Geldanlage-Unserioese-Firmen-und-Finanzprodukte-1131965-0/ zur Bafin-Unternehmensdatenbank: https://www.bafin.de/DE/die-bafin/publikationen-daten/datenbanken-uebersichten/unternehmenssuche/unternehmenssuche_node.html

Cyberangriffe auf Kliniken werden häufiger. Unser Gast Markus Willing nimmt uns mit ins Krankenhaus und berichtet, wie so ein Angriff praktisch aussehen kann, und wie unterschiedlich schwer einzelne Bereiche getroffen sein können - digitale hochspezialisierte vernetzte Geräte sehr viel stärker als andere Bereiche, wo man sich zur Not auch mit Zettel und Stift behelfen kann. Wer dann noch die Handschrift lesen kann, ist klar im Vorteil! Markus verrät uns auch, welcher IT-Ausfall das medizinische Personal am härtesten trifft: Die gute alte Telefonanlage! Denn wenn schnelle mündliche Kommunikation übers Telefon wegfällt, kostet das wertvolle Zeit. Damit sich Kliniken auf einen solchen Ernstfall vorbereiten können, haben Markus Willing und sein Team ein Planspiel entwickelt, in welchem Krankenhäuser praktisch testen können, wie gut ihre Notfallpläne im Fall eines Angriffs funktionieren würden. Shownotes: Mehr zur Cyberkrisensimulation für Krankenhäuser: https://www.sit.fraunhofer.de/krankenhaus-cyber-krisensimulation/

Eine Reise planen lassen, personalisierte Newsletter erstellen oder eine Flut von Bewerbungen schonmal vorsortieren: KI-Agenten sollen Menschen im Beruf und im Privaten unterstützen. Ist autonome KI also das nächste große Ding im Bereich künstliche Intelligenz? Darüber sprechen wir mit Inna Vogel, sie ist AI Consultant bei Capgemini Invent und eine ehemalige Kollegin vom Fraunhofer SIT. Was ist eigentlich eine autonome KI im Gegensatz zu generativer KI? Was können die digitalen Helferlein, was (noch) nicht? Und wie riskant ist ihr Einsatz? Inna berichtet von KI-Agenten-Fails, wenn autonome Systeme übereifrig komplette Mailpostfächer oder Datenbestände löschen oder in eine Endlosschleife geraten, dadurch unendlich viele Tokens verbrauchen und horrende Kosten verursachen. Inna erklärt, worauf man beim Einsatz achten sollte, um solche Fails zu vermeiden. Außerdem sprechen wir darüber, wie die EU-KI-Verordnung den Einsatz reguliert - und welche Bereiche gar nicht von der KI-VO betroffen sind. Zum Schluss macht uns Inna Mut, denn sie sagt, dass KI zwar Jobs übernehmen wird, aber es werden auch neue Jobs entstehen - und sie verrät, wo. Und auf absehbare Zeit wird der "human in the loop" nicht verzichtbar sein. Shownotes: Paper "Agents of Chaos": https://arxiv.org/abs/2602.20021

Für diese Spezialfolge war Host Oliver wieder unterwegs und hat Florian Schütz getroffen, den Direktor des Schweizer Bundesamts für Cybersicherheit BACS. Gemeinsam sprechen sie darüber, wie sich der Schweizer Ansatz in der Cybersicherheit von dem Deutschlands unterscheidet – und warum die Schweiz aufgrund ihrer Größe häufig agiler und pragmatischer handeln kann. Der BACS-Direktor geht einen etwas anderen Ansatz als das deutsche BSI: Schweizer Firmen und Organisationen sollen in erster Linie dazu befähigt werden, sich selbst zu schützen - und macht das an einem plastischen Beispiel deutlich: "Das ist in etwa so, als würde man auch mal beim Fußgängerstreifen über eine rote Ampel laufen und dabei das Risiko selbst kalkulieren", erklärt er. Im Gespräch erläutert er auch, warum er sich über Angriffe freut, so lange sie erfolglos sind, und wie das BACS mit Angreifer-Infrastrukturen umgeht, die in der Schweiz sitzen. Zum Abschluss hat Florian Schütz noch eine klare Botschaft: "Keine Angst vor Cybersicherheit" - die Digitalisierung bietet so viele Chancen, das sollte man risikobewusst angehen. Dabei hilft es, über Cybervorfälle einen transparenten Austausch zu haben."

Deepfakes fluten das Internet. Inzwischen kann jeder und jede mit einem Internetzugang innerhalb von Sekunden Videos, Bilder oder Audiodateien von einer KI-Anwendung erstellen, für harmlose Witze-Videos und groteske Stunts, aber auch für Mobbing, Desinformationskampagnen, Betrugsmaschen. Prof. Martin Steinebach, Experte für IT-Forensik am Fraunhofer SIT, gibt uns im House of Nerds ein Update: Was ist der aktuelle Stand der Technik, welche technischen Verfahren gibt es, um Deepfakes zu generieren? "Sherlock" Steinebach gibt uns außerdem Tipps, welche Möglichkeiten man auch ohne technische Hilfsmittel hat, um Deepfakes zu erkennen - Spoiler: Diese sind sehr begrenzt. Wir sprechen auch mit Martin darüber, wie man transparent mit dem Einsatz von KI-Dateien arbeiten kann, um Vertrauen nicht zu verspielen. SHOWNOTES: Infoseite Deepfakes: https://www.sit.fraunhofer.de/deepfakes/ Projekt VAMPIR - Forschung gegen Deepfakes: https://www.sit.fraunhofer.de/de/presse/details/news-article/show/forschung-gegen-deepfakes/ Kontakt: [email protected]

In dieser Spezialfolge sind unsere Hosts unterwegs, um Claudia Plattner zu treffen, die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI). Im HoN-Kurzinterview spricht sie über Deutschland auf dem Weg zur Cybernation, was noch fehlt, um eine solche zu werden, und was man sich überhaupt darunter vorstellen kann. Kurz gesagt: Die Cybernation geht uns alle an! Von Unternehmen über Behörden bis hin zu den einzelnen Menschen - wir alle müssen etwas dafür tun, dass Deutschland cybersicherer wird. Denn Deutschland ist ein attraktives Ziel, sagt Claudia Plattner: "Es macht Spaß, uns anzugreifen." Deshalb müssten wir es in einer gesamtgesellschaftlichen Anstrengung schaffen, auf allen Ebenen ein höheres Schutzniveau zu erreichen, sagt Claudia Plattner. Shownotes: FAZ-Artikel zur Cybernation: https://www.faz.net/premium/digitalwirtschaft/wie-deutschland-zur-cybernation-wird-18795464.html Informationen zur Cybernation des BSI: https://www.bsi.bund.de/DE/Das-BSI/Cybernation/cybernation_node.html House of Nerds mit Claudia Plattner: https://house-of-nerds.podigee.io/15-new-episode

Diese Folge wird plastisch: Wir tauchen ab in viereckige Klötzchenwelten oder 3D-Shopping. Das Metaversum war mal die Vision eines Internets, das mit der realen Welt komplett verwoben ist. Da sind wir heute noch längst nicht, es gibt viele verschiedene Metaversen, die nichts miteinander zu tun haben. Im House of Nerds sprechen wir mit Ulrich Waldmann, er forscht am Fraunhofer SIT gerade im Projekt PriMeta, wie es um die Privatsphäre und IT-Sicherheit in Metaversen bestellt ist. Spoiler: Nicht besonders, gerade scheint es so, als herrsche hier eine Art Wild-West-Mentalität der Datensammelei. Wir besprechen mit ihm, welche technischen Möglichkeiten der Identifikation es gäbe, beispielsweise über die geplante EUDI-Wallet, und wie Altersverifikation datensparsam umgesetzt werden kann. Er verrät uns aber auch, ob man sich im Metaversum verstecken kann und in welchem Metaversum er selbst gern unterwegs wäre - es hat mit seinem Hobby als Lebewesenanleger auf Wikipedia zu tun! SHOWNOTES: Mehr zum Projekt PriMeta: https://www.sit.fraunhofer.de/primeta/

Jüngere Kinder auf eigene Faust unterwegs sein lassen, aber trotzdem eine (digitale) Verbindung halten - für viele Eltern ist eine Kinder-Smartwatch die Lösung für eine Balance zwischen Selbstständigkeit und dem Wunsch, ein Auge auf den Nachwuchs zu haben. Doch wie sicher sind diese Uhren, die viele sensible Daten nutzen? Diese Frage hat sich auch der IT-Sicherheitsforscher Matthias Hollick von der TU Darmstadt gestellt und mit seinem Team ein beliebtes Modell des norwegischen Herstellers Xplora untersucht. Im House of Nerds spricht er über große Sicherheitslücken, die sie gefunden haben, und einen mühseligen Responsible-Disclosure-Prozess. Fun fact: Das Team hat sich auch andere smarte Uhren angeschaut, eher aus dem unteren Preissegment, doch hier war die Qualität der IT-Sicherheit so niedrig, dass die IT-Sicherheitsforschenden direkt die Lust verloren haben, noch weiter zu bohren! Es fehlte einfach die Herausforderung. Shownotes: Vortrag über Sicherheitslücken in der Xplora auf dem CCC 2025: https://events.ccc.de/congress/2025/hub/en/event/detail/watch-your-kids-inside-a-children-s-smartwatch Interview mit Nils Rollshausen zur Xplora-Lücke: https://www.athene-center.de/aktuelles/news/athene-forschende-decken-gravierende-sicherheitslu-1796 Mehr Infos zum Seemolab: https://www.seemoo.tu-darmstadt.de/

Unser Stromnetz verändert sich seit einigen Jahren massiv durch den Zubau von erneuerbaren Energien. Was bedeutet das für die Sicherheit und Stabilität unserer Stromnetze? Welche Rolle spielt Cybersicherheit - und wie wird Ausfallsicherheit erreicht? In dieser Folge sprechen wir mit Dr. Michael Eckel, er forscht am Fraunhofer SIT zur Sicherheit von KRITIS, kritischen Infrastrukturen, wozu natürlich auch Stromnetze zählen. Michael erklärt uns, worauf man beim Kauf eines Balkonkraftwerks achten sollte, wie das Stromnetz im Gleichgewicht bleibt und wieso dieses Netzwerk einem Herz-Kreislauf-System ähnelt. Wir haben viel gelernt in dieser Folge, auch Unerwartetes: Oktopusse haben mehrere Herzen! Zum Schluss erzählt Michael noch, wie er einmal eine Hörspiel-Box erfunden hat, die es eigentlich schon gab. Shownotes: Mehr Infos zu HomePPSec: https://energy.athene-center.de/projekte

Dieses Mal zu Gast im House of Nerds sind Donald Trump und Olaf Scholz – oder doch nicht? Im Studio ist jedenfalls die IT-Forensikerin Karla Schäfer, sie forscht speziell zu Audio-Deepfakes. Wir besprechen mit ihr, wie gut aktuelle Sprach-Generatoren mittels KI schon sind, welche technischen Voraussetzungen es braucht und wie man Audio-Deepfakes auf die Schliche kommen kann. Sie spricht über ihre aktuelle Forschung zur Erkennung von Deepfakes und der rasanten Entwicklung der letzten zwei Jahre. Außerdem sprechen wir über Anwendungsfälle jenseits des Enkeltricks am Telefon – aber auch, wie man als Otto-Normal-Telefonierer einem Fake-Anruf auf die Schliche kommen kann: Einfach auflegen und wieder anrufen! Kleine Nachlieferung von Fachvokabular: GPU bedeutet Grafikprozessor (graphics processing unit) – extrem leistungsstark und ein zentraler Baustein moderner KI-Systeme. Shownotes: Zonos text to speech: https://zonosai.com/ Der Trump-Deepfake wurde erzeugt mit https://huggingface.co/spaces/selfit-camera/Trump-Ai-Voice Der Oliver-Deepfake wurde erzeugt mit https://tontaube.ai/speech Edilife-Studie über das Digital Afterlife: https://www.sit.fraunhofer.de/de/edilife-studie/ Audio-Deepfake-Seite des Fraunhofer AISEC: https://deepfake-total.com/