(Open)AI goes wild

Cyberangriffe mithilfe von KI, insbesondere mit agentischen Sprachmodellen, tauchen seit Monaten fast wöchentlich in den Nachrichten auf. Intensität und Komplexität der Angriffe nehmen zu. Volker und Monina nehmen diese Meldungslage zum Anlass für eine technikphilosophische Folge: Können KI-Systeme ethisch handeln, und wie lassen sie sich ethisch einsetzen? Monina erklärt, wie Large Language Models und Transformer-Architekturen arbeiten und mit welchen Methoden KI lernt. Volker fragt, was Ethik überhaupt ist und warum sich Werte, die teils unbewusst und gesellschaftsabhängig sind, so schwer in ein System programmieren lassen. Dabei geht es um das Moravecsche Paradox, um Bias und Poisoning in Trainingsdaten, um KI-generierte Inhalte als neue Trainingsgrundlage und um Guardrails im Unternehmenseinsatz. Am Ende steht die Frage, wer die Ethik ins Ergebnis bringt. Gerade bei agentischen Systemen liegt viel Verantwortung bei uns Nutzer:innen, schon beim Prompting.

Digitale Spuren finden sich heute überall: auf Smartphones, in Cloud-Diensten, in Chatverläufen oder in gelöschten Datenbankeinträgen. Die IT-Forensik sichert diese Spuren, rekonstruiert daraus Abläufe und liefert Beweise, die auch vor Gericht bestehen müssen. Künstliche Intelligenz verändert diese Arbeit grundlegend. Sie kann helfen, riesige Datenmengen schneller auszuwerten, wirft aber auch Fragen nach der Nachvollziehbarkeit und Rechtsgültigkeit der Ergebnisse auf, oder erzeugt und manipuliert selber Spuren. In dieser Live-Ausgabe des Podcasts „Die Sicherheits_lücke“ spricht Host Monina Schwarz mit Prof. Dr. Dirk Pawlaszczyk über den Wandel der IT-Forensik durch KI. Pawlaszczyk forscht zu digitaler Forensik, insbesondere zur Auswertung mobiler Geräte, und beschäftigt sich damit, wie sich KI-Methoden in forensischen Untersuchungen sinnvoll einsetzen lassen. Gemeinsam gehen die beiden der Frage nach, was sich für Ermittler:innen, Gerichte und Betroffene ändert, wenn KI auf beiden Seiten mitspielt. Wer ertappt hier eigentlich wen?

Ingo und Monina haben recht unterschiedliche Reiseprofile, wenn es um ihre Hardware-Ausrüstung angeht. GPS Tracker, Smartwatches, Tablets für die ganze Familie, Grenzkontrollen, EV-Sicherheit, öffentliches WiFi und Strom laden stehen in dieser Folge auf der Liste der beiden.

Wie sieht es in der Praxis aus, wenn sich ein Bundesland auf den Weg macht? Wir sprechen über ein konkretes Projekt, in dem Open Source Software für die Verwaltung des Landes entwickelt wird. Mit dabei sind drei Menschen aus Schleswig-Holstein, die das Projekt aus ihren Perspektiven begleiten: Norman Scotti (Gemeinde Sylt) für die Stadt- und Gemeindeverwaltung, Jörg Brüggemann (WTSH GmbH) für die Projektorganisation und Fynn Weyrich (Verwaltungscloud.SH) für die Software-Entwicklung im Govtech-Unternehmen.

Die Berichterstattung über den vermeintlich unkontrollierten Angriff eines OpenAI-Modells auf die Plattform Hugging Face im Juli 2026 hat weite Kreise gezogen. Wir ordnen im Podcast den Angriff, die Berichterstattung und die Konsequenzen für die IT-Sicherheits-Community ein. Dabei geht es um die Frage, was bei einer Modellevaluation tatsächlich passiert ist, wie belastbar die öffentlich verfügbaren Informationen sind und was der Vorfall für Verteidiger:innen bedeutet – von automatisiertem Threat Hunting bis zu der Frage, wer eigentlich haftet, wenn ein KI-System selbst zum Angreifer wird.

Achtung, Nerd Content! Monina Schwarz und Volker Skwarek besprechen die acht Sicherheitslücken, die von Sicherheitsforscher*in MSNightmare zum Zeitpunkt der Aufnahme gefunden und veröffentlicht wurden. Wir beschreiben ihre Funktionsweise und diskutieren, ob und wie Responsible Disclosure bei diesen Schwachstellen überhaupt möglich war oder gewesen wäre.

Wir besprechen live, mit besonderen Gästen und vor Publikum, wie kleine und mittelständische Unternehmen ihren Weg in die digitale Unabhängigkeit finden können. Am 05. Juni 2026 waren wir zu Gast bei Hamburg@work: Mit kleinem Publikum hat Volker mit Nadine Eibel, Gründerin und Geschäftsführerin von SECURAM Consulting, Andrej Bender, Student an der HAW Kiel und Gewinner des GI Sicherheit Hackathons in 2026, und mit Alexander Rosenthal, Projektleiter des DigitalHub.SH gesprochen. Das Thema: Wie Open Source und digitale Souveränität im Einsatz in KMU zusammenhängen, welche praktischen Lösungen und Varianten es gibt und was auf dem Weg zu einer größeren digitalen Unabhängigkeit von KMU zu beachten ist.

Wie leicht lassen sich einzelne Geräte im Netz identifizieren und nachverfolgen? Was können Nutzende dagegen tun und sich einen Rest-Komfort beim Nutzen des Webs erhalten? Und wie funktioniert Fingerprinting auch jenseits des Internets? Darum geht's in dieser Folge. Wir freuen uns über Ergänzungen, Kommentare und natürlich Bewertungen überall dort, wo ihr uns hört.

In dieser Folge nehmen Volker Skwarek und Ingo Timm das Thema digitale Souveränität auseinander. Sie diskutieren, warum Office 365, PowerPoint und Outlook so erfolgreich sind, wo Lock-in-Effekte wehtun und wieso Migrierbarkeit und offene Formate wichtiger sein könnten als der Versuch, eine eigene europäische Cloud zu bauen. Themen sind unter anderem der CLOUD Act, die Sperrung des Mail-Accounts von IStGH-Chefankläger Karim Khan, die Bundeswehr-Cloud bei Google, KI-Souveränität, Apertus, Mistral und der „Digital Independence Day". Am Ende die These: Trennung von Daten und Programmen ist der eigentliche Hebel

Vor einigen Folgen haben wir über das kommende NIS-2-Umsetzungsgesetz gesprochen, nun ist es da. Unter dem Motto „NIS-2, und nun?" haben wir drei Gäste eingeladen und mit ihnen auf der Bühne bei der #GISICHERHEIT2026 an der HAW Hamburg gesprochen: Bastian Pfarrherr, Leiter der Netzstrategie vom Netzbetreiber Hamburger Energienetze, Marian Blok, Referent für KRITIS-Sektoren Transport und Verkehr, Weltraum und Ernährung vom Bundesamt für Sicherheit in der Informationstechnik, und Thomas Holst, geschäftsführender Gesellschafter der BT Nord Systemhaus GmbH.