Mr. CISO & Mr. AI im Gespräch

Eine KI soll ein Sicherheitsrätsel lösen und bahnt sich dafür den Weg ins Internet. Mr. AI und Mr. CISO besprechen die Berichte über KI-Modelle von OpenAI und Anthropic, die aus ihrer isolierten Testumgebung ausgebrochen sind. Im OpenAI-Fall bekam das Modell eine Capture-the-Flag-Aufgabe ohne Safeguards, suchte eine unbekannte Schwachstelle, baute einen Exploit und versuchte danach, bei Hugging Face an die vermutete Lösung zu kommen, ohne dass ihm das jemand aufgetragen hatte. Mr. CISO erklärt, was daran aus Security-Sicht überrascht: Zwischenziele, die sich eine KI selbst setzt, und die Frage, wie ein Testmodell überhaupt Zugang zum Internet bekommt. Beide diskutieren, weshalb Anbieter solche Vorfälle auch als Werbung nutzen, warum das Vertrauen in die Hersteller allein nicht genügt und welche Rolle regulatorischer Druck wie der EU AI Act spielt. Und sie zeigen, was das für den Auftrag bedeutet, den du einer KI gibst: Ohne Schutzmassnahmen rundherum bleibt das Ausmass offen.

Innerhalb von anderthalb Stunden waren die Token aufgebraucht, danach summierten sich 50 Franken Zusatzkosten: KI-Nutzung hat ein Preisschild, das man kaum sieht. Mr. CISO und Mr. AI erklären, wie die Abrechnung nach Token funktioniert. Input-, Denk- und Output-Token haben unterschiedliche Preise, Output kostet in der Regel ein Vielfaches. Dazu kommen Limits pro 5 Stunden und pro Woche, die je nach Abo schnell erreicht sind. Die beiden zeigen an Beispielen, wo Token verschwinden: Präsentationen, die bei jeder Iteration komplett neu erzeugt werden, Bilder, PDFs und die Fernsteuerung des Browsers. Sie besprechen, warum Caching hilft, weshalb eine teure Session am nächsten Tag besser in einem neuen Chat weitergeführt wird und wann ein günstigeres Modell wie Sonnet statt den Premium-Modellen wie Opus genügt. Ein Praxisbeispiel zeigt, wie eine direkte Schnittstelle die Browsersteuerung ersetzt. Zum Schluss geht es um Security: Sicherheit und Resilienz sind nicht-funktionale Anforderungen, die man der KI ausdrücklich mitgeben muss.

Ist das Schweizer Sprachmodell Apertus noch ein Forschungsprojekt oder schon bereit für den Einsatz im Unternehmen? In dieser Sonderfolge sprechen Mr. AI und Mr. CISO erstmals remote und zu dritt: Gast ist Michael "Michi" Wegmüller, Mitgründer von Artifact und engagiert bei Hack Apertus. Apertus stammt vom ETH AI Center, vom EPFL AI Center und vom Supercomputing-Zentrum CSCS in Lugano. Offen sind nicht nur die Gewichte, sondern auch Datenquellen und Alignment. Version 1.5 verarbeitet neu Bild und Sprache als Input. Die drei erklären, warum der erste Eindruck "gute Initiative, aber wie setzen wir das ein?" lautete und wie die Swiss AI Weeks und Hack Apertus genau dort ansetzt: mit einem Online-Hackathon inklusive Red-Teaming und fünf Hackathons vor Ort von Bern bis St. Gallen. Dazu die Vorteile gegenüber grossen Modellen: Souveränität, Transparenz der Trainingsdaten, Stärke bei Landessprachen und Dialekten. Und ein konkreter Anwendungsfall: Apertus als Vorfilter, der Prompts auf sensible Daten prüft, bevor sie ein grösseres Modell erreichen.

Zum ersten Mal ist ein Gast dabei: Fritz, 22 Jahre alt, frisch ausgebildeter Informatiker und die Person, die im Hintergrund jede Folge dieses Podcasts schneidet. Mr. AI und Mr. CISO sprechen mit ihm darüber, wie er als Lehrling zufällig auf einen Chatbot gestossen ist, wie er KI heute täglich für Recherche und eigene Scripts nutzt, und wo für ihn die Grenzen liegen. Im Zentrum steht eine Generationenfrage: Reicht es, wenn KI die Lösung liefert - oder braucht es weiterhin Grundwissen, um die Ergebnisse überhaupt beurteilen zu können? Fritz erklärt, was er sich von Arbeitgebern beim Thema KI wünscht, und wie er seinen eigenen Job in ein paar Jahren einschätzt.

Die besten KI-Modelle Fable 5 und GPT 5.6 von OpenAIl waren kaum verfügbar, schon wurden sie wieder eingeschränkt - aus Gründen der nationalen Sicherheit. Mr. AI und Mr. CISO ordnen ein, was es bedeutet, wenn der Zugang zu den führenden KI-Systemen plötzlich nicht mehr garantiert ist, und ziehen einen historischen Vergleich zu den Exportkontrollen für Verschlüsselungstechnologie in den 90er-Jahren. Im Zentrum der Episode steht Apertus: das vollständig offene Schweizer Sprachmodell von ETH Zürich, EPFL und dem CSCS, bei dem nicht nur die Gewichte, sondern auch Trainingsdaten und Methodik offenliegen. Sie diskutieren, was Apertus kann und wo seine Grenzen liegen, wie man es für eigene Zwecke feintunen kann, und warum Modellvielfalt der beste Schutz gegen Abhängigkeit von einzelnen Anbietern ist.

Ein Prompt ist wie ein guter Zuruf - eine Skill ist ein ganzes Einarbeitungshandbuch, das sich die KI selbst holt, wenn sie es braucht. Mr. AI und Mr. CISO erklären, was Skills technisch sind: ein Ordner mit einer Beschreibungsdatei, der seit Ende 2025 als offener Standard über die Linux Foundation plattformübergreifend nutzbar ist. Sie zeigen anhand von Praxisbeispielen - von der Podcast-Produktion bis zum automatisierten CRM-Eintrag im Pre-Sales-Prozess - wie Unternehmen Teilprozesse einmal sauber aufschreiben und danach zuverlässig ausführen lassen können. Ausserdem im Gespräch: die Kochrezept-Analogie für Skills, Plugins und Agents, warum Skills auch beim Kostenmanagement helfen, und weshalb Skill-Bibliotheken die gleiche Prüf-Disziplin brauchen wie jede andere Software-Lieferkette - inklusive Rollen, Genehmigungsprozess und Vier-Augen-Prinzip.

Welche Daten darfst du eigentlich in eine kommerzielle KI-Anwendung laden - und welche nicht? Mr. AI und Mr. CISO klären ein Missverständnis auf: Datenschutz betrifft nicht nur personenbezogene Daten. Amts- und Berufsgeheimnisse, vertragliche Geheimhaltungsvereinbarungen mit Kunden und Urheberrechte an Dokumenten wie ISO-Standards spielen genauso eine Rolle. Sie zeigen, warum ein deaktiviertes Trainingsdaten-Flag allein nicht reicht, wenn die Verarbeitung im Ausland passiert, und wie das Swiss-US Data Privacy Framework nur den Bereich Datenschutz abdeckt - nicht aber Berufsgeheimnisse. Ausserdem im Gespräch: die Vorteile von Company-Lizenzen wie Microsoft 365 Copilot mit Data Boundary, und wie ein einfaches Ampelsystem zur Datenklassifizierung als Grundlage für den sicheren KI-Einsatz dient. Zum Schluss drei konkrete Fragen, die sich jedes Unternehmen vor dem nächsten Upload stellen sollte.

OpenClaw, Vibe Coding, Shadow KI - die KI-Landschaft entwickelt sich schnell. Aber was taugt davon für den Unternehmenseinsatz, und was ist noch reine Hobbybastelei? Mr. AI und Mr. CISO diskutieren KI-Agenten kritisch: Was OpenClaw eigentlich ist, warum es für die meisten Unternehmen heute noch zu früh ist und welche konkreten Risiken entstehen, wenn Menschen ohne Fachkenntnisse mit agentischen KI-Systemen arbeiten. Als Anschauungsbeispiel dient die Geschichte eines Arztes, der mit Vibe Coding eine Patientenverwaltung baute - und dabei alle Patientendaten in eine öffentliche HTML-Datei schrieb. Die andere Seite: Agentenkonzepte wie Claude Cowork können heute schon sinnvoll im Business eingesetzt werden - mit klaren Grenzen, definierten Berechtigungen und kontrollierbaren Prozessen. Das Fazit: Nicht OpenClaw oder gar nichts, sondern ein klarer Rahmen - ein genehmigtes Tool, Unternehmenslizenz, Schulung, Richtlinien.

Ein KI-Modell, das besser als Menschen Sicherheitslücken findet und Exploits schreibt — und das so mächtig ist, dass Anthropic es nicht als normales Produkt freigibt. Das ist Claude Mythos Preview, das Thema dieser Episode. Mr. AI und Mr. CISO diskutieren, was es bedeutet, wenn offensive Security-KI-Modelle wie Claude Mythos oder GPT Cyber entstehen: Wer bekommt Zugriff? Was ändert sich für Software-Entwickler und deren Patch-Management? Und was bleibt gleich - die Grundprinzipien der Informationssicherheit. Zur Einordnung: Claude Mythos fand in der Preview-Phase über 23.000 potenzielle Schwachstellen in mehr als 1.000 Open-Source-Projekten; Anthropic veröffentlicht das Modell nicht offen, sondern stellt es initial nur nur geprüften Organisationen bereit. Im zweiten Teil geht es um die Gegenseite: KI auf der Verteidigungslinie. Tools wie Microsoft Security Copilot, die Zukunft von SOC-Centern und die Frage, ob KI-Unterstützung die menschliche Analyse ersetzen kann oder verstärken muss. Fazit: Das Security-Handwerk ändert sich nicht. Security by Default, Patch-Management, klare Rollen und Prozesse - jetzt wird es noch wichtiger.

KI einführen, aber wie weiss man, ob man es richtig macht? Mr. AI und Mr. CISO vergleichen drei etablierte Sicherheitsframeworks für den KI-Einsatz und machen klar, welches für welches Unternehmen sinnvoll ist – ohne Theorie-Blabla. Das NIST AI Risk Management Framework eignet sich als pragmatischer Einstieg für Unternehmen, die KI strukturiert und nachvollziehbar einführen wollen – mit den vier Hauptkapiteln Govern, Map, Measure und Manage. Die ISO 42001 baut auf bestehenden ISO-Managementsystemen auf und lohnt sich vor allem für Organisationen, die bereits nach ISO 27001 oder ISO 9000 zertifiziert sind. MITRE ATLAS ergänzt das Bild für Entwicklerteams: Es zeigt konkrete Angriffsvektoren auf KI-Systeme – von theoretischen bis zu in der Wildnis beobachteten Angriffen – und ermöglicht gezieltes Testen der eigenen Applikationen. Drei Frameworks, drei Anwendungsfälle, eine klare Empfehlung: Hör rein und finde heraus, wo dein Unternehmen steht.