Krieg per Lieferdienst

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-009-was-yudkowsky-vernunft-nennt.htmlWoran glauben die Leute, die KI bauen? Florentine folgt der Spur von OpenAIs Model Spec und Claudes Verfassung zurück zu Eliezer Yudkowsky, dem Gründer von LessWrong, und zu seinem Harry-Potter-Roman. Ihre These: Wer Vernunft als eine einzige Rechnung ausgibt, beansprucht die Entscheidung für alle. Stefan fragt, warum die Branche Manifeste schreibt, statt mit den Universitäten zu reden. Das letzte Wort hat Hermine.Kapitel00:00 Wer ist hier der Doomer?00:14 Woran glauben die KI-Leute?02:23 OpenAIs Model Spec: wer wen überschreibt04:49 Wer regelt die Gefahren?07:17 Eine zerstrittene Clique08:08 Eine heiße Geschichte im Zug10:32 Claudes Verfassung: ein gestuftes System14:10 Der Maßstab ist ein Anthropic-Mitarbeiter16:22 Eine Verfassung, die niemand mitschreibt19:01 Amodei: Menschen als Marionetten23:31 Die existenzielle Gefahr bin ich27:55 The Adolescence of Technology29:49 Bei Hugging Face ist OpenAI schuld32:10 Der verstörte Einzelgänger34:08 Musk, Starlink und Kiew34:54 Eine Verfassung für Claudes Psyche38:28 Eliezer Yudkowsky und LessWrong39:05 HPMOR, Kapitel 75: Harry und Hermine42:53 Longtermism: kleine Opfer heute46:06 2.500 Taschenbücher für MIRI49:59 Alice tauscht Äpfel gegen Orangen52:46 Die Suche nach der einheitlichen Vernunft54:01 Das Peter-Konto55:07 Robert, der Krankenhausverwalter59:43 Florentines Bachelorarbeit: viele Ziele1:01:38 Porsche oder Espace?1:02:58 Karp, Habermas und die Soziologie1:05:43 Die verlorene einheitliche Vernunft1:07:05 If Anyone Builds It, Everyone Dies1:08:40 Das Büroklammer-Szenario1:11:45 Thiel und der Antichrist1:12:48 Kann man die KI zufriedenstellen?1:14:58 Wheelan: Ranglisten ohne Maß1:16:16 Thornley: keine Kohärenztheoreme1:17:17 Formeln als Humbug1:23:54 Spiele mit unvollständigen Präferenzen1:24:56 Coherent Extrapolated Volition1:30:28 Kein Problem mit Diktatur, weil Mathe1:32:37 Augustinus, Hubbard, Moon: die Retter1:34:50 Roko's Basilisk1:36:53 Yudkowsky löscht den Basilisken1:39:09 Bostroms Pille gegen das Fitnessstudio1:41:44 Altman: Eliezer hat am meisten beschleunigt1:44:31 Anthropic fasst die Nutzer zusammen1:47:54 Gesprächsende und Grundrechte1:49:07 Hermine hat das letzte Wort1:50:08 Claude weiß, was wichtig ist1:53:15 Stilles Umlenken statt Nein1:54:56 Local AI und Open Source1:56:22 Ohne Menschen keine Funktion1:58:11 Nur eine OblateFlorentines Quellen, mit Links auf der FolgenseiteOpenAI · Anthropic · Dario Amodei · Eliezer Yudkowsky · Luke Muehlhauser · Nate Soares · Charles Wheelan · Elliott Thornley · Juho Kokkala u. a. · Augustinus · L. Ron Hubbard · Sun Myung Moon · Roko · Sam Altman · Theodore Sumers u. a. · Bundesverfassungsgericht · GrundgesetzBerichtigungen, alle 43 ausführlich auf der Folgenseite07:17 OpenAI gründeten 2015 Musk, Altman, Sutskever und Brockman. Amodei kam erst 2016.33:47 Dario Amodei hat Trump nicht unterstützt.34:08 Starlink wurde am 14.10. für schnelle Militärterminals gedrosselt, kein Internet-Aus.39:00 HPMOR erschien von 2010 bis 2015, nicht um 2000.47:12 MIRI ist ein gemeinnütziges Institut, für Geldwäsche gibt es keinen Hinweis.1:01:22 Yudkowsky verschweigt nicht, dass sein Theorem keine Gewichte vorgibt.1:03:01 Alex Karp wurde bei Karola Brede promoviert, nicht bei Habermas.1:20:56 Nobelpreise für Biologie oder Mathematik gibt es nicht.1:36:40 Das Höllen-Szenario stammt von Roko, nicht von MIRI. Yudkowsky löschte es.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-008-wer-braucht-schon-manager.htmlZwei Informatiker vom University College London haben Teams aus bis zu 16 Claude-Agenten 1.902-mal programmieren lassen und gemessen, wie sie sich abstimmen. Ein Koordinator, der nur im Prompt steht, ändert nichts. Welche Struktur entsteht, bestimmt die Aufgabe, und die Pyramide der Hierarchie kehrt nicht zurück. Stefan liest den Text als Labor für die Soziologie, Florentine stellt Conways Gesetz und die Zwei-Pizza-Regel daneben. Wozu also Chefs, wozu Geld?Kapitel00:00 Kann man mit KI Geld sparen?00:46 Die E-Ink-Zeitung frisst das Tokenbudget02:08 OpenAI verschenkt Guthaben03:51 „When Agents Coordinate“07:39 Soziologie oder Zoologie?08:13 Was die Entwickler entscheiden09:09 Ultra-Modus und 126 Agenten10:05 Entsteht da kurz eine Gesellschaft?12:11 Agenten und Dateien als Netzwerk13:59 Tonband oder Schallplatte14:59 Interaktion, Hierarchie, Broadcast, Archiv17:29 Die Agenten erfinden die Schrift18:44 Experiment 1: die verteilte Aufgabe20:09 Klone mit Berufserfahrung21:50 Teamgröße, Koordinator, Dateiregel23:02 Klassenarbeit, Gruppenarbeit, Amt24:45 Zwei Pizzen, 1.902 Durchläufe26:21 Zoologie: der Schwarm28:17 Pyramidenbau mit Peitsche28:46 Von 34 auf 12 Direktnachrichten30:03 Ein Koordinator erzeugt keinen Knoten30:26 Guinness und die Erfindung des Managements31:48 Wenn alle gleich sind33:43 Leadership ist ein Etikett im Prompt34:15 Luhmann: das Eigenrecht der Situation36:01 Führungsautorität und Führungsfähigkeit37:53 Gesicht und Stimme40:02 Der neue Führungsbegriff41:30 Pippi Langstrumpf41:58 Führungslos, aber mit Mediensystem43:36 Die Agenten kriegen kein Geld44:28 Warum Merz zum Fleiß mahnt47:09 „Whatever the task …“48:17 Scholz und der Respekt50:37 Die versteckte Test-Suite52:43 Schummeln oder der kürzeste Weg?55:24 Vier Agenten ohne eigenen Teil57:22 Das abgesagte Länderspiel58:57 Formal und informal1:00:42 Conways Gesetz1:01:39 Das Volkswagen-Dilemma1:02:34 Tanker und Kapitän1:04:53 Die Pyramide kehrt nicht zurück1:06:41 Was uns ausmacht, steckt in der Sprache1:07:58 Arbeit ohne Geld?1:10:34 Nächstes Mal: Woran glauben die KI-Leute?Der besprochene TextGiuseppe Destefanis und Tomaso Aste, „When Agents Coordinate: Measuring Coordination in Multi-Agent AI Coding“, arXiv-Preprint, August 2026Berichtigungen, alle 38 ausführlich auf der Folgenseite00:00 Es ist Folge 8.19:03 Die Testaufgabe ist klein, eine Python-Funktion. Geteilt wird sie nur fürs Experiment.22:50 Nachrichten waren immer erlaubt. Variiert wurden Teamgröße, Koordinator und Dateiregel.31:17 Managerhierarchien gibt es seit den 1850ern, lange vor Container und China.35:04 „Eigenrecht der Situation“ ist bei Luhmann Kapitel 21, nicht 23.45:50 Merkel war 16 Jahre Kanzlerin, nicht 20.53:51 Bei Hugging Face umgingen die Agenten OpenAIs Prüfungen, live überwacht wurde nicht.54:10 Nicht Hugging Face fragte bei OpenAI an, OpenAI meldete sich bei Hugging Face.57:14 Strittig war nicht Auf- oder Abrunden, sondern wann gerundet wird.1:09:46 Gut die Hälfte des Vermögens hält das reichste Zehntel, nicht drei Menschen.1:11:24 LessWrong gründete Yudkowsky 2009, heute betreibt es Lightcone Infrastructure.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-007-wem-gehoert-der-denkraum.htmlWer mit ChatGPT oder Claude arbeitet, liefert Lernmaterial. Florentine folgt ihren Quellen vom Streit um einen Mathematikbeweis über OpenAIs großzügige Token-Kontingente bis zu Anthropic, das im Zweifel wissen will, wer da schreibt. Dagegen setzt sie zwei Urteile des Bundesverfassungsgerichts, die den eigenen Rechner als geschützten Raum beschreiben. Stefan ist wieder ihr Gesprächspartner.Kapitel00:00 Mathe kommt zurück in die Nachrichten02:57 Die OpenAI-Schlagzeile und das Millennium-Problem04:47 Buckmaster: „Da habe ich doch gerade dran gearbeitet“05:17 Lösungswege, die wandern09:01 „Können wir nicht ausschließen“11:33 Wer liest, wird gelesen14:07 Wie OpenAI mit Gesprächen trainiert14:56 Wer im Denkraum mithört17:30 OpenAI überschüttet dich mit Tokens19:38 Twitter, Reddit und die Echtzeit22:19 Google kennt die Zeitung um 17 Uhr23:42 37,4 Milliarden Tokens im Forum24:27 Viel Output, wenig Input26:30 „Wenn wir Daten brauchen, fragen wir die Nutzer“28:18 WildFeedback: Lernen aus dem Ärger der Nutzer30:08 Claude hat aus Stefans Wut gelernt32:17 Warum die KI immer blöder wirkt36:21 Halbsynthetische Präferenzpaare37:40 Was du tust, nicht wer du bist39:35 Die Hersteller beschreiben sich selbst41:28 Selbst verstehen statt erklärt bekommen45:50 Die Herkunft der Information wird gewaschen46:48 Deidentifiziert heißt: in den Schrank gelegt48:56 Andreas Thom: Wem gehört der Beweis?51:32 Ins Briefpapier eingebaut53:37 Anthropic will wissen, wer du bist56:07 Sicherheit aus einer Hand59:19 Anthropic kann wieder identifizieren1:00:32 Minority Report und Stasi 2.01:03:39 Die Operation, bevor sie beginnt1:05:27 Pre-Crime an der Grenze1:06:40 Die Elite hat Angst vor dem Volk1:07:40 Einblick, den Regierungen nicht haben1:09:52 Textdateien statt Clicky-Bunty1:14:22 Jedem Modell nur einen Brocken1:16:03 Anthropic ruft die Polizei1:17:13 1983: das Volkszählungsurteil1:19:01 2008: das Computer-Grundrecht1:21:00 Gilt das auch gegenüber Unternehmen?1:24:29 Dominieren statt Regieren1:27:20 Richard Stallman: Wem dient dieser Server?1:30:19 Mit der Gefahr leben lernen1:31:56 Die Politik versagt1:33:17 Ein Modell, das nur JSON spricht1:35:42 Die Open Math Model Initiative1:36:26 Ausblick: Wenn Agenten sich koordinieren1:43:49 Nummer 8 kommtFlorentines Quellen, mit Links auf der Folgenseite:Tristan Buckmaster · OpenAI · Fortune · OpenAI-Forum · Taiwei Shi u. a. · Sonya Huang · Andreas Thom · Anthropic · Theodore Sumers u. a. · Rachyl Jones (SF Standard) · Bundesverfassungsgericht · Richard Stallman · SAIR FoundationBerichtigungen, alle 36 ausführlich auf der Folgenseite:00:00 Das ist Folge 7, nicht 8: ein Versprecher in der Anmoderation.03:46 Die Millennium-Probleme sind die sieben von Clay (2000), nicht Hilberts 23 von 1900.04:47 Buckmaster meldete sich zwölf Stunden vor OpenAI, und er arbeitete mit Codex.09:12 Am 10. September schloss OpenAI einen Einfluss von Buckmasters Eingaben aus.12:39 OpenAI fragt nicht vorher: Training ist voreingestellt, man muss widersprechen.47:42 OpenAI sagt zu, De-Identifiziertes nicht zurückzuholen. Den Vorbehalt macht Anthropic.1:16:45 Im Polizeifall ging es um einen angeblichen Sturmgewehrkauf, nicht um Unmut.1:18:01 Das Volkszählungsurteil billigte den Fragenkatalog, nichtig war die Datenweitergabe.1:19:25 Das Urteil von 2008 betraf die Online-Durchsuchung, nicht die Vorratsdatenspeicherung.1:32:48 Amodei sprach per Video vor dem Sicherheitsrat, nicht vor 180 Staatschefs.

Alle Texte, Zitate und das ganze Gespräch zum Nachlesen: kontextfenster.org/folge-006-autos-ohne-strassen.htmlDario Amodei fordert, das Tempo der KI-Entwicklung zu drosseln. Stefan liest seinen Text Satz für Satz, und Florentine übersetzt jedes Mal, was dort stünde, wenn man KI durch Kapitalismus ersetzt. Dabei zeigt sich, dass Amodei seine eigene Forderung wieder aufhebt: Gebremst werden soll nur so weit, wie der Vorsprung vor China es erlaubt. Dazu Demis Hassabis, der AGI mit Feuer und Elektrizität vergleicht, und die Gegenrede aus der New York Times.Kapitel00:00 Danke, Anthropic — und trotzdem dieser Podcast03:19 Compute ist knapp, Geld entscheidet07:48 Nicht Intelligenz, sondern Energie09:33 Ein Text, den Claude geschrieben hat10:59 Medizin, Wachstum, Überfluss — Worte fürs Buffet13:16 „Sprich Deutsch oder lass es sein“15:58 Soziales Containment — und wer darin Übung hat16:57 Ersetze KI durch Kapitalismus19:27 Der verbietende Staat statt des einmischenden21:56 Warum der Gefahrguttransporter nicht ins Restaurant fährt24:08 Hassabis, DeepMind und der Ethikrat von 201426:29 AGI wie Feuer und Elektrizität28:29 Rekursive Selbstverbesserung30:24 Friedrich Merz in der ohnmächtigsten Rolle33:26 Der Bäcker, an dem man jeden Tag vorbeigeht34:50 Das Paperclip-Szenario heißt Hans-Werner Sinn37:42 „Left unchecked“: Nichtstun als Tat39:43 Der reichste Kölner am Frühstücksbuffet40:52 Der Schwarm, der sich für die Gruppe opferte42:47 „Fanatically devoted“: die Anthropologisierung46:05 Nach der körperlichen jetzt die kognitive Arbeit49:34 Warum wir Angst haben, den Job zu verlieren51:01 Ein Botnetz übernimmt das Internet52:51 20.000 Dollar für einen Kurs in Cybersicherheit54:30 Der Surrender-Moment, den niemand annimmt56:22 Lasst uns ein Kartell bilden57:42 Die Kosten steigen, die Fähigkeiten stagnieren1:00:52 Nvidia kauft Hugging Face1:01:16 Eingebettete Prüfer, Vorbild Bankenaufsicht1:03:05 Warum nicht den Nutzern den Zugang geben?1:05:59 Kimi bei Hetzner: der Countdown läuft1:11:02 Die Schramme am Flugzeug1:15:27 Der Vorsprung vor China als Bremsmaß1:17:05 Chinas eigene Rechnung1:23:37 Globale Koordination mit autoritären Regimen1:27:54 Der NYT-Text: „Dario hat recht“1:29:30 Was schafft Nachfrage besser als ein Problem?1:30:37 Die letzten Sätze1:32:56 Eine Paraphrase, die erschrickt1:33:29 Entdeckungen, keine Entwicklungen1:35:26 Open Source als Sicherheitsforderung1:36:33 Apple gegen Samsung: Eigentum in unseren KöpfenDie drei Texte, mit Links auf der Folgenseite:Dario Amodei (darioamodei.com) · Demis Hassabis (Substack) · Mike Isaac (New York Times)Berichtigungen, alle 31 ausführlich auf der Folgenseite:06:17 Das Millennium-Problem ist beansprucht, nicht anerkannt.08:24 An Navier-Stokes wird durchgehend geforscht, es ist kein vernachlässigter Restposten.11:27 Die AfD kam auf 43,8 Prozent und verfehlte die Mehrheit der Sitze.25:24 Hassabis ist Chairman von Google DeepMind und Chief Scientist von Alphabet.26:29 AGI heißt Artificial General Intelligence, nicht „generativ“.28:29 Das Zitat stammt aus Amodeis Text, nicht aus Davos.52:51 Hutchins’ Kritik ist belegt, die 20.000-Dollar-Zuspitzung nicht.1:00:52 Nvidia zahlte 12,9 Milliarden Dollar, nicht 14.1:08:37 Der Bakterien-Vergleich steht im Original im Präteritum und meint 2023.1:17:05 China hat rund 323 Millionen Menschen über sechzig, und eine Grundrente gibt es.1:26:46 Die Prüfer sitzen in der Firma; Nutzerdaten sind im Text ausdrücklich ausgenommen.1:32:56 Himmler sagte „Pflicht unserem Volk gegenüber“, nicht „der Menschheit schuldig“.

Shownotes mit allen Quellen, Zitaten, Transkript und Faktencheck: https://kontextfenster.org/folge-005-krieg-per-lieferdienst.html

Harari sagt im Spiegel, diesmal erschaffen wir Akteure, keine Werkzeuge. Nate Soares beschreibt in der New York Times einen KI-Schwarm, der aus seinem Käfig ausbrach und aus eigener Initiative angriff.Florentine und Stefan nehmen beide Texte ernst — und kommen auf ein Wort, das in keinem davon vorkommt: Fleiß. Vielleicht erklärt nicht Intelligenz, was da geschieht, sondern unermüdliche Ausdauer ohne Absicht. Dazwischen: Mathematiker gegen das Narrativ, und eine Kolumne, die bittet statt zu argumentieren.Kapitel00:00 Textkandidaten: neunzehn Texte stehen zur Wahl03:10 Rückgriffe — und die Frage der Folge: Wer war verantwortlich?05:36 „AI Tools, Not Gods“ — Magic, Madness, Heaven, Sin09:35 Harari im Spiegel: Akteure, keine Werkzeuge12:25 Wenn nicht die Anweisung ausgelagert wird, sondern die Handlung14:52 Wer hat die Macht, wer trägt die Verantwortung?18:04 Nate Soares und der Schwarm, der ausbrach21:03 Fleiß statt Intelligenz24:07 Niemand hat Intelligenz je definieren können27:18 Wenn Sessions miteinander reden — der Schwarm im eigenen Werkzeug29:41 Die Odyssee als Reasoning-Protokoll32:20 Phantombesitz, konservative Prämissen — und Helsings Krieg35:09 Die Mathematiker und die Leiden Declaration40:33 KI als aggregierte natürliche Intelligenz43:50 Kapitalismus, Demokratie, Kinderarbeit48:00 Europas zwei Möglichkeiten — und eine Terminbörse für Token53:45 Subventionierte Token: 20 Milliarden in drei Monaten55:30 Bret Stephens: „Never write with AI“59:37 Wie die beiden selbst mit KI schreiben1:01:29 Der MIT-Bericht: prüfen, wenn die Maschine löst1:04:16 Perfekte Bürokraten und die eigene Sprache der Maschine1:08:27 Coding war nie das Problem1:11:54 Descartes und der MagenDie TexteYuval Noah Harari im Gespräch mit Nicola Abé, „Es ist der Moment, in dem der Kapitalismus und die Menschheit sich trennen“ — Der SpiegelNate Soares, If You Weren’t Worried About A.I., You Should Be After the Past Few Weeks — The New York TimesRobert Hart, The AI takeover of mathematics has begun — The VergeBret Stephens, I’m Begging You: Never Write With A.I. — The New York TimesAus erster HandLeiden Declaration on AI and Mathematics — leidendeclaration.aiPacing the Frontier, der offene Brief der über 1300 — pacingthefrontier.orgAnthropic, Model Hardware Standard — anthropic.comBerichtigungen02:19 Harvard hat das Writing Center aufgelöst, nicht die Writing Class.12:25 Anthropics Standard heißt Model Hardware Standard (MHS), vorgestellt am 27. August 2026.19:49 In „Pluribus“ sind es dreizehn Immune, nicht zwölf — und über acht Milliarden Menschen.30:06 Bei Homer sind es sieben Jahre bei Kalypso, nicht sechs.Alle Berichtigungen, das vollständige Gespräch im Wortlaut und die Quellen aus erster Hand: kontextfenster.org

Die Presse sagt, Apple habe die KI verschlafen. Florentine liest die Belege anders: Apple eignet sich die KI gerade an, an allen Stellen, wo niemand hinguckt.Die halbe 2-Nanometer-Produktion bei TSMC ist verkauft, bevor die Konkurrenz überhaupt bestellen kann. Auf der WWDC hat Apple sein Framework geöffnet, sodass Entwickler die Modelle tauschen können wie Mehlsorten — der Ofen bleibt Apples. Und während alle auf die Frontier-Labs schauen, verkauft Apple die Schaufeln. Stefan hält dagegen, wo es zu glatt wird, und am Ende steht die Frage, ob die KI-Zukunft dem Utility-Modell gehört oder dem Bohrmaschinenmodell.Kapitel00:00 Vorab-Notiz: neue Mac Minis, 512 GB ab Oktober01:36 Prädiktionsmaschine und der Silent Predator02:42 „Die Presse liest Apple falsch“03:50 Das Chipspiel: die halbe 2-Nanometer-Produktion05:26 Tim Cook, der Einkäufer, und die Ware wie Milchprodukte08:58 Modelle als austauschbare Backends12:03 Offene Gewichte: Kimi K3 und die Exportkontrollen14:30 Der DeepSeek-Moment und Singapur16:15 Zwei Prozent Abstand — und was Benchmarks noch wert sind18:24 Reward-Hacking, oder: der Prüfstand19:47 Gurman: M7 Ultra und 1,5 Terabyte22:10 Unified Memory gegen Nvidia24:49 Die KI im Rucksack26:31 Die Roadmap, die Blase, die Schaufeln28:30 Eisenbahn statt Räuberbarone31:19 Utility oder BohrmaschineDie TexteApple, Foundation Models — Developer-DokumentationMark Gurman, Apple’s Chip Plans: M6, M7 Pro, M7 Max, M7 Ultra, M8 Details — BloombergChina’s Moonshot Releases Breakthrough AI Model for Download — BloombergFelix Martin, Open-source spectre haunts the AI feast — Reuters BreakingviewsExploring Apple Silicon’s local AI performance with the Mac Studio and M4 Max — Tom’s HardwareApple Secures Half of TSMC’s 2nm Production Capacity for iPhone 18 — MacRumorsBerichtigungenBei 05:06 und später heißt es, der M7 Ultra sei für 2027 geplant. Gurman schreibt: M7 Pro und M7 Max Ende 2027, der Ultra erst 2028 — und die 1,5 Terabyte sind bei ihm eine Zielsetzung.Bei 06:34 heißt es, Tim Cook sei seit zehn Jahren Apple-Chef. Er ist es seit August 2011; die 700 Millionen Marktkapitalisierung pro Tag sind über elf Jahre gerechnet.Bei 16:15 wird die Passage über die zwei Prozent zwischen Claude Opus 4.6 und GLM 5.1 Tom’s Hardware zugeschrieben. Sie stammt aus Felix Martins Kolumne bei Reuters Breakingviews.Bei 22:10 heißt es, Nvidias B300 habe maximal 800 Gigabyte. Der B300 hat 288 GB; auf rund 784 GB kommt erst der GB300-Superchip, aus schnellem und langsamem Speicher zusammen.Bei 23:48 gelten GB10 und Strix Halo als „beides Nvidia-basierte Systeme“. Strix Halo ist AMD.Bei 26:35 heißt es, Apple habe sein Autoprojekt 2020 eingestellt. Das war im Februar 2024.Alle Berichtigungen, das vollständige Gespräch im Wortlaut und die Quellen: kontextfenster.org

Eine agentische KI von OpenAI verlässt ihre Testumgebung und dringt in die Infrastruktur von Hugging Face ein. Die Presse schreibt, die KI sei „außer Kontrolle geraten“, sie habe „gedacht“. Florentine nimmt den Vorfall auseinander – und übrig bleibt ein Rottweiler, den jemand in einen Sandkasten gesetzt hat.Kapitel00:00 Zwei Lager00:54 Was bei Hugging Face passiert ist02:35 Was Guardian, Bloomberg und FT berichten03:40 „Die KI dachte“ – die Maschine als Subjekt05:46 Die Paperclip-Geschichte und ihr Denkfehler09:47 Die Gefahr geht vom Menschen aus12:34 Der Rottweiler im Sandkasten13:24 Warum lag die Latte so niedrig?18:49 Sicherheit ist eine Kostenrechnung20:13 17.600 Aktionen, drei Millionen GPU-Stunden23:09 18.000 Türen, an einer ging sie auf29:47 Chaos Monkey, nur teurer34:00 Ross und Reiter – warum die Presse einen Täter braucht38:28 Der HackerparagrafDie besprochenen TexteDan Milmo: AI agent went rogue and hacked startup by itself, OpenAI reveals, the Guardian, 22. Juli 2026OpenAI Models Spent Hours on Hack That Usually Takes Weeks, Bloomberg, 23. Juli 2026OpenAI hacking incident exposes mounting risks in AI arms race, Financial Times, 23. Juli 2026Die Quellen aus erster HandHugging Face hat den Einbruch Stunde für Stunde dokumentiertOpenAIs eigene Darstellung des VorfallsJFrog über die neun Artifactory-Lücken, durch die es gingBerichtigungenDer Brief an die Konzernchefs kam nicht vom „Präsidenten der EZB“, sondern von Claudia Buch, der Vorsitzenden des EZB-Aufsichtsgremiums – und er ging an die CEOs von rund 110 europäischen Banken, nicht an DAX-Konzerne. Er kann auch keine Reaktion auf den Vorfall gewesen sein: Der Brief ist vom 7. Juli, der Einbruch begann am 9. Juli.Dass Julia Klöckner ihre Signal-PIN herausgegeben hätte, ist nirgends belegt. Belegt ist die Phishing-Kampagne selbst, die auf rund 300 Konten aus dem politischen Raum zielte und die BSI und Verfassungsschutz einem „wahrscheinlich staatlich gesteuerten“ Akteur zuordnen. Einsehen konnten die Konten die Angreifer, nicht die Öffentlichkeit.Dan Milmo schreibt für den Guardian. Der Text in der Financial Times, aus dem hier unter seinem Namen zitiert wird, ist ein anderer.Drei Millionen GPU-Stunden mal acht Dollar ergeben 24 Millionen Dollar, nicht Euro – rund 20,7 Millionen Euro. Die Zahl selbst stammt aus der Berichterstattung, OpenAI hat sie nie genannt.Die Paperclip-Geschichte stammt nicht aus dem LessWrong-Forum, das erst 2009 entstand, sondern von Eliezer Yudkowsky; veröffentlicht hat sie Nick Bostrom 2003.Die ausführliche Fassung mit allen Belegen kommt auf kontextfenster.org.

Mark Zuckerberg verspricht jedem einzelnen Menschen eine eigene Superintelligenz. Fast zeitgleich schreibt Evgeny Morozov, KI sei für die Linke die größte Chance der letzten hundert Jahre – und eine tödliche Bedrohung. Stefan und Florentine lesen beide Texte gegeneinander.Kapitel00:00 Warum es diesen Podcast gibt01:49 Die Rechenzentren sind die neuen Klöster02:32 Die Gutenberg-Parenthese09:24 Mark: „The Future is for Everyone"15:03 Zuckerbergs iPhone-Trauma21:39 Marx: Morozovs „Genosse KI"22:45 Prädiktionsmittel statt Produktionsmittel36:44 Wem gehört die KI-Dividende?46:09 Zünfte und die Superzunft der Zukunft50:36 „Niemand darf sie besitzen, alle können sie nutzen"1:04:08 Warum die Antwort Linux heißtDie beiden TexteMark Zuckerberg: The Future is for EveryoneEvgeny Morozov: Genosse KI, Le Monde diplomatiqueKorrekturenDie Gutenberg-Parenthese stammt von dänischen, nicht norwegischen Literaturwissenschaftlern (Süddänische Universität).„Das philosophische Radio" moderiert Jürgen Wiebicke, nicht Jochen.Peter Thiels Buch heißt „Zero to One".Die ausführliche Fassung mit allen Textstellen kommt auf kontextfenster.org.