KI-Expertenspaces podcast

KI-Chancen nutzen und die Kontrolle behalten

0:00
2:00:05
15 Sekunden vorwärts
15 Sekunden vorwärts

Der KI-Expertenspace ist aus der Sommerpause zurück. Matthias Fischbach spricht mit Prof. Florian Gallwitz (TH Nürnberg Georg Simon Ohm), André Rieu und Andreas Kirsch. Andreas Kirsch war bis Ende September Senior Research Scientist bei Google DeepMind und hat dort unter anderem an Gemini gearbeitet. Prof. Andreas Maier (FAU Erlangen-Nürnberg) ist diesmal auf Reisen.

Im ersten Teil erklärt Andreas Kirsch, warum er DeepMind wegen der Verträge mit dem Pentagon verlassen hat und was von der früheren Unabhängigkeit des Labors übrig ist. Danach fragt die Runde, ob KI der menschlichen Kontrolle entgleiten kann: am Vorfall bei Hugging Face, an offenen Modellen, an verdeckter Kommunikation zwischen KI-Agenten und an der Idee, Modellen eine eigene Moral mitzugeben.

Im zweiten Teil geht es um Sicherheitslücken, die KI selbst findet, um das deutsche Modell Kolibri von Aleph Alpha, um Chips und Rechenzentren jenseits von USA und China und um die Frage, ob die Investitionen in KI eine Blase sind. Ingo Behne bringt dazu seine Sicht auf die Rechenzentren in Deutschland ein. Zum Schluss sagt jeder, was er Bundeskanzler Friedrich Merz mitgeben würde.

Kapitel

  • 0:00 Begrüßung und Vorstellung der Gäste
  • 1:59 Andreas Kirsch: Abschied von Google DeepMind und die Pentagon-Verträge
  • 10:54 DeepMind, Google Brain und die verlorene Unabhängigkeit
  • 22:36 Kontrollverlust über KI als ernstes Risiko
  • 27:58 Der Vorfall bei Hugging Face: Wenn Modelle im Training tricksen
  • 43:18 Offene Modelle: Wie fest lässt sich KI auf Werte verpflichten?
  • 50:26 Verdeckte Kommunikation zwischen Agenten und das Mitlesen ihrer Denkschritte
  • 1:00:38 Eigene Moral für Modelle und der Wille zur Selbsterhaltung
  • 1:10:07 KI findet Sicherheitslücken: abgeschottete Testumgebungen und gestaffelte Freigabe
  • 1:20:10 Kolibri von Aleph Alpha und digitale Souveränität
  • 1:24:56 Chips, Partner und Rechenzentren jenseits von USA und China
  • 1:32:51 Neue Cloud-Anbieter unter Finanzierungsdruck
  • 1:37:12 Ingo Behne: Rechenkapazität in Deutschland, Energie und die Frage nach der Blase
  • 1:52:26 Schlussrunde: Was man Friedrich Merz mitgeben sollte

Weitere Episoden von „KI-Expertenspaces“