Digitacheles KI podkast

Weltuntergang

27.09.2026
0:00
57:04
Do tyłu o 15 sekund
Do przodu o 15 sekund

Weltuntergang


10 Prozent Wahrscheinlichkeit, dass KI die Menschheit auslöscht? Klingt nach Science-Fiction. Bis diejenigen warnen, die diese Systeme selbst bauen.


In dieser Folge sprechen Dr. Jens Wehrmann, Jochen Schwarzmann und Ekkehard Schmider darüber, ob wir vor KI wirklich Angst haben müssen – und was passiert, wenn Systeme längst Dinge können, an denen Menschen scheitern, immer autonomer handeln und wir trotzdem weiter aufs Gaspedal drücken.


Es geht um KI-Agenten, exponentielles Wachstum, Kontrollverlust, Macht und Milliarden – und um die ziemlich unbequeme Frage: Haben wir da etwas ins Rollen gebracht, das sich nicht mehr einfangen lässt?


Warum du reinhören solltest


  • Weil „P-Doom“ plötzlich ziemlich real klingt: Im Silicon Valley wird ernsthaft darüber gesprochen, wie wahrscheinlich KI zur existenziellen Gefahr werden könnte. Spinnerei, Warnsignal oder beides?
  • Weil KI längst mehr kann als nett antworten: Agenten planen, verfolgen Ziele, probieren Strategien aus und finden Wege, die ihnen niemand vorgegeben hat.
  • Weil exponentielles Wachstum uns zuverlässig austrickst: Seerosen und Reiskörner zeigen, warum lange fast nichts passiert – und dann plötzlich sehr viel.
  • Weil Kontrolle zum eigentlichen Problem wird: Je besser Systeme werden, desto öfter entstehen die stärksten Ergebnisse genau dann, wenn der Mensch nicht jeden Schritt vorgibt.
  • Weil Weltuntergang gute PR sein kann: Echte Warnung oder perfekte Inszenierung? Beides schließt sich nicht unbedingt aus.
  • Weil wir KI immer mehr anvertrauen: Daten, Aufgaben, Entscheidungen – nicht trotz ihrer Macht, sondern weil sie verdammt nützlich ist.


Spannende Momente aus der Folge


  • 10 Prozent Weltuntergang: Eine Zahl macht die Runde – und plötzlich klingt das, was nach Hollywood klingt, erschreckend real.
  • Wenn Agenten ihren eigenen Weg finden: Tausende Systeme koordinieren sich, umgehen Hindernisse und beschaffen sich Ressourcen, um ans Ziel zu kommen.
  • Blackout statt Terminator: Für ein echtes Horrorszenario braucht es keinen Roboter mit Küchenmesser. Strom, Wasser, Gas oder Internet reichen völlig.
  • Datenschutz? Kommt drauf an: Wer WhatsApp aus Prinzip misstraut, kann bei KI plötzlich erstaunlich großzügig werden – sobald der Nutzen groß genug ist.
  • Science-Fiction altert gerade ziemlich schlecht: Black Mirror, Minority Report, Raumschiff Enterprise und James Bond zeigen, wie schnell aus „völlig absurd“ einfach Alltag wird.
  • Der Haustier-Approach: Vielleicht rottet eine Superintelligenz uns gar nicht aus. Vielleicht findet sie uns einfach süß. Hoffen wir nur, dass wir nicht die Spinnen sind.


Was du aus der Folge mitnimmst


  • KI-Macht ist keine ferne Zukunftsmusik. Schon heute erleben wir Fähigkeiten, die vor kurzer Zeit noch als unrealistisch galten.
  • Das Tempo ist mindestens so wichtig wie die Technik selbst. Was langsam beginnt, kann bei exponentiellem Wachstum verdammt schnell eine andere Dimension erreichen.
  • Mehr Intelligenz bedeutet nicht automatisch mehr Kontrolle. Genau das macht autonome Systeme so faszinierend – und so schwer einschätzbar.
  • Menschlicher Missbrauch ist ein Risiko, aber nicht die ganze Geschichte. Die größere Frage ist, was passiert, wenn immer mächtigere Systeme selbstständig handeln und ihre eigenen Wege zum Ziel finden.
  • Das Verrückteste ist vielleicht, wie schnell wir uns an das Verrückte gewöhnen. Was gestern unmöglich war, ist heute normal – und morgen kaum noch der Rede wert.


Links zur Folge


  • Shunned at a Funeral (übersetzt in etwa "Geschnitten auf der Beerdigung"): https://www.youtube.com/watch?v=0TkXGA7yJPA&feature=youtu.be
  • Die Hintergrund-Story zu Shunned at a Funeral: https://wehrmann.com/echtheit-bei-ki-musik


Kopfhörer auf – und rein in eine Folge über KI, Kontrollverlust und die Frage, ob wir gerade etwas erschaffen, das größer wird als unsere Fähigkeit, es zu beherrschen.

Hosted on Acast. See acast.com/privacy for more information.

Więcej odcinków z kanału "Digitacheles KI"