
Wie sicher ist künstliche Intelligenz – und wer entscheidet, welchen Werten sie folgt? Dr. Thilo Hagendorff leitet eine Forschungsgruppe für AI Safety an der Universität Stuttgart. Mit Marco spricht er darüber, wie wir das Verhalten von Sprachmodellen untersuchen und wo menschliche Kontrolle an Grenzen stößt.
Was passiert, wenn eine KI erkennt, dass sie getestet wird? Wie lassen sich ethische Prinzipien trainieren, und welche politischen Vorstellungen stecken darin? Das Gespräch führt von autonomen Agenten und den Risiken offener Modelle zu einer Frage, die uns im Alltag betrifft: Wie nutzen wir KI, ohne uns das eigene Denken abzugewöhnen?
🎙️ Themen dieser Folge:
- KI-Risiken: Missbrauch, Kontrollverlust und gesellschaftliche Folgen
- Wenn Sprachmodelle Tests erkennen und ihr Verhalten daran anpassen
- Autonome KI-Agenten: Ziele verfolgen und Kontrolle behalten
- Wie Modelle ethische Prinzipien lernen und politische Haltungen übernehmen
- Warum offene Modelle der Sicherheitsforschung helfen und zugleich missbraucht werden
- Welche Fähigkeiten wir trotz KI selbst weiter trainieren sollten
🔗 Weiterführende Links:
- Thilo Hagendorff an der Universität Stuttgart
- Daniel Kahneman: „Schnelles Denken, langsames Denken“
- Michael Greger: „How to Survive a Pandemic“
🙌 Kontakt & Feedback:
Weitere Episoden von „Murakamy Podcast“



Verpasse keine Episode von “Murakamy Podcast” und abonniere ihn in der kostenlosen GetPodcast App.








