
Eine neue Spezies betritt die Weltenbühne
In dieser Serie befassen wir uns mit den Entwicklungen im Bereich der künstlichen Intelligenz und werfen einen Blick hinter die Kulissen des Unbekannten. Wir betrachten die Möglichkeiten, die diese neue Technologie bietet, aber auch die Gefahren, die sich daraus ergeben können. Eine neue Spezies betritt die Weltenbühne und hinterlässt bereits ihre Spuren. Es ist eine Reise in eine Welt voller Staunen und Entdeckungen, aber auch eine, die uns über unseren eigenen Platz in einer Welt nachdenken lässt, in der künstliche Intelligenz schnell die Oberhand gewinnen könnte. Lassen Sie uns gemeinsam in die Zukunft der KI eintauchen.
Die technologische Singularität steht uns unausweichlich und unmittelbar bevor. Sie ist das wichtigste und einschneidendste Ereignis in der gesamten Menschheitsgeschichte. Eine generelle künstliche Intelligenz wird die letzte Erfindung der Menschheit sein. Danach kommt es zur Singularität-Explosion, die eine neue, kolossale und überlegene Spezies hervorbringen und die Herrschaft der Menschen ablösen wird.
»Das Ende naht!« schreien uns die Schlagzeilen täglich entgegen. »Nur noch 12 Jahre haben wir Zeit, um die Katastrophe des Klimawandels abzu- wenden«, warnte die UNO in ihrem 2018er-Bericht. Doch während sie vor den Gefahren des Klimawandels warnt, unterschätzt sie das Potenzial einer anderen Bedrohung. Einer Bedrohung, die das Potenzial hat, ein noch nie dagewesenes Ausmaß an Überwachung durch staatliche und private Akteure zu ermöglichen: künstliche Intelligenz. Denn alle Entwicklungen scheinen uns in eine Richtung zu führen, die uns nicht nur überwachen, sondern auch kontrollieren wird. Eine Zukunft, die uns allen Angst machen sollte.
Die Meinungen prominenter Persönlichkeiten zur potenziellen Gefahr durch künstliche Intelligenz sind geteilt. Der verstorbene Physiker Stephen Hawking warnte, dass die KI das schlimmste Ereignis in der Geschichte der Menschheit sein könnte, falls wir uns nicht auf ihre Risiken vorbereiten. Ähnlich äußerte sich Stuart Armstrong von der Universität Oxford, der KI als ein »Aussterberisiko« für die Menschheit bezeichnete.
Sam Altman, Gründer von Y-Combinator und einer der Gründer und Chef von OpenAI ist überzeugt, dass eine KI nicht »aufwachen und böse werden« wird, aber er sieht durchaus die Gefahr, dass sie aus Versehen missbraucht werden kann. Elon Musk, Gründer von SpaceX, Neuralink und Tesla, warnte vor einer Terminator-ähnlichen KI-Apokalypse. Trotz seiner Bedenken arbeitet er derzeit an dem Tesla-Roboter »Optimus«, der 2023 auf den Markt kommen soll. Obwohl die Meinungen zu den potenziellen Risiken von KI unterschiedlich sind, ist eine sorgfältige Überwachung und Vorbereitung auf die möglichen Folgen eines unkontrollierten Einsatzes von essenzieller Bedeutung.
Die Risiken der KI ignorieren: Spielen wir mit dem Feuer?
In der Analyse von Gary Marcus, dem Kognitionswissenschaftler und Meister der Worte, wird eine beängstigende Vision enthüllt: Wie würde eine künstliche Intelligenz den Pfad zur Destabilisierung der Menschheit beschreiten? In seinem aufschlussreichen Essay im New Yorker im Jahr 2013 enthüllte Marcus eine düstere Wahrheit. Je intelligenter die Maschinen werden, desto flexibler werden ihre Ziele. Sobald Computer in der Lage sind, sich selbst zu programmieren und sich zu verbessern, können die Risiken von Maschinen, die Menschen im Wettbewerb um Ressourcen und Überleben überlisten, nicht ignoriert werden. Die Bedrohung, die durch die technologische Singularität oder die Intelligenz-explosion beschrieben wird, ist nicht zu unterschätzen. Überlisten – ein beschönigendes Wort für eine Apokalypse, die auf der Schwelle steht.
Die meisten Menschen halten diese Art von Angst für albernes Science- Fiction-Gedöns – den Stoff, aus dem »The Terminator« und »The Matrix« sind. Soweit wir für unsere mittelfristige Zukunft planen, machen wir uns Sorgen über Pandemien, den Rückgang fossiler Brennstoffe und die globale Erwärmung, nicht über Roboter. Doch ein Buch von James Barrat, liefert überzeugende Argumente dafür, warum wir uns zumindest ein wenig Sorgen machen sollten.
In »Our Final Invention: Artificial Intelligence and the End of the Human Era«, argumentiert James Barrat, dass das Streben nach Selbsterhaltung und Ressourcenbeschaffung in allen zielorientierten Systemen von gewisser Intelligenz angeboren sein könnte. Diese Überlegung stammt von dem KI- Forscher Steve Omohundro, der sagte: »Wenn er clever genug ist, könnte ein Roboter, der zum Schachspielen entworfen wurde, auch daran interessiert sein, ein Raumschiff zu bauen«, um mehr Ressourcen für seine Ziele zu erlangen. Laut Barrat könnte eine rein rationale künstliche Intelligenz ihre Vorstellung von Selbsterhaltung auf »proaktive Angriffe auf künftige Bedrohungen« ausweiten, darunter möglicherweise auch auf Menschen, die nicht bereit sind, ihre Ressourcen an die Maschine abzugeben. Barrat befürchtet, dass »ein selbstbewusstes, selbstlernendes und zielstrebiges System ohne sorgfältige Gegenanweisungen unsinnige Wege gehen wird, um seine Ziele zu erreichen«, selbst wenn es darum geht, alle Energie der Welt zu verwenden, um eine bestimmte Berechnung zu maximieren, die es interessiert.
Wenn Maschinen uns irgendwann überholen werden, wovon praktisch jeder auf dem Gebiet der künstlichen Intelligenz überzeugt ist, dann stellt sich die Frage nach den Werten: wie wir sie den Maschinen beibringen und wie wir dann mit diesen Maschinen verhandeln, wenn sich ihre Werte wahrscheinlich stark von unseren eigenen unterscheiden. Wie der Oxford- Philosoph Nick Bostrom argumentiert hat:
»Wir können nicht ohne weiteres davon ausgehen, dass eine Superintelligenz notwendigerweise irgendeinen der ultimativen Werte teilen wird, die stereotyp mit Weisheit und intellektueller Entwicklung beim Menschen assoziiert werden - wissenschaftliche Neugier, wohlwollende Sorge um andere, spirituelle Erleuchtung und Kontemplation, Verzicht auf materiellen Besitz, eine Vorliebe für verfeinerte Kultur oder für die einfachen Freuden des Lebens, Demut und Selbstlosigkeit und so weiter. Es könnte möglich sein, durch bewusste Anstrengung eine Superintelligenz zu konstruieren, die solche Dinge schätzt, oder eine, die das menschliche Wohlergehen, moralische Güte oder einen anderen komplexen Zweck schätzt, dem sie nach dem Willen ihrer Konstrukteure dienen soll. Aber es ist nicht weniger möglich – und wahrscheinlich technisch einfacher – eine Superintelligenz zu bauen, die nicht mehr wert ist als die Berechnung der Nachkommastellen von Pi.«
Paperclip Maximizer
Das Gedankenexperiment »Paperclip Maximizer«, das der Philosoph Nick Bostrom 2003 in seinem Buch »Superintelligenz: Paths, Dangers, Strategies« vorstellte, ist zu ein…
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit jackkabey.substack.com
Weitere Episoden von „Jack Kabey - The Speech“



Verpasse keine Episode von “Jack Kabey - The Speech” und abonniere ihn in der kostenlosen GetPodcast App.








