#267 Toni Loh – Wenn Algorithmen diskriminieren

Sexroboter mit Barbie-Figur und voreingestellter Persönlichkeit wie „Frigid Farrah“ oder „Young Yoko“ offenbaren nicht nur ein frauenverachtendes Technikverständnis, sondern das ganze Elend einer KI-getriebenen Zukunft, die vor allem eines ist: retrospektiv. Toni Loh, lehrend in Angewandter Ethik, seziert die technoide Gegenwart mit chirurgischer Schärfe – und legt offen, dass Technologie häufig nichts anderes tut, als bestehende Ungerechtigkeiten zu wiederholen. Warum? Weil sie von Menschen gemacht wird, die genau in diesen Strukturen sozialisiert wurden. Ob Sexroboter oder Algorithmen im Bewerbungsprozess, am Ende spiegelt sich darin ein Weltbild, das vorgibt, neutral zu sein, aber zutiefst normativ wirkt.Und doch ist Toni nicht technikskeptisch. Die große Hoffnung liegt auf pluralen Teams und pluralen Interfaces – ein Design, das Vielfalt nicht nur erlaubt, sondern voraussetzt. Gerechtigkeit beginnt für sie nicht bei der Technik, sondern bei den Menschen, die sie gestalten. Und bei einem Bildungssystem, das „Zurücktreten“ als Kulturtechnik lehrt.Wer ernsthaft darüber nachdenkt, KI Rechte einzuräumen, sollte laut Toni vielleicht zuerst klären, warum viele Menschen – Demenzkranke, Schwangere, rassifizierte Gruppen – diese Rechte noch nicht oder nur bedingt genießen. Ein Denkimpuls, der bleibt: Ethische Technologie braucht keine moralischen Maschinen. Sie braucht moralisch reflektierende Gesellschaften.Mehr Informationen zu Toni Lohs aktuellem Buch „Feministische Technikphilosophie“: https://www.transcript-verlag.de/978-3-8252-6427-7/feministische-technikphilosophieZu Gast: Toni Loh, Professur für Angewandte Ethik, Hochschule Bonn-Rhein-SiegCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Verzicht auf Illusionen ist der erste Schritt zur Veränderung. Emilia Roig bringt in ihrer Auseinandersetzung mit sozialer Gerechtigkeit und Klimakrise eine radikale, fast poetische Diagnose auf den Punkt: Wir leben nicht in einer Krise, sondern in einem destruktiven System, das genau so funktioniert, wie es gedacht war. Was uns fehle, sei nicht Erkenntnis, sondern Vertrauen – in unsere Fähigkeit, eine andere Welt zu entwerfen.Kapitalismus, Reichtum, Erfolg, Leistung: Emilia dekonstruiert diese Begriffe als Bestandteile eines kollektiven Selbstbetrugs. Ihre Gegenvorschläge sind keine simplen Umwertungen, sondern Neuverortungen im Kontext von Fülle, Kooperation und Ökosystem. Reichtum wird nicht mehr als Akkumulation, sondern als geteilte Gegenwart verstanden. Erfolg ist nicht das Echo gesellschaftlicher Anerkennung, sondern ein subjektives Gefühl von Verbundenheit und Sinn.Der wahre Kipppunkt liegt für Emilia in der Lohnarbeit. Wer hier neu denkt, verändert automatisch Bildung, Sozialsysteme und unser Verhältnis zu Zeit. Die Gleichung „Zeit gegen Geld“ sei obsolet – in einer Welt, in der Geld bereits im Überfluss vorhanden ist, sei die Zeit das eigentliche knappe Gut. Ihre Forderung ist keine sanfte Reform, sondern eine Schritt-für-Schritt-Revolution: radikal, konkret, und überraschend hoffnungsvoll.Der in der Folge genannte Artikel Emilia Roigs findet sich hier: https://emiliazenzile.substack.com/Zu Gast:Emilia Roig, Politikwissenschaftlerin und AutorinCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Ein Werkzeug auf Rädern, das mit einem Playstation-Controller gesteuert wird, könnte die Malerei revolutionieren. Cristian Amaya Gómez und sein Team von ConBotics haben mit dem Malerroboter nicht nur einen funktionalen Prototyp geschaffen, sondern ein Denkmodell in die Baustelle eingeschleust: Technologie ist dann am stärksten, wenn sie sich nicht als Ersatz, sondern als Werkzeug versteht – wie eine Spülmaschine, die nicht schneller, aber sinnvoller arbeitet.Die eigentliche Provokation liegt jedoch nicht im Roboter, sondern in der Reaktion auf ihn. Das Narrativ „bei uns geht das nicht“ durchzieht ganze Branchen wie ein Mantra. Cristian zerlegt es Stück für Stück, indem er zeigt, dass auch Handwerk modular, lernbar, technikfreundlich sein kann – wenn man bereit ist, Prozesse mitzudenken und neu zu gestalten. Dass der Roboter beim Farbspritzen keine Heizkörper umläuft? Ein vermeintliches Defizit, das offenlegt, wie sehr sich Bauprozesse selbst noch auf menschliche Bewegungen verlassen.Mit dem Konzept der TechnoMaler entsteht dabei eine Koalition aus Mensch und Maschine, in der Autonomie nicht den Menschen ersetzt, sondern entlastet. So zeigt sich, wie Fortschritt aussieht, wenn er nicht als Bedrohung, sondern als Einladung zum Mitdenken formuliert wird: Der Mensch bleibt Entscheider, aber eben nicht allein im Raum.Zu Gast: Cristian Amaya Gómez, Mitgründer von ConBoticsCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Wir scheitern als Gesellschaft im Großen, wenn wir das Kleine verlernen. Wenn die Welt zu zerfallen scheint, liegt die Rettung, Hoffnung und Selbstwirksamkeit eben nicht in der globalen Politik oder in Demonstrationen zu Millionen, sondern beginnen in Nachbarschaften, Vereinen und persönlichen Beziehungen, sagt Marina Weisband, Psychologin, Publizistin und Beteiligungspädagogin im Gespräch mit Michael. Dort, wo wir tatsächlich noch Einfluss spüren und gestalten können, entsteht die Basis für gesellschaftliche Resilienz – nicht auf der internationalen Bühne, sondern im Mikrokosmos vor der eigenen Haustür.Es zeigt sich in der Bildung: Marina beschreibt diese Beteiligungspädagogik als bewussten Gegenentwurf zum System, das von Kindern vor allem Anpassung und das Erfüllen von Erwartungen verlangt. Schule, so Marina, ist in der Regel kein Ort der Persönlichkeitsentwicklung und der Demokratie. Tatsächlich sei das Schulsystem weiterhin vom preußischen Modell geprägt: Es erzieht zum perfekten Arbeiter, nicht zum mündigen Bürger. Die wichtigsten Kompetenzen – Kollaboration, Kreativität, Kommunikation und kritisches Denken – sind im System sogar oft unerwünscht oder werden bestraft. Schule bewertet Leistung daran, wie perfekt Erwartungen erfüllt werden, und nicht daran, wie ein Mensch sich entwickelt. Daraus entsteht eine „erlernte Hilflosigkeit“: Schüler gewöhnen sich daran, dass ihre eigenen Bemühungen wenig bewirken – und denken sich entsprechend klein.Besonders plastisch wird Marina, wenn sie beschreibt, wie Schulen zwar permanent gefordert sind, Kinder für Berufe vorzubereiten, die es noch gar nicht gibt, tatsächlich aber immer stärker auf reine Ausbildung und Vergleichbarkeit setzen. Das aber, sagt sie, ist der falsche Weg: Bildung darf nicht im Erfüllen von Prüfungen, Curricula und Noten erschöpfen. Was Kinder wirklich brauchen, ist die Entwicklung ihrer Persönlichkeit – das Erkunden der eigenen Neugier, das Lernen im sozialen Kontext und das Erfahren von Selbstwirksamkeit.Auch die Digitalisierung – und neuerdings KI – ändert an diesen Grundproblemen wenig, solange Schule nicht ihre Aufgabe grundlegend neu denkt. KI zwingt lediglich dazu, Hausaufgaben neu zu gestalten, wirklich gefährlich wird sie, wenn sie das Denken und Formulieren vollständig übernimmt. Die Schule müsse daher dringend Räume schaffen, in denen echtes gemeinsames Lernen möglich ist, jenseits von starren Fächern und Prüfungsdruck.Es ist das Erlernen von Kleinmut, das uns lähmt – und das wir verlernen müssen. Mut, das eigene Umfeld zu gestalten, entsteht im Praktischen, im Nahen, im Gemeinsamen. Wer verlernt, groß zu denken, bleibt beim Wunsch nach mehr Klopapier auf der Schultoilette stehen – aber auch das kann der erste Schritt zu echter Veränderung sein, wenn daraus Erfahrung von Wirksamkeit wächst.Im Zeitalter von KI und digitaler Disruption stellt Marina die entscheidende Frage: Welche Gesellschaft wollen wir? Was bleibt unser menschlicher Kern, wenn wir Routine an Maschinen auslagern? Die Antwort liegt nicht in weiterer Standardisierung und Kontrolle, sondern im Vertrauen auf die Fähigkeit, sich immer wieder selbst und gemeinsam zu erneuern. Das Große entsteht aus dem Kleinen, und jede Hoffnung beginnt in der gelebten Nähe.&nbsp;Das von Marina genannte Buch ist Wie wäre es, gebildet zu sein? von Pieter Bieri. Die Podcastfolgen, über die Marina und Michael sprechen, sind diese: Micha Pallesche – Was bedeutet Zukunft für Schule? und <a href="https://player.captivate.fm/episode/f20738c7-9422-45af-8702-73975fea3d02/" rel="noopener noreferrer"...

Wenn die Zukunft zum Versprechen werden soll, braucht sie eine Geschichte, die Hoffnung macht – nicht eine, die Angst schürt. Christoph Bornschein trifft in seinem Gespräch mit Michael einen Nerv: Statt Technologie als Bedrohung zu inszenieren, wäre es an der Zeit, ihre Gestaltungskraft zu entdecken. Doch eine Gesellschaft, in der 51 Prozent der Erwerbstätigen weniger als basale digitale Fähigkeiten besitzen, bleibt im Modus der Nutzung – statt selbst zu gestalten.Der Diskurs ist elitär, weil der Zugang fehlt. Und wo Bildung fehlt, übernehmen Beruhigungsnarrative: Der Passat wird ewig gebaut, der Wandel wird sanft sein. Christoph spricht von der Notwendigkeit, das „Pflaster abzuziehen“. Gesellschaftliche Ehrlichkeit statt falscher Rücksichten – auch wenn das bedeutet, sich von liebgewonnenen Selbstbildern zu trennen.Er schlägt vor, sich von der Verklärung der Vergangenheit aktiv zu verabschieden. Vergessen – nicht als Defizit, sondern als bewusster, produktiver Akt: Nur wer loslässt, kann gestalten. In der Idee eines „gesellschaftlichen Vergessensprozesses“ liegt die radikalste These dieser Episode. Und vielleicht auch die hoffnungsvollste. Denn erst wenn wir akzeptieren, dass die bisherigen Muster ihre Wirksamkeit verloren haben, entsteht Raum für Neues: für Narrative, die Europa als digital handlungsfähigen Raum denken, für eine Ökonomie, die Software nicht nur benutzt, sondern entwickelt – und für ein Bildungssystem, das Zukunft nicht als Ausnahme, sondern als Standard versteht.Zu Gast: Christoph Bornschein, Mitgründer und Chairman von TLGGCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Der Turnschuh ist ein Stück verdichteter Industriegeschichte, unserer Fähigkeit, unterirdische Wälder zu roden, den Kohlenstoff zu ernten und ihn in Produkte aller Arten umzuwandeln. Fossiles Denken und Handeln.Dass dieses Denken an seine Grenzen gekommen ist, darüber müssen wir nun wirklich nicht mehr sprechen. Wie wir die fossilen Denkmuster verlassen, darüber schon eher. Lars Börger, CEO des nova-Instituts, sagt: Nicht der Kohlenstoff ist das Problem, sondern seine Quelle. Wir müssen nicht weniger Kohlenstoff nutzen, sondern ihn intelligenter herleiten. Die Zukunft der chemischen Industrie wird entsprechend nicht dekarbonisiert, sondern rekohlenstofft – aus neuen, erneuerbaren Quellen.Drei Wege öffnen sich dafür: Recycling bestehender Materialien, das Abscheiden und Nutzen von CO₂ aus der Atmosphäre und die Nutzung pflanzlicher Biomasse. Jede dieser Quellen hat ihr eigenes technologisches Potenzial und ihre ökologischen wie ökonomischen Logiken. Um das zu befördern, sollten wir eine Art Pfand auf Kohlenstoff einführen: Ein Anreizsystem, das Kohlenstoff nicht als Müll, sondern als wiederverwertbaren Wertstoff versteht – ein Umlaufvermögen in einer Kreislaufwirtschaft.Lars sagt: Der Weg aus der fossilen Abhängigkeit führt eben nicht durch das Tal des Verzichts, sondern durch intelligente Transformation.&nbsp;Es ist ein Paradigmenwechsel: weg vom linearen „Take-Make-Dispose“-Denken, hin zu zirkulären Geschäftsmodellen und industrieller Kollaboration. Lars denkt Chemie nicht mehr als Branche, sondern als Infrastruktur unseres Lebens. Seine Vision: ein vollständiger Umbau der Wertschöpfungsketten – realisierbar bis 2050, mit bereits existierender Technologie. Es mangelt nicht an Wissen, sondern an politischem Willen. Was wie eine ökologische Notwendigkeit daherkommt, entpuppt sich als ökonomische Chance. Ein massives Zukunftsprogramm, das längst bereitliegt – wenn wir den Mut zum Umbau aufbringen.Zu Gast: Lars Börger, CEO des nova-InstitutsCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Wenn Jochen Schwill von neun Gigawatt Batterie-Kapazität in deutschen Kellern spricht – das entspricht neun Großkraftwerken – wird schlagartig klar, dass die Energiewende kein infrastrukturelles Manko, sondern ein Vernetzungsproblem hat. Die Zukunft der Energieversorgung liegt nicht im Bau weiterer Kraftwerke, sondern in der Integration dezentraler Ressourcen: Elektroautos, Wärmepumpen, Heimspeicher. Sie sind nicht das Problem, sondern die Lösung – wenn man sie richtig orchestriert.Dabei ist nicht einmal Technologie das Hindernis. Flexibilität und Resilienz im Stromsystem sind heute machbar – technisch längst gelöst, wirtschaftlich durch marktfähige Preise von Photovoltaik und Speichern untermauert. Was fehlt, ist der kluge regulatorische Rahmen, der diese Flexibilität zugänglich macht, und die Bereitschaft, sie konsequent zu nutzen. Es geht nicht mehr um das „Ob“, sondern um das „Wie klug und wie schnell“.Jochens Vision von SpotMyEnergy als „größter virtueller Batterie Deutschlands“ ist daher mehr als ein Geschäftsmodell. Es ist ein Paradigmenwechsel: weg vom Großkraftwerk, hin zum Schwarm intelligenter Verbraucher. In dieser Stromzukunft ist das Licht nicht mehr einfach an oder aus – es ist vernetzt. Und jedes Einfamilienhaus kann Teil des Netzes sein, nicht als passiver Konsument, sondern als aktiver Spieler in einem System, das von unten wächst. Ohne Ideologie, einfach weil es funktioniert.Hier geht es zur erwähnten Folge "Maximilian Fichtner: Innovation Batterie – Der Akku treibt die Energiewende"Zu Gast: Jochen Schwill, Gründer und Geschäftsführer von SpotMyEnergyCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Ein Zeitalter der digitalen Souveränität kündigt sich nicht mit Pauken und Trompeten an – sondern mit schleichender Irritation. Matthias Stürmer nennt es den Moment, in dem selbst die eigene Mutter versteht, woran man arbeitet. Die Sorge um digitale Selbstbestimmung ist vom Nischeninteresse zur politischen und ökonomischen Schlüsselfrage geworden. Das Überraschende dabei: Nicht ein spektakulärer Technologiesprung, sondern die politischen Risiken der Gegenwart – eine erratische US-Regierung, exzessive Lizenzgebühren, plötzliche Abhängigkeiten – lassen das Thema plötzlich akut erscheinen.Matthias' stärkstes Argument ist kein ideologisches, sondern ein betriebswirtschaftliches. Die digitale Abhängigkeit sei wie tägliches Taxifahren zur Arbeit: teuer, bequem, aber unsinnig, wenn man dauerhaft unterwegs ist. Europäische Alternativen existieren längst, auch wenn sie nicht mit denselben gigantischen Service-Katalogen glänzen. Der Mythos, nur US-Konzerne könnten Cloud und KI wirklich beherrschen, fällt spätestens dann, wenn man sieht, dass ihre Technologien ohnehin auf Open-Source-Grundlagen basieren.Die entscheidende Einsicht liegt in der Analogie zur Energiewende: Digitale Infrastruktur ist öffentliche Infrastruktur. Wer Wertschöpfung, Sicherheit und Innovationsfähigkeit lokal erhalten will, muss digitale Dienste als Gemeingut denken – nicht als bequemes Abo-Modell aus Übersee. Und wie bei jeder echten Transformation braucht es politische Weichenstellungen, persönliche Haltung und ein bisschen, ja: Zweckoptimismus.Zu Gast:Matthias Stürmer, Professor für Digitale Nachhaltigkeit an der Berner Fachhochschule und der Berner Universität.Create your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Der nachhaltigste Ziegel ist der, der bereits verbaut wurde. Diese Erkenntnis steht im Zentrum eines neuen Denkens über Architektur und Bauwirtschaft. Dominik Campanella, Mitgründer von Concular, macht sich für eine radikale Revision unserer Vorstellungen vom Bauen stark – nicht aus architektonischer Tradition heraus, sondern mit dem pragmatischen Blick eines Informatikers: Warum etwas wegwerfen, das noch funktioniert?Das Fundament seiner Arbeit ist nicht Innovation um der Innovation willen, sondern das gezielte Einfügen in eine Branche, die vor allem eines ist: risikoavers. Statt neue Regeln zu diktieren, entwickelt Concular DIN-Normen, die von innen heraus Wandel ermöglichen – ein Meisterstück strategischer Subversion. Dominik ist kein Zerstörer des Status quo, sondern ein Architekt seines Umbaus.Hinter dem scheinbar spröden Begriff "Urban Mining" steckt eine fast poetische Idee: Gebäude als Materialbanken mit Geschichte. Backsteine, Leuchten, Aluminiumfassaden – sie alle bekommen ein zweites, drittes, viertes Leben. Concular schafft nicht nur Märkte, sondern Narrative, die aus gebrauchten Materialien wertvolle Stoffe der Zukunft machen.Der größte Hebel? Bestandserhalt. Ein saniertes Gebäude kann den CO₂-Fußabdruck von zwei Neubauten einsparen. Damit wird die Abrissbirne zur Klimasünde und die Patina alter Ziegel zur neuen Eleganz. Was früher als Altlast galt, wird heute zur Ressource – wenn man nur den Mut hat, es anders zu denken.Zu Gast: Dominik Campanella, Mitgründer von ConcularCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand

Was, wenn der Landwirt der Zukunft kein Ackerfeld mehr braucht, sondern Algencontainer? Thomas Brück, Biotechnologe an der TU München, denkt Landwirtschaft radikal neu – und zwar mit Algen. Diese Mikroorganismen werden bei ihm nicht bloß in der Petrischale kultiviert, sondern als biotechnologische Alleskönner ernst genommen. Ob Hühnereiweiß, Kakaobutter oder sogar synthetisches Kerosin – Algen können zur Grundlage einer CO₂-neutralen Produktion werden, quer durch alle Branchen. Thomas spricht nicht von grünen Träumereien, sondern von funktionierenden Stoffkreisläufen, von Hightech-Natur in industriellem Maßstab.Die Brillanz seiner Vision liegt im Perspektivwechsel: Die Klimakrise wird nicht mehr bloß als Umweltproblem verstanden, sondern als Zivilisationsfrage. Der Begriff „Klimaschutz“ greift zu kurz – es geht darum, die Grundlagen unserer eigenen Existenz zu sichern. Und dazu braucht es mehr als Forschung als Alibi. Es braucht entschlossene Anwendungen, neue Wirtschaftsweisen und einen mentalen Brückenschlag zwischen wissenschaftlicher Neugier und industrieller Praxis.Thomas zeigt: Biotechnologie ist kein abstrakter Hoffnungsträger, sondern ein konkreter Hebel, der CO₂ in Wertstoffe verwandelt. Das ist kein ferner Zukunftsroman – die Revolution gärt bereits im Algentank. Wer sehen will, wie sie aussieht, muss nur einmal in ein Labor der TU München schauen. Und wer wissen will, wann sie kommt – Thomas sagt: in zehn Jahren. Wer klug ist, schaut schon heute genau hin.Zu Gast:Thomas Brück, Leiter des Werner-Siemens-Lehrstuhls für Synthetische Biotechnologie an der Technischen Universität MünchenCreate your podcast today! #madeonzencastrMentioned in this episode:AI first – Das Praxisbuch für den MittelstandJetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.AI first. Das Praxisbuch für den Mittelstand