Kapitänin des Frauen-Schachclubs: Für einen Menschen ist das eine Nebensache im Lebenslauf. Für die Recruiting-KI, die Amazon ab 2014 in Edinburgh entwickeln lässt, kostet das Wort „women's“ Punkte. Fünfhundert Modelle lernen aus den Bewerbungen von zehn Jahren, wen Amazon bisher für gut befunden hat. Weil das in technischen Berufen meist Männer waren, lernt die Maschine genau das.
2015 bemerkt das Team das Problem. Es macht die Programme gegenüber den verräterischen Begriffen neutral, kann aber nicht garantieren, dass die Software keine anderen Wege findet, Bewerberinnen auszusortieren. Anfang 2017 wird das Team aufgelöst. Die Öffentlichkeit erfährt im Oktober 2018 davon, durch einen Bericht der Nachrichtenagentur Reuters.
Die Folge geht zurück nach London ins Jahr 1979. An der St George's Hospital Medical School sortiert ein Computerprogramm Bewerbungen für das Medizinstudium vor und zieht Punkte für nicht-europäische Namen und für Frauen ab. Dann geht es in die Gegenwart: zu HireVue, iTutorGroup und einer Studie der University of Washington mit über drei Millionen Vergleichen. Und zu Derek Mobley, der Workday verklagt hat, nachdem er auf mehr als hundert Bewerbungen nur Absagen bekam. Das Verfahren läuft noch (Stand November 2026).
Am Ende steht die Frage, was Regeln wie das New Yorker Local Law 144 und der EU AI Act ausrichten können. Und warum eine Maschine, die aus der Vergangenheit lernt, vor allem ein Spiegel ist.
Weitere Episoden von „Das Ganze“



Verpasse keine Episode von “Das Ganze” und abonniere ihn in der kostenlosen GetPodcast App.


