Wann ist KI eigentlich sicher, Kai Greshake?

Die EU führt Regeln für den Einsatz von KI-Systemen ein. Was zu riskant ist, soll notfalls ganz verboten werden. Klingt erstmal simpel, ist in der Praxis aber ziemlich komplex.

Sprichst du gerade mit einem Menschen oder einem Chatbot? Ist das Bild, das du dir da anschaust echt, oder KI-generiert?

Unfaire Bewerbungsverfahren, gestrichene Sozialleistungen, rassistische Bilderkennungssoftware: Immer wieder machen Menschen diskriminierende Erfahrungen mit KI-Programmen.

Ein Tesla verursacht einen tödlichen Unfall, Chatbots verkaufen Bullshit als Fakten, eine Software erkennt einen Tumor, wo keiner ist: Viele KI-Programme kommen mit irgendeinem Risiko daher.

KI-Programme sind neutral, objektiv und haben keine Vorurteile. Sind ja nur Daten und Algorithmen - oder? Maximilian Kiener erklärt warum das nicht stimmt, was KI mit Ethik zu tun hat und ob ein KI-Programm in Zukunft vielleicht auch Verantwortung übernehmen kann, wenn etwas schief geht.

Menschen und Technik: It’s complicated. Manche verkaufen sie als die Lösung aller Probleme, andere stehen ihr misstrauisch gegenüber oder haben sogar Angst, die Kontrolle zu verlieren. Meistens vertrauen wir einfach darauf, dass sie irgendwie funktioniert. Woher kommt dieses Vertrauen? Wie entscheiden wir, welche Technik vertrauenswürdig ist und welche nicht? Und: Stellen KI-Programme die Regeln dafür gerade auf den Kopf? Judith Simon ist Philosophin und Mitglied des Deutschen Ethikrats. Sie findet: Weniger Vertrauen ist manchmal besser!

Was denkst du: Wie oft hast du heute schon einer KI vertraut, ohne darüber nachzudenken? In Trust Issues gehen wir der Frage nach, wie dieses Vertrauen zustande kommt - und welche Grenzen es hat.