Der neutrale Mythos

Dieses Buch untersucht, wie KI‑Systeme in Einstellungen, Kreditvergabe und Marketing entscheidend mitmischen, ohne dass die darauf lastenden ethischen Fragen klar verteilt sind, und lädt dazu ein, Macht nicht nur in statistischer Präzision, sondern in der Fähigkeit zu sehen, mit Ungerechtigkeit umzugehen. Es fragt, was passiert, wenn Technik Muster reproduziert, statt sie zu hinterfragen, und wann Transparenz zu einem Schein wird. Im Vordergrund stehen zwei zentrale Mechanismen. Erstens entsteht durch die Automatisierung komplexer Entscheidungsprozesse eine unterschwellige Verantwortungsverschiebung: Verantwortung wandert unsichtbar von Menschen zu „Modellen“; die als neutral erscheinen, obwohl sie historische Ungleichheiten, Bias und Datenmuster in sich tragen. Zweitens erleben betroffene Personen Algorithmen oft als undurchschaubare Autorität, was ein Gefühl von Ohnmacht und Entfremdung verstärkt, selbst wenn sie nicht nennen können, was genau unfair ist.