Diskriminierende Algorithmen EAF-Expert Lisa Hanstein im Interview bei Deutschlandfunk Nova

Vorurteilsbehaftete Algorithmen sind leider nichts Neues: Schwarze Menschen werden nicht richtig erkannt, Frauen nicht berücksichtigt oder runtergerankt.

Künstliche Intelligenz (KI) und Algorithmen bergen in Bezug auf Gleichberechtigung und Vielfalt nicht nur Chancen, sondern auch Risiken. So gibt es Beispiele von KI-basierten Recruiting-Werkzeugen, die auf Basis diskriminierender Daten Frauen systematisch benachteiligen oder Gesichtserkennungs-Apps, die Schwarze Menschen weniger gut erkennen und damit rassistische Stereotype reproduzieren.

Der Grund: Künstliche Intelligenz ist von Menschen entwickelt und kann somit bestehende Ungleichbehandlungen der analogen Welt in den digitalen Raum übertragen. Das muss nicht unbedingt die Absicht der Entwickler*innen sein, aber dennoch wirken sich bestimmte eigene Verzerrungen am Ende auf die Produktentwicklung aus.

Digitale Technologien sind also nicht per se neutral und fair, sondern können einen sogenannte Algorithmic Bias enthalten. Ein Algorithmic Bias, zu Deutsch algorithmische Voreingenommenheit, beschreibt systematische Fehler einer Maschine, eines digitalen Systems oder einer Anwendung, die zu unfairen Ergebnissen führen, z.B. die Privilegierung einer bestimmten Nutzer*innengruppe gegenüber anderen.

„Das Allerwichtigste“, so EAF-Expert und Algorithmus-Expertin Lisa Hanstein im Interview mit Deutschlandradio Nova, sei „sich bewusst zu werden, dass etwas technisch Entwickeltes nicht automatisch fair und neutral ist, sondern dass eine bestimmte Sicht auf die Dinge eben auch in das Produkt und das Ergebnis transportiert werden kann. Und das auch ohne böses Zutun."

Ihre Empfehlung an diejenigen, die eine KI entwickeln lautet: jeden Arbeitsschritt der Produktentwicklung daraufhin zu überprüfen, welche Verzerrungen eventuell mit eingeflossen sein könnten.

11.04.2022

Jetzt bewerben! Überparteiliches Mentoring-Programm für mehr Frauen in der Kommunalpolitik

Das „Aktionsprogramm Kommune ­­ – Frauen in die Politik“ bietet mit seinem überparteilichem Mentoring-Programm politisch interessierten Einsteigerinnen und frisch gewählte Mandatsträgerinnen die Möglichkeit der Begleitung durch erfahrene...

11.04.2022

Publikation Arbeitsmarktintegration von Geflüchteten Überarbeitete Auflage

Die Publikation „Arbeitsmarktintegration von Geflüchteten“ der Arbeitsgemeinschaft für wirtschaftliche Zusammenarbeit aus 2020 wurde aufgrund der aktuellen Situation in der Ukraine aktualisiert und kann kostenlos bestellt werden.

5. April 2022

Stand with Ukrainian Women Newsletter Nr. 2

Unser zweiter Sonder-Newsletter zur Ukraine erscheint in Tagen, in den die Nachrichten aus der Ukraine fürchterlich sind.

5. April 2022

Kein Frieden um jeden Preis Ein Gespräch mit Darya Romanenko

Die Deutsch-Ukrainerin organisiert mit einem internationalen Team vom rumänischen Grenzort Suceava aus Hilfe für die ukrainischen Kriegsgebiete.

5. April 2022

Kampf für Demokratie und Freiheit in ganz Europa Solidaritätsadresse für die Ukraine

Kommunalpolitikerinnen aus Deutschland und Frankreich erklären sich solidarisch mit dem Verteidigungskampf der Ukrainer*innen gegen die russischen Kriegsführer.

05. April 2022

Unterstützung für ukrainische Frauen Spendenmöglichkeit

Vor dem Hintergrund unserer Kenntnis und persönlichen Verbundenheit mit den ukrainischen Partnerinnen und ihren Organisationen startet die EAF Berlin einen Spendenaufruf.