Diskriminierende Algorithmen EAF-Expert Lisa Hanstein im Interview bei Deutschlandfunk Nova

Vorurteilsbehaftete Algorithmen sind leider nichts Neues: Schwarze Menschen werden nicht richtig erkannt, Frauen nicht berücksichtigt oder runtergerankt.

Künstliche Intelligenz (KI) und Algorithmen bergen in Bezug auf Gleichberechtigung und Vielfalt nicht nur Chancen, sondern auch Risiken. So gibt es Beispiele von KI-basierten Recruiting-Werkzeugen, die auf Basis diskriminierender Daten Frauen systematisch benachteiligen oder Gesichtserkennungs-Apps, die Schwarze Menschen weniger gut erkennen und damit rassistische Stereotype reproduzieren.

Der Grund: Künstliche Intelligenz ist von Menschen entwickelt und kann somit bestehende Ungleichbehandlungen der analogen Welt in den digitalen Raum übertragen. Das muss nicht unbedingt die Absicht der Entwickler*innen sein, aber dennoch wirken sich bestimmte eigene Verzerrungen am Ende auf die Produktentwicklung aus.

Digitale Technologien sind also nicht per se neutral und fair, sondern können einen sogenannte Algorithmic Bias enthalten. Ein Algorithmic Bias, zu Deutsch algorithmische Voreingenommenheit, beschreibt systematische Fehler einer Maschine, eines digitalen Systems oder einer Anwendung, die zu unfairen Ergebnissen führen, z.B. die Privilegierung einer bestimmten Nutzer*innengruppe gegenüber anderen.

„Das Allerwichtigste“, so EAF-Expert und Algorithmus-Expertin Lisa Hanstein im Interview mit Deutschlandradio Nova, sei „sich bewusst zu werden, dass etwas technisch Entwickeltes nicht automatisch fair und neutral ist, sondern dass eine bestimmte Sicht auf die Dinge eben auch in das Produkt und das Ergebnis transportiert werden kann. Und das auch ohne böses Zutun."

Ihre Empfehlung an diejenigen, die eine KI entwickeln lautet: jeden Arbeitsschritt der Produktentwicklung daraufhin zu überprüfen, welche Verzerrungen eventuell mit eingeflossen sein könnten.

13.10.2021

Zukunftsforum Neue Wege für Verbraucher*innen

EAF-Expert Hanna Voelke als Expertin für Digitalisierung im Bundesministerium der Justiz und für Verbraucherschutz.

04.10.2021

Aktionsprogramm Kommune - Frauen in die Politik Partner-Regionen gesucht

Die Kommunalpolitik ist die Basis der Demokratie; doch immer noch entscheiden viel zu wenige Frauen über die Geschicke ihrer Gemeinde, ihrer Stadt oder ihres Landkreises. Das "Aktionsprogramm Kommune - Frauen in die Politik" soll das in den nächsten...

30.09.2021

(GESCHLECHTER-)GERECHTE IT?! Lisa Hanstein über eine inklusivere Entwicklung von IT-Produkten

Die Expertin für IT und Diskriminierung hat im Rahmen eines Hearings der Landeshauptstadt München Anknüpfungspunkte für die geschlechtergerechte Entwicklung und den Einsatz von digitalen Angeboten vorgestellt.

30.09.2021

Monitoring der Frauenanteile im Bundestag Langsame Fortschritte

Der Frauenanteil im Bundestag erreicht nach der Wahl vom 26. September 2021 34,7 Prozent und ist damit weit von einer paritätischen Verteilung der Geschlechter entfernt.

21.09.2021

„Dir werden wir es zeigen!“ Helga Lukoschat über Sexismus im Wahlkampf

Die EAF-Vorstandsvorsitzende spricht im Interview mit der Neuen Osnabrücker Zeitung (NOZ) über selbstbewusste Weiblichkeit, männliche Prototypen in der Politik und stereotype mediale Berichterstattung.

20.09.2021

Jetzt bewerben Verstärke die Femtec!

Im Rahmen des englischsprachigen Career-Building Stipendiums für MINT-Studentinnen von Femtec, wird ein*e Programme-Manager Career-Building (m/w/d) gesucht.