Diskriminierende Algorithmen EAF-Expert Lisa Hanstein im Interview bei Deutschlandfunk Nova

Vorurteilsbehaftete Algorithmen sind leider nichts Neues: Schwarze Menschen werden nicht richtig erkannt, Frauen nicht berücksichtigt oder runtergerankt.

Künstliche Intelligenz (KI) und Algorithmen bergen in Bezug auf Gleichberechtigung und Vielfalt nicht nur Chancen, sondern auch Risiken. So gibt es Beispiele von KI-basierten Recruiting-Werkzeugen, die auf Basis diskriminierender Daten Frauen systematisch benachteiligen oder Gesichtserkennungs-Apps, die Schwarze Menschen weniger gut erkennen und damit rassistische Stereotype reproduzieren.

Der Grund: Künstliche Intelligenz ist von Menschen entwickelt und kann somit bestehende Ungleichbehandlungen der analogen Welt in den digitalen Raum übertragen. Das muss nicht unbedingt die Absicht der Entwickler*innen sein, aber dennoch wirken sich bestimmte eigene Verzerrungen am Ende auf die Produktentwicklung aus.

Digitale Technologien sind also nicht per se neutral und fair, sondern können einen sogenannte Algorithmic Bias enthalten. Ein Algorithmic Bias, zu Deutsch algorithmische Voreingenommenheit, beschreibt systematische Fehler einer Maschine, eines digitalen Systems oder einer Anwendung, die zu unfairen Ergebnissen führen, z.B. die Privilegierung einer bestimmten Nutzer*innengruppe gegenüber anderen.

„Das Allerwichtigste“, so EAF-Expert und Algorithmus-Expertin Lisa Hanstein im Interview mit Deutschlandradio Nova, sei „sich bewusst zu werden, dass etwas technisch Entwickeltes nicht automatisch fair und neutral ist, sondern dass eine bestimmte Sicht auf die Dinge eben auch in das Produkt und das Ergebnis transportiert werden kann. Und das auch ohne böses Zutun."

Ihre Empfehlung an diejenigen, die eine KI entwickeln lautet: jeden Arbeitsschritt der Produktentwicklung daraufhin zu überprüfen, welche Verzerrungen eventuell mit eingeflossen sein könnten.

24.02.2022

Angriff auf die Ukraine Ein Angriff auf Demokratie und Menschrechte

Das Projekt „Gemeinsam für Demokratie“ der EAF Berlin und der Konrad-Adenauer-Stiftung unterstützt Kommunalpolitikerinnen und Frauenorganisationen in der Ostukraine.

24.02.2022

Wie gestalten wir die Digitalisierung geschlechtergerecht? Dokumentation jetzt downloadbar

Diese Frage haben wir mit verschiedenen Akteur*innen entlang des aktuellen Gleichstellungsberichts der Bundesregierung an digitalen Runden Tischen diskutiert. Die Dokumentation der Veranstaltungsreihe steht nun zum Download bereit.

24.02.2022

Careerbuilding-Programm „Sign Up!" Das Programm für exzellente Wissenschaftler*innen der Max-Planck-Gesellschaft

Andrea Krönke, Leiterin der Akademie der EAF Berlin, hat gemeinsam mit EAF-Geschäftsführerin Kathrin Mahler Walther den neunten Durchgang des Careerbuilding-Programms „Sign Up!“ eröffnet. Ziel des Qualifizierungs- und Vernetzungsprogramms ist die...

22.02.2022

Networking online Vernetzungswochenende der Helene Weber-Preisträgerinnen

Dem Austauschwochenende der Preisträgerinnen fehlte es trotz digitaler Distanz nicht an Lebendigkeit.

17.02.2022

Unbewusste Denkmuster und Vielfalt in der Software-Entwicklung Pilot-Veranstaltungsreihe bei adesso mobile solutions

EAF-Expert Lisa Hanstein entwickelt mit Unterstützung des Fördervereins der EAF Berlin ein spezifisches Workshopkonzept für Unbewusste Denkmuster und Vielfalt in der Softwareentwicklung.

16.02.2022

Start des Aktionsprogramms Kommune „Frauen in die Politik!“ Online-Auftaktveranstaltung am 9. Februar 2022

 „Die Kommunalpolitik ist das Basislager der Demokratie! Gerade deshalb ist es wichtig, dass auch hier genügend Frauen vertreten sind.“