Diskriminierende Algorithmen EAF-Expert Lisa Hanstein im Interview bei Deutschlandfunk Nova

Vorurteilsbehaftete Algorithmen sind leider nichts Neues: Schwarze Menschen werden nicht richtig erkannt, Frauen nicht berücksichtigt oder runtergerankt.

Künstliche Intelligenz (KI) und Algorithmen bergen in Bezug auf Gleichberechtigung und Vielfalt nicht nur Chancen, sondern auch Risiken. So gibt es Beispiele von KI-basierten Recruiting-Werkzeugen, die auf Basis diskriminierender Daten Frauen systematisch benachteiligen oder Gesichtserkennungs-Apps, die Schwarze Menschen weniger gut erkennen und damit rassistische Stereotype reproduzieren.

Der Grund: Künstliche Intelligenz ist von Menschen entwickelt und kann somit bestehende Ungleichbehandlungen der analogen Welt in den digitalen Raum übertragen. Das muss nicht unbedingt die Absicht der Entwickler*innen sein, aber dennoch wirken sich bestimmte eigene Verzerrungen am Ende auf die Produktentwicklung aus.

Digitale Technologien sind also nicht per se neutral und fair, sondern können einen sogenannte Algorithmic Bias enthalten. Ein Algorithmic Bias, zu Deutsch algorithmische Voreingenommenheit, beschreibt systematische Fehler einer Maschine, eines digitalen Systems oder einer Anwendung, die zu unfairen Ergebnissen führen, z.B. die Privilegierung einer bestimmten Nutzer*innengruppe gegenüber anderen.

„Das Allerwichtigste“, so EAF-Expert und Algorithmus-Expertin Lisa Hanstein im Interview mit Deutschlandradio Nova, sei „sich bewusst zu werden, dass etwas technisch Entwickeltes nicht automatisch fair und neutral ist, sondern dass eine bestimmte Sicht auf die Dinge eben auch in das Produkt und das Ergebnis transportiert werden kann. Und das auch ohne böses Zutun."

Ihre Empfehlung an diejenigen, die eine KI entwickeln lautet: jeden Arbeitsschritt der Produktentwicklung daraufhin zu überprüfen, welche Verzerrungen eventuell mit eingeflossen sein könnten.

16. August 2022

Stand with Ukrainian Women Newsletter 6

Dieser Newsletter steht ganz im Zeichen des Besuchs von drei Partnerinnen des Projekts "Gemeinsam für Demokratie" Ende Juli in Berlin.

16. August 2022

„Wir müssen den Krieg und den Frieden gewinnen“ Zwischen Überlebenskampf und Gestaltungswillen

Bewegend verlief die Gesprächsrunde in der Konrad-Adenauer-Stiftung mit vier ukrainischen Expertinnen und Aktivistinnen im Rahmen des Projekts "Gemeinsam für Demokratie".

16. August 2022

"Netzwerke sind die Struktur der Zukunft“ Helene-Weber-Preisträgerin Katja Glybowskaja im Gespräch mit ukrainischen Projektpartnerinnen

Für unsere ukrainischen Partnerinnen war das Treffen am 29. Juli mit Helene-Weber-Preisträgerin Katja Glybowskaja einer der Höhepunkte ihrer Reise.

16. August 2022

"Die Abwesenheit von Frauen in der Politik ist eine Schande" Ein Gespräch mit Natalya Deliyeva

Die Kulturschaffende und ehemalige Kandidatin für das Bürgermeisteramt in Odessa ist Vorsitzende der ukrainischen Frauenorganisation Diya.

6. August 2022

Fenster zur Welt Die Ukraine zu Besuch im Künstler*innenhaus Schloss Plüschow

Was hat ein Schloss mitten in Nordwestmecklenburg mit #StandwithUkrainianWomen zu tun? Augenscheinlich ziemlich viel.

27. Juli 2022

"Lugano hat mir Hoffnung gemacht" Gespräch mit Liliya Kislitsyna

Unsere Projektpartnerin hat an der internationalen Ukraine-Wiederaufbau-Konferenz teilgenommen, die vom 4. bis 5. Juli im schweizerischen Lugano stattfand.