„Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen“ EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen: „Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise“.

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

 

 

01. September 2021

Eine menschenrechtliche und humanitäre Katastrophe Statement zur Machtübernahme in Afghanistan

Auf Initiative des Dachverbands der Migrantinnenorganisationen (DaMigra) und gemeinsam mit vielen afghanischen und anderen Frauenrechtsorganisationen ruft die EAF Berlin zum Schutz afghanischer Frauen und Kinder auf.

20.08.2021

Vom Protest zum Podest Abschluss des digitalen Mentoring-Programms PolMotion

Das Mentoring-Programm richtete sich an Frauen aus der polnischen Community und soll ihrem politischen und gesellschaftlichem Engagement zu mehr Sichtbarkeit verhelfen.

12.08.2021

Fortschritt im Schneckentempo Die Ergebnisse des Geschlechter-Monitoring

Nach wie vor werden weniger Frauen und nicht-binäre Personen als Männer von den Parteien für die Bundestagswahl aufgestellt. Unsere Analysen und interaktiven Grafiken zeigen die Ergebnisse.

11.08.2021

Jetzt bewerben! Zweiter Durchgang des Mentoring-Programms Vielfalt startet im Herbst

Menschen mit Migrationsbiografie machen zwar 26 Prozent unserer Gesellschaft aus, sind aber in der Politik auf allen Ebenen stark unterrepräsentiert. Gerade Frauen mit Migrationsbiografie können zu einer vielfältigen Parteienlandschaft beitragen.

10.08.2021

Herzliche Einladung zum Sommerfest der EAF Ausstellungsbesuch und Get together im Garten des Kunsthaus Dahlem

Am 26. August 2021 ist es soweit: nach dem coronabedingten Ausfall des persönlichen Zusammenkommens, wird es in diesem Jahr wieder ein Sommerfest der EAF und ihres Fördervereins geben.

05.08.2021

Kommunalpolitisches Empowerment-Programm für Studentinnen Zweiter Durchgang startet im Herbst!

Im gemeinsamen Projekt mit der Europa-Universität Viadrina, der Universität Leipzig, der Universitätsallianz Ruhr und den Städten Bochum, Dortmund und Essen setzt sich das Helene Weber Kolleg für mehr junge Frauen in der Kommunalpolitik ein.