„Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen“ EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen: „Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise“.

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

 

 

26.07.2021

"Wir brauchen eine feministische Bundesregierung" Ricarda Lang im Gespräch mit der Berliner Erklärung

Heute fand das zweite Gespräch zur Berliner Erklärung mit der stellvertretenen Bundesvorsitzenden und Frauenpolitischen Sprecherin von Bündnis 90/ Die Grünen, Ricarda Lang, statt.

21.07.2021

Fortschritt im Schneckentempo EAF Berlin veröffentlicht Daten zu Nominierungen von Frauen zur Bundestagswahl 2021

Nach der Wahl zum 19. Bundestag 2017 war die Anzahl der weiblichen Abgeordneten auf den Stand von vor 20 Jahren gesunken. Neben der stark männlich dominierten AfD war der Rückgang auch den vergleichsweisen geringen Anteilen bei der FDP sowie bei...

20.07.2021

„Kein einziges Dax-Unternehmen hat seine Zentrale im Osten“ Interview mit Kathrin Mahler Walther

Nur 10,1 Prozent der bundesdeutschen Eliten kommen aus den neuen Bundesländern – obwohl ostdeutsche Menschen knapp 20 Prozent der Gesamtbevölkerung Deutschlands ausmachen. Aus welchen Gründen Führungspositionen in Deutschland nach wie vor primär von...

14.07.2021

„Es werden andere Erwartungen an Frauen in der Politik gestellt als an Männer“ Helga Lukoschat bei ZDFzoom

„Unter Männern: Was bremst Frauen in der Politik?“ heißt die Reportage des ZDF,  in der neben Bundesverteidigungsministerin Annegret Kramp-Karrenbauer und der Bundestagsvizepräsidentin Claudia Roth auch die EAF-Vorstandsvorsitzende zu Wort kommt.

13.07.2021

Vom Hallenboden lernen Transformation gelingt nur gemeinsam

Wie kann flexible und partizipative Arbeitszeitgestaltung in der Fertigung gelingen? Zusammen mit Beschäftigten des Volkswagen Konzerns hat die EAF Berlin von 2018 bis 2021 mit öffentlicher Förderung praktische Lösungsansätze dazu entwickelt.

30.06.2021

Diversity-Hacks! 23 gute Praxisbeispiele für Diversity, Equity and Inclusion

Die EAF Berlin und der Bundesverband der Personalmanager (BPM) haben gemeinsam die Broschüre „Die besten Diversity Hacks. Konkrete Tipps für Vielfalt und Inklusion in der Personalpraxis“ veröffentlicht.