„Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen“ EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen: „Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise“.

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

 

 

15.01.2016

Demokratie braucht Frauen Austausch mit der tunesischen Frauen- und Familienministerin Samira Merai

Für das Projekt „Demokratie braucht Frauen“, mit dem sich die EAF Berlin bereits seit 2012 in Tunesien engagiert, reisten Dr. Helga Lukoschat und Projektleiterin Cécile Bonnet vom 10. bis 13. Januar nach Tunis.

12.01.2016

Mentoring für Lektoren EAF Berlin begleitet Programm der Robert Bosch Stiftung

Für das Lektorenprogramms der Robert Bosch Stiftung bereitet die EAF Berlin Mentees und Mentor/innen auf ihre Aufgaben und Rollen im Mentoring-Programm vor. Die Kooperation jährt sich bereits zum neunten Mal.

11.01.2016

Erstzeichnerin von #ausnahmslos EAF Berlin unterstützt die Kampagne

Gegen sexualisierte Gewalt und Rassismus wendet sich die Kampagne #ausnahmslos, die von mehr als zwanzig Feministinnen aus Politik, Medien, Wissenschaft und Kunst nach den sexuellen Übergriffen in der Silvesternacht in Köln initiiert wurde.

06.01.2016

Geflüchtete Frauen in Deutschland Fachgespräch von Kommunalpolitikerinnen für Kommunalpolitikerinnen

Die Situation von Geflüchteten beschäftigt derzeit Kommunen und bestimmt die Agenda in Rathäusern wesentlich. Aus diesem Anlass lädt das Helene Weber Kolleg zum Fachgespräch von und für Kommunalpolitikerinnen sowie Expertinnen nach Berlin ein.

10.12.2015

Save the date Fachkonferenz »Flexibles Arbeiten in Führung« im März 2016

Die EAF Berlin lädt gemeinsam mit der Hochschule für Wirtschaft und Recht Berlin zur Fachkonferenz »Flexibles Arbeiten in Führung« am 17. März 2016 nach Berlin ein.

06.03.2015

Mehr Frauen in die Parlamente Broschüre des Deutschen Frauenrates zu Parität ist erschienen

Der Deutschen Frauenrat hatte die EAF beauftragt, für seine Mitgliedsverbände eine Broschüre zu Parität und weitere Aktionsideen rund um das Thema zu erstellen.