"Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen"

EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz.

Veröffentlicht am:

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen:

"Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise."

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

17.04.2025

Wer sich in der Politik engagiert, wird zunehmend zur Zielscheibe für Hass und Hetze, online wie offline. Gewalt in der Politik darf keine Normalität…

01.04.2025

Wie lassen sich Arbeitszeiten gerechter gestalten? Ein neuer WSI-Beitrag, mitverfasst von EAF-Senior Expert Hanna Völkle, zeigt mit Blick auf die…

24.03.2025

Neu: das Diversity & Leadership Update der EAF Berlin – ein vierteljährlich erscheinendes Format, mit Studien, Zahlen und konkreten Empfehlungen rund um Diversity und Leadership. In dieser Ausgabe wird das Fokusthema…

24.03.2025

Wie lässt sich die Digitalisierung so gestalten, dass sie Chancengerechtigkeit fördert? Mit unseren Trainings- und Beratungsangeboten helfen wir…

21.03.2025

Das Bündnis "Gemeinsam gegen Sexismus" veröffentlicht ein Glossar mit 75 Begriffen rund um Sexismus, seinen Auswirkungen und Erscheinungsformen.

20.03.2025

Wie geht es weiter nach drei Jahren unerbittlichem Krieg gegen das Land? Darum drehten sich viele Diskussionen auf dem diesjährigen Café Kyiv der…

19.03.2025

Über den Spendenaufruf vom Dezember 2024 erhielten wir 4.700 Euro für unsere Partnerinnen in der Ukraine. Die großzügige Unterstützung kam dort an, wo sie dringend benötigt wurde. 

18.03.2025

Die Kleinstadt Dobroslav in der Südukraine mit Projektpartnerin und Bürgermeisterin Ludmyla Prokopechko konnte eine Städtepartnerschaft mit dem…

25.02.2025

Neuer Bundestag – weniger weiblich, weniger divers: Der Frauenanteil sinkt von 35,7 Prozent auf 32,4 Prozent.

17.02.2025

Die EAF Berlin bietet Unternehmen die Möglichkeit, sich aktiv für Demokratie und Gleichstellung in der Arbeitswelt einzusetzen und Mitarbeitende zu…

14.02.2025

Für eine Studie suchen wir berufstätige Teilnehmer*innen, die über ihre Erfahrungen berichten möchten.

10.02.2025

"Zu anders für die Macht? Wie mutige Frauen für Gleichberechtigung in der Politik kämpfen" wurde herausgegeben von Tannaz Falaknaz, Stefanie Lohaus…

07.02.2025

In vier Terminen zwischen März und Juli 2025 bietet die digitale Veranstaltungsreihe von 10:00 bis 13:00 Uhr zielgerichtete inhaltliche Impulse, einen…

17.12.2024

Seit Juli 2024 ist die EAF Berlin eine der über 50 Kooperationspartner*innen der „Alliance for a gender-responsive and inclusive recovery in Ukraine“,…

17.12.2024

Yuliia Siedaia ist eine der Partnerinnen aus den EAF-Projekten in der Ukraine. Bevor Yuliia Siedaia vor kurzem erneut nach Berlin übersiedelte, lebte sie die letzten Monate in ihrer Heimatstadt Charkiv. Hier ihr Bericht.

Bleiben Sie auf dem Laufenden

Abonnieren Sie
den Newsletter der EAF Berlin

 

Mit Absenden der Registrierung erklären Sie sich damit einverstanden, dass die von Ihnen angegebenen Daten elektronisch erfasst und gespeichert werden. Weitere Informationen entnehmen Sie bitte unserer Datenschutzerklärung.