"Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen"

EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz.

Veröffentlicht am:

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen:

"Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise."

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

19.03.2025

In vier Terminen zwischen März und Juli 2025 bietet die digitale Veranstaltungsreihe von 10:00 bis 13:00 Uhr zielgerichtete inhaltliche Impulse, einen…

14.02.2025

Für eine Studie suchen wir berufstätige Teilnehmer*innen, die über Ihre Erfahrungen berichten möchten.

10.02.2025

"Zu anders für die Macht? Wie mutige Frauen für Gleichberechtigung in der Politik kämpfen", wurde herausgegeben von Tannaz Falaknaz, Stefanie Lohaus…

17.12.2024

Seit Juli 2024 ist die EAF Berlin eine der über 50 Kooperationspartner*innen der „Alliance for a gender-responsive and inclusive recovery in Ukraine“,…

17.12.2024

Yuliia Siedaia ist eine der Partnerinnen aus den EAF-Projekten in der Ukraine. Bevor Yuliia Siedaia vor kurzem erneut nach Berlin übersiedelte, lebte sie die letzten Monate in ihrer Heimatstadt Charkiv. Hier ihr Bericht.

17.12.2024

Angesichts des weiterhin mit Erbitterung von Russland geführten Krieges gegen die Ukraine und des nahenden Winters möchten wir Sie erneut um Spenden bitten.

13.12.2024

Für ein öffentlich gefördertes Projekt suchen wir eine Agentur für die konzeptionelle, grafische und technische Entwicklung und Umsetzung eines…

28.10.2024

Für das vom BMFSFJ geförderte Projekt „Frauen.Vielfalt.Politik“ bieten wir eine studentische Mitarbeit mit der Möglichkeit, beim Aufbau und der…

21.10.2024

Die Studie der EAF Berlin wurde im Auftrag des Sächsischen Staatsministeriums der Justiz und für Demokratie, Europa und Gleichstellung (SMJusDEG) von…

11.09.2024

Politik-Führerschein, Kodex für Umgangsformen oder stillfreundliche Kommunen:  Im Projekt "Aktionsprogramm Kommune - Frauen in die Politik!" wurden…

17.07.2024

Enge Verbundenheit der EAF mit der Femtec: Kathrin Mahler Walther wurde in den Aufsichtsrat und Tina Weber in die Gesellschafterversammlung gewählt.…

26.06.2024

Unsere deutsch-ukrainische Kooperation wird weitergehen! Das haben wir vor mehr als einem Jahr versprochen.

24.06.2024

Am 11. und 12. Juni 2024 fand die 3. internationale Konferenz für den Wiederaufbau der Ukraine (URC) in Berlin statt. Hier wurde auch eine „Allianz für geschlechtergerechten Wiederaufbau“ ausgerufen.

21.06.2024

Kateryna Levchenko ist die Nationale Gleichstellungsbeauftragte der ukrainischen Regierung. Wir trafen sie am Rande der Wiederaufbaukonferenz für die…

21.06.2024

Unser letzter Spendenaufruf zur Unterstützung unserer ukrainischen Partnerinnen und ihrer Projekte hat erneut über zehntausend Euro eingebracht. Wir danken allen Spender*innen sehr herzlich!

Bleiben Sie auf dem Laufenden

Abonnieren Sie
den Newsletter der EAF Berlin

 

Mit Absenden der Registrierung erklären Sie sich damit einverstanden, dass die von Ihnen angegebenen Daten elektronisch erfasst und gespeichert werden. Weitere Informationen entnehmen Sie bitte unserer Datenschutzerklärung.