"Technik ist wie ein Spiegel der Gesellschaft, der schlicht wiedergibt, was wir als Individuen mitbringen"

EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz.

Veröffentlicht am:

Von diskriminierenden Algorithmen bis zu rassistischen Seifenspendern: Künstliche Intelligenz (KI) ist nicht so neutral, wie sie auf den ersten Blick erscheinen mag. Worauf das zurückzuführen ist, erklärt unsere KI-Expertin in der taz.

Wenn digitale Anwendungen diskriminieren, kann das auch an den Menschen liegen, die an ihrer Entwicklung beteiligt sind. Eine homogene Gruppe kann unwissentlich Produkte entwerfen, die nicht für alle Menschen gleichermaßen funktionieren, weil ihre eigenen unbewussten Denkmuster und Stereotypisierungen ins Produkt transferiert werden oder sie nicht alle End-User*innen in ihrer Diversität mitdenken. In Deutschland sind an der Entwicklung von IT vor allem Männer beteiligt. Sie machten 2018 einen Anteil von 83 Prozent der in der IT-Branche Angestellten aus. Bestehende Ungleichbehandlungen der analogen Welt werden so quasi in den digitalen Raum übertragen.

Auf diese Weise kann es beispielsweise dazu kommen, dass Frauen durch die Stimmverarbeitung in Onlinegesprächen benachteiligt werden. Anteile ihrer Sprache werden teilweise nicht übertragen, weil höhere Frequenzen von den Programmen ausgedünnt werden. Das Ergebnis: Redebeiträge von Frauen werden häufig als deutlich weniger überzeugend wahrgenommen.

Aber nicht nur Geschlecht ist ein Merkmal, das in der Entwicklung von IT-Produkten nicht ausreichend berücksichtig wird. Ebenso sind viele Anwendungen, die auf Künstlicher Intelligenz (KI) basieren, maßgeblich für die Belange weißer Menschen konzipiert. EAF-Expertin Lisa Hanstein erläutert dies folgendermaßen:

"Wenn wir Gesichtserkennungsmodule nur mit Bildern von weißen Männern trainieren, sind diese Module nun mal sehr gut im Erkennen von weißen Männern, nicht aber von Schwarzen Frauen beispielsweise."

Dass KI aber auch dafür genutzt werden kann, bestehende Diskriminierungen zu bekämpfen, zeige das Projekt „Decoding Antisemitism“. Dieses sei dafür entwickelt, antisemitische Kommentare in den sozialen Medien zu identifizieren, damit sie schneller und effektiver gelöscht werden können, so Hanstein.

Das Fazit der KI-Expertin lautet: Langsam und gemächlich kehrt auch in der IT-Branche ein Bewusstsein für gesellschaftliche Diskriminierungsmechanismen ein.

Den ganzen Artikel lesen Sie hier.

31.05.2024

Wie können Maßnahmen gegen Sexismus intersektional umgesetzt werden? Welche guten Praktiken gibt es in Deutschland und anderen europäischen Ländern?…

23.05.2024

Wer hat sich schon mehrfach als Mentor*in engagiert und besonders starken Einsatz für die Mentees gezeigt? Wer sollte als Vorbild eine besondere…

23.05.2024

Vier von 65: So viele Frauen waren 1949 an der Ausgestaltung des Grundgesetzes beteiligt. Frieda Nadig, Elisabeth Selbert, Helene Weber und Helene…

15.05.2024

Berichterstattung über Femizide, Geschlechterdarstellungen in Film und Fernsehen oder im Gaming: Sexismus ist in den Medien sehr präsent; Stereotypen…

16.04.2024

Sexismus betrifft uns alle – und doch wird nur ungern darüber gesprochen. Mit der kostenfreien Ausstellung unterstützt das Bündnis "Gemeinsam gegen…

22.03.2024

Bundesfrauenministerin Lisa Paus hat fünfzehn Kommunalpolitikerinnen für ihren politischen, zivilgesellschaftlichen und frauen- und…

21.03.2024

Zum vierten Mal startet jetzt das „Begleitprogramm Chancengleichheit“, welches die Fraunhofer-Gesellschaft in Co-Kreation mit der EAF Berlin…

20.03.2024

Da wir unser Büro neu gestalten und einrichten, wollen wir einige Büromöbel gerne an Interessierte weitergeben.

26.02.2024

Die Konrad-Adenauer-Stiftung veranstaltete anlässlich des zweiten Jahrestags des russischen Angriffs auf die Ukraine mit mehr als 100 Partnerorganisationen die zweite Auflage des Cafe Kyiv. Die EAF Berlin war mit einem…

22.02.2024

Wir freuen uns über ein weiteres Bürgermeisterinnen-Netzwerk, das die EAF Berlin in ihrer Entstehung begleiten durfte: 13 Bürgermeisterinnen aus…

20.02.2024

Die Veränderung der Plattform in den letzten Monaten seit der Übernahme durch Elon Musk lässt sich nicht mehr mit unseren Werten vereinbaren.

13.12.2023

Angesichts des weiterhin mit Erbitterung von Russland geführten Krieges gegen die Ukraine und des Winters, möchten wir Sie erneut sehr herzlich um…

12.12.2023

Seit Dezember 2023 ist Lisa Hanstein, Senior Expert in der EAF Berlin, Beiratsmitglied im BMFSFJ-Projekt KITE II – KI Thinktank female…

07.12.2023

15 Kommunalpolitikerinnen aus ganz Deutschland werden vom Bundesfamilienministerium mit dem Helene Weber-Preis ausgezeichnet. Der Preis würdigt ihr…

16.11.2023

Diversitätssensibles Recruiting oder mehr Frauen in Führungspositionen: Wir beraten zehn Berliner Unternehmen dabei, wie sie eine Diversity-Strategie…

Bleiben Sie auf dem Laufenden

Abonnieren Sie
den Newsletter der EAF Berlin

 

Mit Absenden der Registrierung erklären Sie sich damit einverstanden, dass die von Ihnen angegebenen Daten elektronisch erfasst und gespeichert werden. Weitere Informationen entnehmen Sie bitte unserer Datenschutzerklärung.