(GESCHLECHTER-)GERECHTE IT?! Lisa Hanstein über eine inklusivere Entwicklung von IT-Produkten

Die Expertin für IT und Diskriminierung hat im Rahmen eines Hearings der Landeshauptstadt München Anknüpfungspunkte für die geschlechtergerechte Entwicklung und den Einsatz von digitalen Angeboten vorgestellt.

Das Problem:

Digitale Entwicklungen sind leider nicht per se gerecht und fair. Es gibt immer wieder Meldungen über Fälle, in denen digitale Produkte Menschen, häufig Frauen aber auch aufgrund anderer Merkmale wie z.B. Hautfarbe, Alter oder Religion oder Herkunft ausgrenzen.

Die Gründe:

Die Gründe dafür sind vielfältig. Manchmal führen fehlerhafte Entscheidungen entlang des Entwicklungsprozesses zu ungerechter Software, wenn nicht ausreichend auf die Bedürfnisse und Anforderungen der End-User*innen geachtet wurde. Oft können auch unbewusst Stereotypisierungen und Vorurteile der an der Entwicklung und dem Einsatz von digitalen Technologien beteiligten Menschen in die Produkte einfließen, und das ohne böses Zutun. Eine Erklärung dafür ist die sogenannte  I-Methodology: Wir tendieren nämlich dazu, von uns auf andere Menschen zu schließen. Dadurch entwickeln wir Produkte, die für uns selbst gut funktionieren, für andere End-User*innen womöglich nicht.

Die Lösungsansätze:

EAF-Expert Lisa Hanstein war am 08.07.2021 bei einer Stadtratsanhörung der Landeshauptstadt München geladen und hat mit weiteren Vertreter*innen aus Stadtverwaltung, Wissenschaft und Praxis über die Umsetzung von Geschlechtergerechtigkeit in der Digitalisierungsstrategie der Landeshauptstadt diskutiert. Neben der Vorstellung einiger sehr konkreter Tipps, Tools und Methoden hat sie in ihrem Impulsvortrag zu „geschlechtergerechten digitalen Angeboten in der Praxis“ darüber gesprochen, worauf Organisationen bei der Entwicklung und dem Einsatz von inklusiverer Technik grundsätzlich achten können.

Lisa Hanstein sieht (Geschlechter-) Gerechtigkeit als holistische Aufgabe.
In diesem Sinne dürfe ein IT-System nicht erst, wenn es in Benutzung sei, auf (Geschlechter-)Gerechtigkeit hin geprüft werden. Vielmehr sei es wichtig, dass Vielfalt und Fairness in allen Phasen von der ersten Idee, der Bedarfsanalyse, über die Spezifikation, die Ausschreibung und Beschaffung bzw. Entwicklung, Test, hin zu Einführung und Betrieb aktiv mitgedacht werden. Folgende Punkte sind dabei zu beachten:

 

 

  • Perspektivenvielfalt und partizipative Entwicklung: Um den spezifischen Bedürfnissen verschiedener End-User*innen gerecht zu werden, sind heterogene Gestaltungsteams aber auch unterschiedliches Knowhow essenziell. Außerdem sollten so viele verschiedene Nutzer*innen-Perspektiven wie möglich integriert und auch eigene Stereotype reflektiert werden. Hier kann es helfen, potenzielle Nutzende zu den Anforderungen an eine gewünschte Lösung zu befragen und die Lösung gemeinsam mit Ihnen zu entwickeln und zu testen.  
  • IT in den Blick - Neutralität infrage stellen und Diskriminierungspotenziale verhindern: Zunächst sollte der Einsatz einer Anwendung überprüft werden. Sind die Prozesse oder das dahinterliegende Modell einer gewünschten Lösung fair und an sich geschlechtergerecht? Ist der Prozess überhaupt geeignet für eine Automatisierung oder sollten aufgrund von Fehlerquoten Entscheidungen lieber manuell getroffen werden? Auch ein Blick auf die Rahmenbedingungen lohnt sich: Haben alle Zugang? Erhalten User*innen genügend Unterstützung oder wird vielleicht zu viel technisches Wissen vorausgesetzt? Auch die Anwendung selbst sollte überprüft werden. Werden durch die Sprache alle gleichermaßen adressiert?
    Spiegeln die verwendeten Bilder und Inhalte (Geschlechter-)stereotype und Rollenklischees wider? Sind die Benutzeroberfläche u. interaktiven Bedienelemente so gestaltet, dass alle Menschen sich zurechtfinden? Gibt es ein ausgewogenes Geschlechterverhältnis bei Beiträgen u. Beispielen? Auch die Funktionen eines IT-Systems sollten überprüft werden. Sind die Grundfunktionalitäten fair und geschlechtsneutral? Werden bei automatisierten Entscheidungen auf Basis von großen Datenmengen die Daten adäquat extrahiert/generiert? Sind diese passend und genügend? Stimmen Vielfalt und Qualität?
  • Kompetenzen sichern für alle! Ein weiterer wichtiger Punkt ist die Stärkung des Bewusstseins dafür, dass das Digitale nicht zwangsläufig neutral und fair ist, sondern, dass es aktive Schritte Richtung Gleichstellung bedarf. Und da braucht es vor allem Kompetenzen in IT & Gleichstellung. Das könnten z.B. Trainings zu Gender oder Unbewussten Denkmustern für alle an der Entwicklung Beteiligten sein. Das bedarf aber auch IT-Kompetenzen bei Gleichstellungsakteur*innen, damit Sie noch besser unterstützen u. beraten können. Und natürlich bedarf es auch die Stärkung von Kompetenzen in den Fachabteilungen. Mitarbeitende müssen über Risiken u. Grenzen beim geschlechtergerechten Einsatz von IT-Systemen und Angeboten der Stadt sensibilisiert werden.

Weitere Informationen zur Stadtratsanhörung und den nächsten geplanten Schritten in der Landeshauptstadt München finden Sie hier: https://muenchen.digital/blog/geschlechtergerechte-digitalisierung/.

Ausführliche Hintergrundinformationen sowie Ansatzpunkte, wie das Thema (Geschlechter-)Gerechtigkeit in digitalen Anwendungen nachhaltig und sinnvoll Organisationen verankert werden kann, finden Sie hier.

14. November 2022

Stand with Ukrainian Women Newsletter 8

Eine weite und strapaziöse Anreise: Im Projekt "Gemeinsam für Demokratie - #StandwithUkrainianWomen" empfingen wir eine Delegation ukrainischer Kommunal- und Frauenpolitikerinnen aus der Ost- und Südukraine. Sie teilten Berichte aus dem Krieg,...

13. November 2022

„Die ukrainische Frage darf nicht von der deutschen Tagesordnung verschwinden“ Drei Stimmen

Lyudmila Prokopechko aus der Region Odessa, Yuliia Kostiunina aus der Region Donezk und Oksana Yelchiieva aus Mykolaiv waren als Teil der Delegation von "Gemeinsam für Demokratie" in Berlin und Dresden. Wir haben sie zu den Herausforderungen...

13. November 2022

„Die größte Herausforderung ist, Vertrauen zu gewinnen“ Im Gespräch mit Helene-Weber-Preisträgerinnen

Neugierde aufeinander, Mitteilsamkeit und praktische Vorschläge: Die beiden Helene-Weber-Preisträgerinnen und Kommunalpolitikerinnen Katja Glybowskaja und Miro Zahra kamen nach Berlin, um sich mit ihren ukrainischen Kolleginnen über Lokalpolitik...

8. November 2022

Kein Marshall-Plan ohne Frauen Berichte aus dem Kriegsalltag in der Ukraine

Von den Frauen in der Ukraine lernen: In der Verteidigung ihres Landes gegen die russischen Aggressoren spielen ukrainische Frauen an vielen Fronten eine aktive und oft herausragende Rolle. Bei einem Pressegespräch informierten drei von ihnen über...

7. November 2022

Arte-Dokureihe Naked EAF-Expert Lisa Hanstein über Algorithm Bias

Die Dokureihe erörtert, wie die Geschlechterbrille die Menschheit und Gesellschaften weltweit geprägt hat und beschäftigt sich mit Chancen und Gefahren dieser Entwicklung. EAF-Expert ­Lisa ­Hanstein erläutert darin, wie menschlicher Denkmuster und...

03. November 2022

“Die erste feministische Revolution ist möglich“ EAF-Expert Tannaz Falaknaz zur aktuellen Lage im Iran

Seit mehreren Wochen gehen die Menschen im Iran auf die Straße – angeführt von Frauen. Sie kämpfen schicht-, ethnien-, geschlechts- und generationsübergreifend für ein freies und gutes Leben. Und immer wieder um IHR Leben. Denn was sie fordern, ist...