(GESCHLECHTER-)GERECHTE IT?!

Digitale Entwicklungen sind nicht immer gerecht und fair. Lisa Hanstein, Expertin für IT und Diskriminierung, stellt Möglichkeiten für inklusivere Entwicklung von IT-Produkten vor.

Veröffentlicht am:

Digitale Entwicklungen sind leider nicht per se gerecht und fair. Lisa Hanstein, Expertin für IT und Diskriminierung, stellt Im Rahmen eines Hearings der Landeshauptstadt München Möglichkeiten für inklusivere Entwicklung von IT-Produkten vor. Welche Möglichkeiten gibt es für die geschlechtergerechte Entwicklung und den Einsatz von digitalen Angeboten?

 

Das Problem:

Es gibt immer wieder Meldungen über Fälle, in denen digitale Produkte Menschen, häufig Frauen aber auch aufgrund anderer Merkmale wie z.B. Hautfarbe, Alter oder Religion oder Herkunft ausgrenzen.

Die Gründe:

Die Gründe dafür sind vielfältig. Manchmal führen fehlerhafte Entscheidungen entlang des Entwicklungsprozesses zu ungerechter Software, wenn nicht ausreichend auf die Bedürfnisse und Anforderungen der End-User*innen geachtet wurde. Oft können auch unbewusst Stereotypisierungen und Vorurteile der an der Entwicklung und dem Einsatz von digitalen Technologien beteiligten Menschen in die Produkte einfließen, und das ohne böses Zutun. Eine Erklärung dafür ist die sogenannte  I-Methodology: Wir tendieren nämlich dazu, von uns auf andere Menschen zu schließen. Dadurch entwickeln wir Produkte, die für uns selbst gut funktionieren, für andere End-User*innen womöglich nicht.

Die Lösungsansätze:

EAF-Expert Lisa Hanstein war am 08.07.2021 bei einer Stadtratsanhörung der Landeshauptstadt München geladen und hat mit weiteren Vertreter*innen aus Stadtverwaltung, Wissenschaft und Praxis über die Umsetzung von Geschlechtergerechtigkeit in der Digitalisierungsstrategie der Landeshauptstadt diskutiert. Neben der Vorstellung einiger sehr konkreter Tipps, Tools und Methoden hat sie in ihrem Impulsvortrag zu "geschlechtergerechten digitalen Angeboten in der Praxis" darüber gesprochen, worauf Organisationen bei der Entwicklung und dem Einsatz von inklusiverer Technik grundsätzlich achten können.

Lisa Hanstein sieht (Geschlechter-) Gerechtigkeit als holistische Aufgabe.
In diesem Sinne dürfe ein IT-System nicht erst, wenn es in Benutzung sei, auf (Geschlechter-)Gerechtigkeit hin geprüft werden. Vielmehr sei es wichtig, dass Vielfalt und Fairness in allen Phasen von der ersten Idee, der Bedarfsanalyse, über die Spezifikation, die Ausschreibung und Beschaffung bzw. Entwicklung, Test, hin zu Einführung und Betrieb aktiv mitgedacht werden. Folgende Punkte sind dabei zu beachten:

 

  1. Perspektivenvielfalt und partizipative Entwicklung: Um den spezifischen Bedürfnissen verschiedener End-User*innen gerecht zu werden, sind heterogene Gestaltungsteams aber auch unterschiedliches Knowhow essenziell. Außerdem sollten so viele verschiedene Nutzer*innen-Perspektiven wie möglich integriert und auch eigene Stereotype reflektiert werden. Hier kann es helfen, potenzielle Nutzende zu den Anforderungen an eine gewünschte Lösung zu befragen und die Lösung gemeinsam mit Ihnen zu entwickeln und zu testen.  
     
  2. IT in den Blick - Neutralität infrage stellen und Diskriminierungspotenziale verhindern: Zunächst sollte der Einsatz einer Anwendung überprüft werden. Sind die Prozesse oder das dahinterliegende Modell einer gewünschten Lösung fair und an sich geschlechtergerecht? Ist der Prozess überhaupt geeignet für eine Automatisierung oder sollten aufgrund von Fehlerquoten Entscheidungen lieber manuell getroffen werden? Auch ein Blick auf die Rahmenbedingungen lohnt sich: Haben alle Zugang? Erhalten User*innen genügend Unterstützung oder wird vielleicht zu viel technisches Wissen vorausgesetzt? Auch die Anwendung selbst sollte überprüft werden. Werden durch die Sprache alle gleichermaßen adressiert? Spiegeln die verwendeten Bilder und Inhalte (Geschlechter-)stereotype und Rollenklischees wider? Sind die Benutzeroberfläche u. interaktiven Bedienelemente so gestaltet, dass alle Menschen sich zurechtfinden? Gibt es ein ausgewogenes Geschlechterverhältnis bei Beiträgen u. Beispielen? Auch die Funktionen eines IT-Systems sollten überprüft werden. Sind die Grundfunktionalitäten fair und geschlechtsneutral? Werden bei automatisierten Entscheidungen auf Basis von großen Datenmengen die Daten adäquat extrahiert/generiert? Sind diese passend und genügend? Stimmen Vielfalt und Qualität?
     
  3. Kompetenzen sichern für alle! Ein weiterer wichtiger Punkt ist die Stärkung des Bewusstseins dafür, dass das Digitale nicht zwangsläufig neutral und fair ist, sondern, dass es aktive Schritte Richtung Gleichstellung bedarf. Und da braucht es vor allem Kompetenzen in IT & Gleichstellung. Das könnten z.B. Trainings zu Gender oder Unbewussten Denkmustern für alle an der Entwicklung Beteiligten sein. Das bedarf aber auch IT-Kompetenzen bei Gleichstellungsakteur*innen, damit Sie noch besser unterstützen u. beraten können. Und natürlich bedarf es auch die Stärkung von Kompetenzen in den Fachabteilungen. Mitarbeitende müssen über Risiken u. Grenzen beim geschlechtergerechten Einsatz von IT-Systemen und Angeboten der Stadt sensibilisiert werden.
07.06.2021

Die EAF-Geschäftsführerin belegt Platz 1 der PROUT-in-SMEs-Liste.

02.06.2021

EAF-Expertin Lisa Hanstein über Chancen und Risiken von künstlicher Intelligenz.

26.05.2021

Digitale Konferenz zum Thema Flexibilisierung von Arbeit in Produktion und Fertigung. Die EAF Berlin und die Volkswagen AG zeigen, was möglich ist.

10.05.2021

Am 3. Mai 2021 haben mehr als 200 Personen an dem von der EAF Berlin und dem Verein erfolgsfaktor Frau organisierten Online-Kongress teilgenommen.

15.04.2021

Hanna Völkle und Lisa Hanstein arbeiten zu gesellschaftlichen Fragen der Digitalisierung und wurden als Expertinnen in die Liste aufgenommen.

07.04.2021

EAF-Expertise zum Potenzial von Künstlicher Intelligenz für mehr Fairness und Gleichstellung im Bereich weibliche Unternehmensgründung.

24.03.2021

Die EAF Berlin schließt sich der Resolution zur Einsetzung einer Enquete-Kommission im Abgeordnetenhaus zu strukturellem Rassismus im Land Berlin an.

22.03.2021

EAF Berlin bietet Erfahrungsaustausch mit unterschiedlichen Firmenpartnern zur Antirassismusarbeit.

21.03.2021

Das vom Co:Lab initiierte Projekt „KoKI – KI in Kommunen“ hat eine Publikation zu den Chancen der Digitalisierung für Kommunen veröffentlicht.

15.03.2021

Monitoring der Wahlen in Hessen, Baden-Württemberg und Rheinland-Pfalz: Ein genderfokussierter Blick auf die neu gewählten Parlamente und Spitzenposten.

24.02.2021

EAF-Expert Anna Stahl-Czechowska ist Botschafterin der Gesetzesnovelle.

Bleiben Sie auf dem Laufenden

Abonnieren Sie
den Newsletter der EAF Berlin

 

Mit Absenden der Registrierung erklären Sie sich damit einverstanden, dass die von Ihnen angegebenen Daten elektronisch erfasst und gespeichert werden. Weitere Informationen entnehmen Sie bitte unserer Datenschutzerklärung.