(Geschlechter-)gerechte IT?

Wie wir inklusivere IT-Produkte entwickeln können

Das Problem

Wenn die Benutzeroberfläche eines IT-Systems zu kompliziert gestaltet ist, wenn die Bedienung technisches Wissen voraussetzt oder das Produkt nicht den persönlichen Bedürfnissen entspricht. Wenn Bilder oder die Sprache einer Anwendung (Geschlechter-)stereotype reproduzieren. Oder wenn das System diskriminierende Entscheidungen trifft. Digitale Entwicklungen sind leider nicht per se gerecht und fair. Es gibt immer wieder Meldungen über Fälle, in denen digitale Produkte Menschen, häufig Frauen, aber auch aufgrund anderer Merkmale wie z.B. Hautfarbe, Alter oder Religion oder Herkunft ausgrenzen.

Abbildung 1 - unfaire IT-Produkte

Warum kann IT unfair werden?

Die Gründe dafür sind vielfältig. Manchmal führen fehlerhafte Entscheidungen entlang des Entwicklungsprozesses zu ungerechter Software, wenn nicht ausreichend auf die Bedürfnisse und Anforderungen der End-User*innen geachtet wurde. So kann das IT-System an sich unfair werden. Verzerrte Daten können Anwendungen, die auf Künstlicher Intelligenz basieren, unfair machen. Ein neutrales Tool kann sich auch durch den falschen Einsatz zu einer unfairen Technologie entwickeln, z.B. wenn der eigentliche Prozess unfair oder nicht geeignet für eine Automatisierung ist oder wenn die Rahmenbedingungen ausgrenzen. All das kann durch technische Einschränkungen oder handwerkliche Fehler entstehen. Oft können auch unbewusst Stereotypisierungen und Vorurteilen der an der Entwicklung und dem Einsatz von digitalen Technologien beteiligten Menschen in die Produkte einfließen, und das ohne böses Zutun. Eine Erklärung dafür ist die sog. I-Methodology: Wir tendieren nämlich dazu, von uns auf andere Menschen zu schließen. Dadurch entwickeln wir Produkte, die für uns selbst gut funktionieren, für andere End-User*innen womöglich nicht. An der Gestaltung von IT sind nicht alle Menschen gleichermaßen beteiligt: Die IT-Branche ist eine Männerdomäne. Diese fehlende Diversität bei der Entwicklung und dem Einsatz digitaler Technologien erklärt, warum z.B. manche digitale Entwicklungen Frauen ausgrenzen können.

Wie können digitale Produkte entwickelt und genutzt werden, die alle Menschen in ihrer Diversität beachten?

EAF-Expert Lisa Hanstein war am 08.07.2021 bei einer Stadtratsanhörung der Landeshauptstadt München geladen und hat mit weiteren Vertreter*innen aus Stadtverwaltung, Wissenschaft und Praxis über die Umsetzung von Geschlechtergerechtigkeit in der Digitalisierungsstrategie der Landeshauptstadt diskutiert. Neben der Vorstellung einiger sehr konkreter Tipps, Tools und Methoden hat sie in ihrem Impulsvortrag zu „geschlechtergerechten digitalen Angeboten in der Praxis“ darüber gesprochen, worauf Organisationen bei der Entwicklung und dem Einsatz von inklusiverer Technik grundsätzlich achten können.

(Geschlechter-) Gerechtigkeit als holistische Aufgabe

Nicht erst, wenn ein IT-System in Benutzung ist, sollte (Geschlechter-)Gerechtigkeit eine Rolle spielen. Stattdessen ist es wichtig, dass Vielfalt und Fairness in allen Phasen von der ersten Idee, der Bedarfsanalyse, über die Spezifikation, die Ausschreibung und Beschaffung bzw. Entwicklung, Test, hin zu Einführung und Betrieb aktiv mitgedacht werden.

  • Perspektivenvielfalt und partizipative Entwicklung
    Um den spezifischen Bedürfnissen verschiedener End-User*innen gerecht zu werden, sind heterogene Gestaltungsteams aber auch unterschiedliches Knowhow essenziell. Außerdem sollten so viele verschiedene Nutzer*innen-Perspektiven wie möglich integriert und auch eigene Stereotype reflektiert werden. Hier kann es helfen, potenzielle Nutzende zu den Anforderungen an eine gewünschte Lösung zu befragen und die Lösung gemeinsam mit Ihnen zu entwickeln und zu testen.  
  • IT in den Blick - Neutralität infrage stellen und Diskriminierungspotenziale verhindern
    Zunächst sollte der Einsatz einer Anwendung überprüft werden. Sind die Prozesse oder das dahinterliegende Modell einer gewünschten Lösung fair und an sich geschlechtergerecht? Ist der Prozess überhaupt geeignet für eine Automatisierung oder sollten aufgrund von Fehlerquoten Entscheidungen lieber manuell getroffen werden? Auch ein Blick auf die Rahmenbedingungen lohnt sich: Haben alle Zugang? Erhalten User*innen genügend Unterstützung oder wird vielleicht zu viel technisches Wissen vorausgesetzt? Auch die Anwendung selbst sollte überprüft werden. Werden durch die Sprache alle gleichermaßen adressiert? Spiegeln die verwendeten Bilder und Inhalte (Geschlechter-)stereotype und Rollenklischees wider? Sind die Benutzeroberfläche und interaktiven Bedienelemente so gestaltet, dass alle Menschen sich zurechtfinden? Gibt es ein ausgewogenes Geschlechterverhältnis bei Beiträgen und Beispielen? Auch die Funktionen eines IT-Systems sollten überprüft werden. Sind die Grundfunktionalitäten fair und geschlechtsneutral? Werden bei automatisierten Entscheidungen auf Basis von großen Datenmengen die Daten adäquat extrahiert/generiert? Sind diese passend und genügend? Stimmen Vielfalt und Qualität?
  • Kompetenzen sichern für alle!
    Ein weiterer wichtiger Punkt ist die Stärkung des Bewusstseins dafür, dass das Digitale nicht zwangsläufig neutral und fair ist, sondern, dass es aktive Schritte Richtung Gleichstellung bedarf. Und da braucht es vor allem Kompetenzen in IT & Gleichstellung. Das könnten z.B. Trainings zu Gender oder Unbewussten Denkmustern für alle an der Entwicklung Beteiligten sein. Das bedarf aber auch IT-Kompetenzen bei Gleichstellungsakteur*innen, damit Sie noch besser unterstützen und beraten können. Und natürlich bedarf es auch die Stärkung von Kompetenzen in den Fachabteilungen. Mitarbeitende müssen über Risiken und Grenzen beim geschlechtergerechten Einsatz von IT-Systemen und Angeboten der Stadt sensibilisiert werden.
Abbildung 2 - (geschlechter-)gerechte IT-Entwicklung u. Einsatz

Wie kann das Thema (Geschlechter-)Gerechtigkeit in digitalen Anwendungen nachhaltig und sinnvoll in Organisationen verankert werden?

  • IT und Vielfalt als Querschnittsthema
    Es ist wichtig, dass Gleichstellung als Querschnittsthema in Digitalisierungsprojekten mitgedacht wird.  Da können auch Weiterbildungs- und Sensibilisierungsworkshops für Mitarbeitende, IT-Abteilung und Gleichstellungstelle helfen, die Bereitstellung von Informationsmaterial oder die Ausbildung von Lots*innen für solche Themen.
  • Fachübergreifende Zusammenarbeit & Schaffung von Verantwortlichkeiten
    Erfolgreich können Entwicklung und Einsatz von inklusiveren digitalen Produkten nur durch eine fachübergreifende und interdisziplinäre Zusammenarbeit sein. Dazu kann z.B. die Schaffung von Verantwortlichkeiten in den Entwicklungsteams, interdisziplinäre Fokusgruppen mit verschiedenen Abteilungen und Perspektiven gehören.

  • Definition von Leitlinien und Etablierung von Richtlinien und Prozessen
    Sinnvoll ist auch die Definition von Leitlinien für den fairen Einsatz von IT und die Kommunikation dieser nach innen und außen. Zusätzlich kann es hilfreich sein, Richtlinien und Prozesse zu etablieren, um die vorgestellten Handlungsbedarfe auch in der Organisation zu verankern. Dazu gehört einmal eine systematische, geschlechtersensible und risikobasierte Technologiefolgenabschätzung: mit einer Bestandsaufnahme, der Reflexion der bestehenden Prozesse und digitalen Systeme und Angebote unter dem Gesichtspunkt der Geschlechtergerechtigkeit, die Festlegung von konkreten und messbaren Zielen und die Definition von geeigneten Maßnahmen und Aktionspläne. Die geschlechtersensible Benutzerfreundlichkeit von Anwendungen sollte zum Gestaltungsgrundsatz für den IT-Einsatz werden, z.B. durch die Entwicklung von Checklisten. Außerdem hilfreich ist es, Prüfmechanismen zu etablieren, die Entwicklungen zu monitoren und ggf. an neue Erfordernisse anzupassen.
Abbildung 2 - (geschlechter-)gerechte IT-Entwicklung u. Einsatz

Weiterführende Informationen