Algorithmic Bias: Wenn das System unfaire Entscheidungen trifft
KI und die Medien - eine funktionierende Beziehung: Die Integration von KI erweitert die kreativen Möglichkeiten, rationalisiert Abläufe und reduziert Kosten in der Medienbranche, während sie den Nutzerinnen ein besseres Unterhaltungserlebnis schafft. Die automatische Überschrift, intelligente Datenverarbeiten oder Vorschläge bei der Auswahl von Serien und Podcasts – dies sind nur einige Beispiele. Aber wir wissen auch: KI-basierte Systeme treffen unfaire, sexistische Entscheidungen. Zum Beispiel, wenn sie geschlechterstereotype Sprache, Bilder und Inhalte generieren und Menschen diskriminieren, ein sogenannter Algorithmic Bias.
KI in den Medien inklusiv einsetzen
Nun ist KI in den Medien unverzichtbar und die Nutzung wird mehr werden. Gleichzeitig kann bias-sensibel entwickelte KI sexistische Inhalte erkennen und hat das Potenzial, Medien geschlechtergerechter zu gestalten. Sie kann Ungleichbehandlungen sichtbar machen und unfaire Prozesse fairer gestalten. Daher betonen Laura Giardina und Lisa Hanstein: „KI ist Werkzeug für eine gender-faire Welt, das transparent, nachvollziehbar und diskriminierungsfrei eingesetzt werden muss.“
Politische Forderungen für den Einsatz von KI in den Medien
- Stärkere Regulierung und Überwachung von Medieninhalten in Hinblick auf Geschlechtergerechtigkeit und genderstereotype Darstellungen (Datensätze, Modelle, generierte Inhalten/Bildern etc.)
- Einbeziehung von Gleichstellungsakteur*innen
- Förderung von Forschung/Entwicklung im Bereich der nachvollziehbaren KI und transparenter Anti-Bias-Methoden
- Sensibilisierung in der (universitären) Ausbildung verankern (in KI-, gender- und mediennaher Studiengänge)
- Verankerung von diversen Teams und Sensibilisierung für Algorithmic Gender-Biases in der KI-Entwicklung
- Schaffung von Qualitätsstandards/Etablierung von Prüfungsstellen, Ausbilden von Knowhows/Berufsethik beim geschlechtergerechten Einsatz von KI in den Medien
- Schaffung (finanzieller) Anreize für den vielfaltssensiblen Einsatz von KI in der medialen Arbeit
- Förderung von Pilotprojekten zum Einsatz von KI für weniger Sexismus in den Medien
- Mehr Transparenz & Aufklärung zu Gender Biases/Stereotype durch KI-Anwendungen in den Medien in Schule und breiter Öffentlichkeit
- Unterstützung zivilgesellschaftlicher Organisationen & Gremien, die sich für eine geschlechtergerechte Gestaltung KI-basierter Anwendungen (in den Medien) einsetzen
- Förderung des interdisziplinären Austauschs
Lisa Hanstein und Laura Giardina haben die Forderungen im Rahmen eines Vortrags zum Thema „Künstliche Intelligenz, Gender und Medien“ bei der Fachausschusssitzung Medienpolitik des Bayrischen Landesfrauenrat entwickelt.
