Der Dritte Gleichstellungsbericht wurde nach dem Kabinettsbeschluss dem Bundestag und dem Bundesrat zugeleitet. Nun wurde die Bundestagsdrucksache online veröffentlicht und steht auf dem Server des Bundestags zum Download zur Verfügung.

Das Bundesministerium für Familie, Senioren, Frauen und Jugend hat zudem eine Seite für den Dritten Gleichstellungsbericht eingerichtet. Hier sind ausgewählte Aspekte zur geschlechtergerechten Gestaltung der Digitalisierung aufbereitet.

Der Beschluss des Dritten Gleichstellungsberichts durch das Kabinett sorgte in den Medien für Aufmerksamkeit. „Frauen am digitalen Wandel noch nicht angemessen beteiligt“ titelten gleich mehrere Zeitungen. So z. B. die Zeit, die in einem Artikel insbesondere auf die Aspekte des Zugangs und Verbleibs von Frauen in der Digitalbranche und Risiken der Diskriminierung durch Algorithmen einging. Auch die gleichstellungsfördernde Gestaltung von Homeoffice und die Bekämpfung digitaler Gewalt wurden von der Presse thematisiert, siehe z. B. Rheinische Post. ZDF heute widmete dem Thema neben einem Nachrichtenbeitrag gleich eine ganze Sendung. In der tagesschau und dem ARD-Morgenmagazin wurden Ausschnitte der Pressekonferenz gezeigt und die Vorschläge des Gutachtens zur Regulierung von Homeoffice, Gründungsförderung oder der Problematisierung der Arbeitskultur der Digitalbranche aufgegriffen.

Die gesamte Sammlung der Medienresonanz ist auf unserer Homepage einsehbar. Sollten Sie die Pressekonferenz verpasst haben, können Sie diese in der phoenix-Mediathek nachschauen.

Mit den Themenblättern startet die Geschäftsstelle eine neue Veröffentlichungsreihe zum Gutachten. Die Themenblätter stellen ausgewählte Aspekte aus dem Gutachten auf wenigen Seiten prägnant vor. Ziel ist es, Zusammenhänge von Gleichstellung und Digitalisierung für gleichstellungs- und digitalisierungsaffine Akteur*innen zu vermitteln, aber auch Interesse in der Öffentlichkeit insgesamt zu wecken. Die Themenblätter können auf der Homepage der Geschäftsstelle heruntergeladen werden.

Das erste Themenblatt „Digitalisierung und Gleichstellung – was hat das miteinander zu tun?“ zeigt an konkreten Beispielen auf, wie Gleichstellung und Digitalisierung zusammenhängen und erläutert gleichstellungsrelevante Konzepte und Zielsetzungen im Kontext dieses gesellschaftlichen Transformationsprozesses. Das zweite Themenblatt stellt passend zur Ausgabe des Juli-Newsletters das Thema „Geschlechtergerechte und diskriminierungsfreie Technikgestaltung“ vor. Wer gern mehr darüber erfahren möchte, wieso Technik Diskriminierung oft weiterführt oder sogar verstärkt und wie diskriminierungsfreie Technikgestaltung in der Praxis aussehen könnte, wird hier fündig.

Bereits bei der Entwicklung digitaler Technik müssen vielfältige Perspektiven einbezogen und strukturelle Ungleichheiten bzw. Benachteiligungen reflektiert werden, um den unterschiedlichen Lebensrealitäten aller Menschen gerecht zu werden und Technik diskriminierungsfrei zu gestalten. Im Gutachten zum Dritten Gleichstellungsbericht wird anhand von Beispielen beschrieben, wie Technik diskriminiert, wenn es daran fehlt.  

Beispielsweise erkennen biometrische Zugangssysteme Schwarze Menschen schlechter als weiße Menschen, wenn das System vor allem mit Daten weißer Männer trainiert wird.  Ein anderes Beispiel sind im generischen Maskulinum formulierte Stellenanzeigen für „LKW-Fahrer“, die auf einer sozialen Plattform vorrangig Männern angezeigt werden, Anzeigen für „Erzieher“ werden vorrangig Frauen gezeigt. Hier werden bereits in der analogen Welt bekannte Geschlechterstereotype vernachlässigt und so verstärkt.

Um die Einschreibung von Diskriminierungen in Technologien zu verhindern, muss u. a. die Datenauswahl diskriminierungssensibel vorgenommen werden: Sind potentielle Nutzer*innen oder betroffene Personen im Datenset kaum repräsentiert, ist es wahrscheinlich, dass die Technologie für diese Personen schlecht oder nicht funktionieren wird. Bei der Entwicklung und Erprobung von Technik dient zudem oft die eigene Erfahrungswelt von Entwickler*innen als Basis. Aufgrund der bisher meist sehr homogenen Teams in der Digitalbranche führt diese sogenannte Ich-Methode häufig dazu, dass bestehende Stereotype und strukturelle Diskriminierung fortgeführt werden, wenn fehlende Perspektiven nicht aktiv ergänzt und gesellschaftliche Ungleichheiten reflektiert werden.

Bislang fehlt in vielen verbreiteten Softwareentwicklungsmethoden ein spezielles Augenmerk für die Diskriminierungsrisiken der Technikgestaltung. Eine konkrete Methode für eine geschlechtergerechte und diskriminierungsfreie Softwareentwicklung und (Informatik‑)Forschung ist demgegenüber das „Gender Extended Research and Development Model“ (GERD). GERD bezieht die Perspektiven und Bedarfe unterschiedlicher Gruppen von Nutzer*innen schon in der Entwicklung eines digitalen Produkts ein. Zudem werden die gesellschaftlichen Folgen der Einführung digitaler Produkte im Hinblick auf Gleichstellung und Nichtdiskriminierung berücksichtigt. Anhand eines Fragenkataloges werden im Entwicklungsprozess die Relevanz und der Nutzen eines Produkts reflektiert, das Wissen, die Werte und das Menschenbild, auf welchen die Technologie basiert, hinterfragt und Machthierarchien, Sprache und Arbeitskultur rund um die Entwicklung und spätere Nutzung kritisch ins Auge gefasst. Im Themenblatt „Geschlechtergerechte und diskriminierungsfreie Technikgestaltung“ wird das GERD-Modell anhand von konkreten Beispielen vertieft erläutert.

Prof. Dr. Claude Draude ist Professorin am Fachbereich Elektrotechnik/Informatik der Universität Kassel, Leiterin des Fachgebiets Gender/Diversity in Informatiksystemen (GeDIS) und Direktorin am Wissenschaftlichen Zentrum für Informationstechnikgestaltung (ITeG).

Dr. Caroline Richter arbeitet als Soziologin in der Forschungsabteilung Bildung, Entwicklung, Soziale Teilhabe (BEST) am Institut Arbeit und Qualifikation (IAQ) der Universität Duisburg-Essen. Im folgenden Gespräch brachten die beiden Sachverständigen ihr Wissen über partizipative Gestaltungsansätze und diskriminierungssensible Modelle in der Informatik einerseits und über Geschlechterverhältnisse und Genderaspekte der Digitalisierung von (informeller) Pflege andererseits, zusammen.

Technik, die für unterschiedliche Personen in unterschiedlichsten Kontexten funktionieren soll, und demokratische Werte wie Diskriminierungsfreiheit und Geschlechtergerechtigkeit befördert, muss entsprechend gestaltet werden. Im Gutachten für den Dritten Gleichstellungsbericht werden hierzu entsprechende IT-Gestaltungsverfahren empfohlen.

 Wie müsste so etwas denn genau aussehen und wird es real gemacht?

Richter: Ein wichtiger Anfang ist, Technologien IMMER als assistive Technologien zu verstehen und in diesem Sinne zu gestalten bzw. zugänglich zu machen. Der Mensch steht im Mittelpunkt von IT, das betont auch der soziotechnische Ansatz in besonderer Weise. IT soll Menschen unterstützen, immer, egal ob mit dem Smartphone, dem Mathe-Algorithmus oder der Hebe-Robotik. Ein für dieses Verständnis gutes Beispiel ist IT in der Pflege. Die Einbeziehung von pflegebedürftigen und von pflegenden Menschen in die Entwicklung digitaler, assistiver Technologien ist derzeit eher Ausnahme denn Regel, soweit ich es überblicke. Es gibt zwar eine Vielzahl an akademischen Forschungsprojekten, die „vor Ort“ in Pflegeeinrichtungen mit den genannten Nutzer*innengruppen konkrete Techniken und Prototypen entwickeln und erproben. Aber ihre Ergebnisse versiegen nach der Entwicklungs- und Evaluationsphase in den Katakomben von Hochschulen. Das ist nicht zuletzt so, weil produzierende und vertreibende Profit-Unternehmen ein zu geringes Marktpotenzial annehmen. Schnell gestrickte staatliche Förderungen und kurzfristige Start Up-Programme mit Profitabilitätsdruck sind für diese Art der Technikentwicklung nicht geeignet. Sie sichern keinerlei Nachhaltigkeit. Die ist in diesem Segment aber unerlässlich. Wenn Hilfsmittel für Nutzer*innen nicht schnell und unbürokratisch verfügbar gemacht werden, sind sie nutzlos.

Draude: Die IT-Gestaltungsverfahren, die im Gutachten empfohlen werden, schärfen das Bewusstsein darüber, dass mit IT stets soziotechnische Systeme gestaltet werden. Das bedeutet für dein Beispiel, dass Expertise aus dem Anwendungsfeld Pflege genauso ernst genommen werden muss wie technische Expertise. Zudem sollten in jeder Phase des Entwicklungsprozesses Reflexionsebenen einbezogen werden, die Diskriminierungsrisiken minimieren. Das heißt hier, Menschenbilder zu hinterfragen, die beispielsweise hinter der Idee eines Pflegeroboters oder der distanzierten Fernüberwachung Pflegebedürftiger stehen. Es heißt auch, für lebensnahe Tests von Konzepten und Prototypen Beteiligte und Kontexte so divers wie nur möglich auszuwählen. Und es bedeutet zu schauen, welche Hierarchien und Machtgefüge in Pflegeeinrichtungen bestehen und was dies für assistive Technologien bedeutet.

Beteiligte und Betroffene müssten, wie du sagst, idealerweise durchgängig in Entwicklungsprozesse einbezogen werden. Entsprechende partizipative Design-Ansätze haben in der Informatik eine lange, wenn auch marginalisierte Tradition.

Richter: Partizipative Entwicklungsmethoden konsequent zu nutzen, ist anscheinend nur nicht etablierte Praxis. Mitte 2018 konstatierte der Fachinformatiker und Gesundheits- und Pflegewissenschaftler Christian Buthz, dass ihm keine Firmen bekannt seien, die partizipativ assistive Technologien entwickelten. Mir ist bis heute ebenfalls keine bekannt.

Woran könnte das liegen und was müsste sich ändern?

Richter: Mein vorsichtiger Eindruck ist, dass eine Hürde in der Praxis ist, dass die Bedarfe und Prioritäten von pflegenden Angehörigen möglicherweise andere sind als die von professionell Pflegenden, von den Bedarfen der Pflegebedürftigen mal noch gar nicht zu sprechen. Mir scheint, der Sprung von den Ansätzen und Vorschlägen in der Wissenschaft, wo die Notwendigkeit partizipativer Ansätze oft viel selbstverständlicher gesehen wird, zur Praxis in den Unternehmen wird oft nicht gemacht.

Aber die Stellschrauben sind klar: Erstens muss eine Datenbank her, damit z. B. Tübingen merkt, wenn Hannover am gleichen Gegenstand arbeitet. Als Grundlage könnte die Datenbank REHADAT dienen, die schon viel abbildet. Was mir vorschwebt, müsste aber beim Forschungsministerium BMBF angesiedelt sein, um für Wissenschaft einschlägig, inhaltlich vollständig und in Sachen laufende Forschungsförderung für IT-Projekte immer aktuell sein zu können. Zweitens müssen etablierte Unternehmen an ihre gesellschaftliche Verantwortung erinnert werden. Die erschöpft sich nicht nur im Generieren von Profit, sondern auch in Investitionen für Produkte, die eine weniger solvente Klientel- und Institutionenlandschaft braucht.

Diese Forderung teile ich mit vielen Kolleg*innen aus der Behinderungs- und Assistenztechnologieforschung.

Draude: Ein ganz grundlegendes Problem ist es auch, dass die vorher schon erwähnte soziotechnische Perspektive bislang noch nicht flächendeckend verankert ist und politisch zu wenig gefördert wird. Eine strikte Trennung von Sozialem und Technischen verhindert, beides als gleichwertig wahrzunehmen und Anwendungswissen und kritische Reflexion in technischen Entwicklungsprozessen entsprechend zu berücksichtigen.

In der Softwareentwicklung braucht es zudem griffige Gestaltungsverfahren, die z.B. an Prozessmodellen anknüpfen, mit denen Entwickelnde arbeiten. Das bedeutet, dass bekannte Phasenmodelle, die iterativ Anforderungsanalyse, Modellbildung, Tests von Prototypen und Wireframes, Releases lauffähiger Programmpakete und deren Evaluation und Deployment durchlaufen, zusätzlich Gender- und Diversity-Aspekte integrieren sollten. Die Überprüfung auf diese Aspekte hin sollte dabei auch nicht nur dann in Erwägung gezogen werden, wenn es bei der Entwicklung explizit um eine als vulnerabel wahrgenommene oder marginalisierte Gruppe geht, denn implizit spielen Gender- und Diversity-Aspekte immer eine Rolle. Derartige Modelle müssen Mainstream werden.

Im Gutachten schlägt die Sachverständigenkommission das sogenannte „Gender- Extended-Research-and-Development-Modell“ (GERD-Modell) vor. Was sind die Besonderheiten dieses Entwicklungsmodells und wie könnten Firmen dies adaptieren?

Draude: Die Besonderheit des Modells ist, dass es Wissen aus der Geschlechter- und Diversitäts-Forschung mit einem idealtypischen Vorgehen in der IT-Forschung und -Entwicklung verknüpft. In Anlehnung an bestehende Vorgehensmodelle benennt GERD sieben Phasen von Forschung und Entwicklung, die im Uhrzeigersinn und z. T. wiederholt durchlaufen werden: die Anstöße für ein Projekt, die Vorhabensdefinition, die Analyse, die Modell-/Konzeptbildung, die Realisierung, die Evaluation sowie die Verbreitung des Produkts bzw. der Ergebnisse. Jede Phase wird exemplarisch durch bestimmte Aktivitäten charakterisiert. Gerahmt werden die Phasen durch sogenannte Reflexionsaspekte. Diese Reflexionsaspekte regen zu einer erweiterten Betrachtung von Forschungsfragen und Entwicklungsentscheidungen an.

Ich gebe mal ein Beispiel: Die Entwicklung von Assistenzsystemen in „Smart Homes“ spielt auch in der Pflege eine Rolle. Wie du sagst, ist in der Forschung inzwischen klar, dass pflegende Angehörige und ihre Bedarfe in der Entwicklung der Smart-Home-Systeme bislang kaum Aufmerksamkeit erfahren haben.

Richter: Informelle Pflegearbeit wird, ähnlich wie andere reproduktive Tätigkeiten, zumeist unbezahlt und von Frauen geleistet. Pflegearbeit muss mit der eigenen Erwerbsarbeit und dem persönlichen Alltag koordiniert werden. Diese unbezahlt tätigen Pflegenden haben in den meisten Fällen keine Ausbildung für diese Tätigkeit und sind weder erfahren mit Assistenztechnologien noch routiniert mit der Beantragung von Hilfsmitteln.

Draude: Ja, hier wird ein Gestaltungsbereich mit vielseitigen neuen Anforderungen sichtbar. Diese Anforderungen gehen weit über die unmittelbaren Bedarfe der zu pflegenden Menschen selbst hinaus.

Mit dem GERD-Modell wird dies bereits in einer frühen Entwicklungsphase einer Smart-Home-Applikation klar, nämlich während der Vorhabensdefinition. In dieser Phase hilft das GERD-Modell genauer zu reflektieren, welche Personen die Entwickler*innen mit der Zielgruppe der Smart-Home-Applikation im Blick haben. Sie fragen sich, wie sich Zieldefinitionen und Zielgruppe verknüpfen. Dabei prüfen sie explizit, ob es Personengruppen und somit Bedarfe gibt, die unsichtbar bleiben. Zudem wird gefragt, welches Wissen bei der Produktentwicklung zum Einsatz kommt – ist es Alltagswissen, Wissen der Zielgruppe oder wissenschaftlich abgesichertes. Die Entwickler*innen würden auch fragen, aus welchen anderen Disziplinen sie Expert*innen heranziehen könnten usw.

Richter: Hier könnte eine Datenbank für Forschungsprojekte in diesem Bereich, wie ich sie vorhin vorgeschlagen habe, auch helfen.

Es wäre schon viel gewonnen, wenn nur ein Bruchteil der Fragen, die im GERD-Modell zur Reflexion vorgesehen sind, die Entwicklung assistiver Technologien begleiten. Es ist sicher noch ein steiniger Weg, das Nachdenken und Diskutieren über Dimensionen wie Menschenbild, Sprache, Werte, Machtverhältnisse, Nutzen, Relevanz oder Wissen als Teil einer Produktentwicklung zu etablieren.

Die Sachverständigen und die Geschäftsstelle stellen die Inhalte des Gutachtens bei verschiedensten Veranstaltung vor. Einen Überblick zu Formaten und Inhalten bekommen Sie im Folgenden. Sie können sich gern mit entsprechenden Anfragen für Vorträge per Email an uns wenden.

• Am 25. Mai diskutierten Elisa Lindinger (Mit-Autorin der Expertise „AI Powered Recruiting?“), Angela Tschech (Martin-Luther-Universität Halle-Wittenberg), Dr. Andreas Sesing (Projekt Exam AI der Gesellschaft für Informatik) und Dr. Andrea Knaut aus der Geschäftsstelle über Diskriminierung durch KI auf einem GI-Webtalk. Der Talk wurde aufgezeichnet.
• Am 26. Mai luden die Landesministerien für Wirtschaft, Wissenschaft und Digitalisierung sowie für Justiz und Gleichstellung zur Online-Konferenz „Digitalisierung geschlechtergerecht gestalten – Herausforderung jetzt annehmen“ ein: Die Sachverständigen Prof. Dr. Aysel Yollu-Tok und Prof. Dr. Katja Nebe sowie Dr. Andrea Knaut aus der Geschäftsstelle trugen Themen aus dem Gutachten vor und stießen Diskussionen an. Eine Dokumentation der Veranstaltung gibt es auf unserer Homepage.
• Prof. Dr. Aysel Yollu-Tok hielt auf der 31. Konferenz der Frauen- und Gleichstellungsministerinnen (GFMK) am 23./24. Juni 2021 einen Vortrag zu den Inhalten des Gutachtens für den Dritten Gleichstellungsbericht. Die GFMK thematisierte diese Aspekte auch im weiteren Verlauf der Konferenz. Sie fordert die Bundesregierung insbesondere auf, die Arbeitsbedingungen in der digitalen Plattformökonomie zu verbessern und verweist dabei u.a. explizit auf die Handlungsempfehlungen der Sachverständigenkommission. (Beschluss zu Top 6.3). Weiterhin fordert die GFMK die Bundesregierung mit Blick auf die Geschlechterdimensionen von Computer- und Videospielen, die im Medienalltag immer bedeutender werden, auf Frauen in der Computer- und Videospielbranche und der Gaming-Community stärken (Beschluss zu Top 8.1.). Zudem wurde eine temporäre „Arbeitsgruppe Digitalisierung“ ins Leben gerufen. Die Arbeitsgruppe soll Digitalisierungsprozesse in der Verwaltung, Wirtschaft und Gesellschaft, einschließlich gesetzlicher Initiativen unter gleichstellungspolitischen Gesichtspunkten sowie die Umsetzung der im Dritten Gleichstellungsbericht der Bundesregierung geforderten Maßnahmen bewerten und begleiten und anlassbezogene Beschlussvorlagen für die GFMK erarbeiten. (Beschluss zu Top 8.2.).
• Am 04. und am 26. August stellen Prof. Dr. Aysel Yollu-Tok, Prof. Dr. Miriam Beblo und Dr. Caroline Richter auf einer Fachveranstaltung des Deutschen Vereins verschiedene Aspekte des Gutachtens zum Dritten Gleichstellungsbericht vor.
• Am 29. August startet die 26. Bundeskonferenz der Bundesarbeitsgemeinschaft kommunaler Frauenbüros und Gleichstellungsstellen. Dr. Caroline Richter wird hier zum Gutachten zum Dritten Gleichstellungsbericht sprechen. Anmeldung und Programm auf der Seite der BAG.
• Save the date: 10.09.2021, 10 bis 13 Uhr, online: Auftaktveranstaltung zur Veranstaltungsreihe „Digitalisierung geschlechtergerecht gestalten“.
  Die Veranstaltungsreihe dient dem Erfahrungs- und Wissensaustausch von Akteur*innen und Organisationen an der Schnittstelle von Digitalisierung und Gleichstellung, um die Handlungsempfehlungen des Dritten Gleichstellungsberichts weiterzuentwickeln und der Umsetzung näherzubringen. Nach der Auftaktveranstaltung werden fünf thematische Round Tables bis Februar 2022 folgen. Die Reihe ist eine Kooperation zwischen EAF Berlin, Harriet Taylor Mill Institut der Hochschule für Wirtschaft und Recht Berlin und Geschäftsstelle Dritter Gleichstellungsbericht. Genauere Informationen finden Sie in der nächsten Ausgabe des Newsletters.