„KI als Chance für mehr Geschlechtergerechtigkeit“

Im Rahmen des Workshops „KI als Chance für mehr Geschlechtergerechtigkeit“ der Deutschen UNESCO-Kommission am 25.05.2022 diskutierten Expert*innen die Empfehlung zur Ethik Künstlicher Intelligenz der UNESCO, der Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur. Fachliche Inputs kamen von den Expert*innen Prof. Dr. Katharina Zweig (TU Kaiserslautern), Jessica Wulff von AlgorithmWatch, Abteilungsleiterin der Denkfabrik, eines Thinktanks des Bundesministeriums für Arbeit und Soziales (BMAS) Ana Dujić sowie von der Sachverständigen für den Dritten Gleichstellungsbericht Prof. Dr. Claude Draude.

 

Weitreichende Empfehlung der UNESCO

Die „Empfehlung zur Ethik Künstlicher Intelligenz“ („Recommendation on the ethics of artificial intelligence“) wurden im November 2021 von den 193 Mitgliedstaaten verabschiedet. Die Empfehlung stellt zwar kein bindendes Recht dar, wurden jedoch detailliert verhandelt und von den Staaten einstimmig angenommen, sodass sich die Empfehlung von einer einfachen Resolution oder einer Erklärung unterscheidet. Die in der Empfehlung festgehaltenen Regeln und Maßnahmen haben einen ganzheitlichen Fokus und werfen insbesondere auch einen Blick auf „blind spots“ wie KI und Gender, KI und Nachhaltigkeit, KI und der globale Süden sowie KI und Bildung.
Die UNESCO empfiehlt den Mitgliedstaaten z. B. sicherzustellen, dass das Potenzial digitaler Technologien und Künstlicher Intelligenz zur Verwirklichung der Gleichstellung der Geschlechter beiträgt und in vollem Umfang ausgeschöpft wird. Mitgliedstaaten sollen gewährleisten, dass die Menschenrechte und Grundfreiheiten von Mädchen und Frauen sowie ihre Sicherheit und Integrität in keiner Phase des Lebenszyklus von KI-Systemen verletzt werden (Empfehlung Nr. 87). Außerdem sollen zweckgebundene Mittel aus ihren öffentlichen Haushalten für die Finanzierung von geschlechtergerechten Programmen bereitgestellt und sichergestellt werden, dass die nationale Digitalpolitik einen Aktionsplan für die Gleichstellung der Geschlechter enthält (Empfehlung Nr. 88). Die Mitgliedstaaten sollen sicherstellen, dass geschlechtsspezifische Stereotype und diskriminierende Vorurteile nicht in KI-Systeme einfließen, indem mögliche diskriminierende Faktoren identifiziert und proaktiv beseitigt werden (Empfehlung Nr. 90).

 

Studie attestiert Nachholbedarf für Deutschland zu Geschlecht und Künstlicher Intelligenz

Grundlage für den Workshop waren die Ergebnisse der von der Deutschen UNESCO-Kommission in Auftrag gegebenen Studie  „UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz — Bedingungen zur Implementierung in Deutschland“. Sie beschreibt die Ausgangslage und den Handlungsbedarf für die Umsetzung der UNESCO-Empfehlung in fünf Politikfeldern: Ethical Impact Assessment, Ethical Governance and Stewardship, Data Policy, Development and International Cooperation und Gender. Für den Bereich „Gender“ beschreibt der Autor des Gutachtens Prof. Dr. Matthias C. Kettemann mit Blick auf die Empfehlung Nr. 90, dass die Gleichstellung der Geschlechter in keiner Phase des Lebenszyklus von KI-Systemen verletzt werden dürfe, dass Deutschland in diesem Bereich noch ganz am Anfang stehe. Mit Verweis auf den Dritten Gleichstellungsbericht macht die Studie z. B. darauf aufmerksam, dass bei wichtigen digitalpolitischen Instrumenten wie der KI-Strategie der Bundesregierung Geschlecht so gut wie keine Rolle spiele. Aus diesem Grund wurde das Politikfeld „Gender“ von der Deutschen UNESCO-Kommission für einen ersten Workshop ausgewählt. Ziel des Workshops war es konkrete Handlungsempfehlungen für die deutsche Politik zu formulieren, um den unterzeichneten Verpflichtungen der UNESCO nachzukommen.

 

Handlungsempfehlungen für mehr Geschlechtergerechtigkeit

Im Workshop diskutierten die Expert*innen Maßnahmen, welche die deutsche Politik umsetzen kann, um diskriminierungsfreie KI zu gewährleisten und mehr Diversität bei der Entwicklung von KI zu erreichen.

 

Regulierung, Transparenz und Beratung

Im Zuge des Austauschs kam die Forderung nach einem klaren Regulierungsrahmen für ethische und diskriminierungsfreie KI in Deutschland auf.  Die Expert*innen berufen sich dazu auch auf den Dritten Gleichstellungsbericht, der verbindliche Standards für geschlechtergerechte und diskriminierungsfreie IT-Systeme fordert. Zudem sprachen sich Expert*innen –  ebenso wie die Sachverständigenkommission zum Dritten Gleichstellungsbericht –  für mehr Diversität und Inklusivität in den Gremien für Norm- und Standardsetzung der KI ein. In dem Workshop wurde sich insbesondere auch dafür ausgesprochen, die Gremien für Perspektiven der Geistes-und Sozialwissenschaften zu öffnen und damit über die technische Perspektive hinauszugehen. Dies ist anknüpfungsfähig für die im Dritten Gleichstellungsbericht geforderte Berücksichtigung einer soziotechnischen Perspektive.
Um potenziell diskriminierende Faktoren bei KI zu erkennen und diese besser nachvollziehen zu können, wird der Aufbau eines KI-Transparenzregisters vorgeschlagen, das darüber informiert, in welchen Prozessen der öffentlichen Verwaltung KI zum Einsatz kommt und wie sie funktioniert. Es wurde zudem die Einrichtung einer KI-Antidiskriminierungs- und Beratungsstelle diskutiert. Die kann an die Empfehlungen der Sachverständigenkommission für den Dritten Gleichstellungsbericht anknüpfen, Antidiskriminierungsstellen und -verbände mit weiteren Kompetenzen und Befugnissen auszustatten, um gegen Diskriminierung durch algorithmische Empfehlungen vorzugehen.  

 

„ Fix the company/the education“

Expert*innen des Workshops unterstützen den Ansatz der Sachverständigenkommission, dass nicht die Frauen sich ändern müssen, um an der Entwicklung von KI teilzuhaben, sondern die Strukturen in Unternehmen und dem Bildungssystem („Fix the company/the education, not the women“). Geschlechtergerechtigkeit und Diversität in Unternehmen benötigt strukturelle Veränderungen in Unternehmen und nicht nur Einzelmaßnahmen wie z. B. den Girls‘ Day. Flexiblere und familienfreundlichere Arbeitszeitgestaltung und großzügige Home-Office-Regelungen könnten hier helfen.
Auch für den Bereich der Schul- und Hochschulbildung wurden im Workshop Handlungsempfehlungen formuliert, um die Regeln der UNESCO-Empfehlung umzusetzen. So sprachen sich Expert*innen für einen geschlechtssensiblen KI- und Informatikunterricht als Querschnittsthema und als eigenständiges Schulfach ab Klasse 1 aus. Für den Bereich der Universitäten wurde sich beispielsweise dafür ausgesprochen, KI-Ethik als verbindlichen Teil des Curriculums einschlägiger Technik-Studiengänge zu etablieren. Zudem fordern Expert*innen des Workshops die Politik dazu auf, Forschung zu potenzieller Diskriminierung durch KI stärker zu fördern. Förderung in diesem Bereich sollte es verstärkt auch für die Geistes- und Sozialwissenschaften geben. Das ist z. B. auch nötig, um zu einem einheitlichen Verständnis zentraler Begriffe wie “Diskriminierung” oder “Fairness” zwischen der Informatik und den Geistes- und Sozialwissenschaft zu kommen.

Die Ergebnisse des Workshops werden aktuell von der Deutschen UNESCO-Kommission aufbereitet und in Form von Handlungsempfehlungen an die Politik und weitere Stakeholder weitergegeben (Kontakt: Jeannine Hausmann (Hausmann@unesco.de). Informationen zur Deutschen UNESCO-Kommission finden Sie hier: https://www.unesco.de/.