„Künstliche Intelligenz“ soll 2022 europaweit geregelt werden

Artificial Intelligence by Ben Davis from NounProject.com

• Ben Davis
• CC-BY 3.0

Derzeit werden auf europäischer Ebene Regeln für algorithmische Systeme entwickelt – im Sprachgebrauch der Europäischen Kommission: für Systeme der Künstlichen Intelligenz (KI-Systeme). Die EU-Kommission hat Anfang des Jahres 2021 einen Entwurf für ein Europäisches Gesetz (sog. Verordnung) über Künstliche Intelligenz (ˮArtificial Intelligence Act“, AIA/KI-VO-E) vorgelegt. Im Rahmen der Europäischen Ratspräsidentschaft unter damals slowenischem Vorsitz wurde Ende 2021 ein Kompromissvorschlag zu einem Teil der Verordnung erarbeitet. Die Weiterarbeit an einem Kompromissvorschlag zu den restlichen Teilen läuft gegenwärtig unter dem derzeit französischen Vorsitz im Rat der EU weiter.

Bereits Ende 2022 soll der finale Kompromissvorschlag im Trilog zwischen Rat, Parlament und Kommission verhandelt werden. Am Ende beschließen der Rat der Europäischen Union und das Europäische Parlament die Verordnung, die dann mit einem zweijährigen Übergangszeitraum als nationales Recht auch in Deutschland in Kraft tritt.

Mit dem Gesetzentwurf soll zum einen Rechtssicherheit für Unternehmen, Organisationen und öffentliche Institutionen geschaffen werden, die sogenannte Künstliche-Intelligenz-Systeme entwickeln, vertreiben und einsetzen. Zum anderen sollen Innovationspotentiale für die wirtschaftliche Entwicklung der EU abgesichert werden. Es ist wesentliches Ziel, dass die Entwicklung und Nutzung von KI-Systemen mit den persönlichen, bürgerlichen, politischen, wirtschaftlichen und sozialen Rechten der Menschen in der Europäischen Union im Einklang stehen soll.

Im risikobasierten Gesetzentwurf sind KI-Systeme entlang von vier Gefährdungsstufen reguliert: (1) Systeme mit unannehmbaren Risiko, (2) Systeme mit hohem Risiko, (3) Systeme mit geringem Risko, aber speziellen Pflichten zur Offenlegung, und (4) Systeme mit minimalem oder keinem Risiko. Der Kern des Gesetzentwurfs ist das Risikomanagement von Systemen mit hohem Risiko (2). Für diese Künstliche-Intelligenz-Hochrisikosysteme werden umfangreiche Kontroll‑, Registrierungs‑ und Transparenzpflichten festgelegt.

Darüber hinaus werden einige algorithmische Systeme mit unannehmbaren Risiko verboten (1), bspw. bestimmte Systeme zur biometrischen Gesichtserkennung von Personen im öffentlichen Raum oder Systeme zur Verhaltensmanipulation, die zu physischen oder psychischen Schäden führen. Zu letzteren könnten etwa algorithmische Systeme gehören, die Nutzer*innen möglichst lange als Konsument*innen von Werbung in einem sozialen Medium binden sollen und Sucht erzeugend sind.

Chatbots oder Bild-, Ton- oder Videomanipulationssysteme gehören zur Kategorie (3). Hier muss offengelegt werden, wenn bspw. eine Filmsequenz künstlich erzeugt wurde oder ein Gesprächsgegenüber ein Bot ist.

Für Systeme mit minimalem Risiko (4) werden lediglich freiwillige Verhaltenskodizes empfohlen, die beispielsweise Regeln für ökologische Nachhaltigkeit oder Transparenz enthalten können.

Die prinzipielle Stoßrichtung des Entwurfs für ein Europäisches Gesetz über Künstliche Intelligenz – insbesondere die des risikoadaptierten Regulierungsansatzes – ist im Sinne des Dritten Gleichstellungsberichts der Bundesregierung. Eine geschlechtergerechte Digitalisierung setzt die gesetzliche Regulierung algorithmischer Systeme voraus. Hierbei müssen auch die Risiken für die Gleichstellung berücksichtigt und minimiert werden. Im Detail gehen die Handlungsempfehlungen des Gutachtens zum Gleichstellungsbericht jedoch an vielen Punkten über die derzeitigen im Gesetzentwurf vorgesehenen Regelungen hinaus.  

• Hier finden Sie eine Übersicht der wesentlichen gleichstellungs- bzw. diskriminierungsrelevanten Aspekte des Gesetzentwurfs über Künstliche Intelligenz sowie die entsprechenden Empfehlungen im Dritten Gleichstellungsbericht zu diesen Themen.

Der Gesetzentwurf wird auch von der Zivilgesellschaft diskutiert. Mittlerweile gibt es zahlreiche Analysen und Stellungnahmen. Wichtige gleichstellungsrelevante Punkte thematisieren etwa die gemeinsame Erklärung von ca. 120 zivilgesellschaftlichen Organisationen (auf Englisch) vom 30. November 2021 sowie die Stellungnahme des Deutschen Juristinnenbunds vom 20. Juni 2021.

• Hier finden Sie eine Zusammenstellung ausgewählter Kritikpunkte zivilgesellschaftlicher Organisationen am Gesetzentwurf mit Bezug zum Schutz vor Diskriminierung und Verwirklichungschancen, unabhängig vom Geschlecht.