Arbeitspapier "Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl" veröffentlicht

Das Arbeitspapier der Gesellschaft für Informatik e.V. dokumentiert die Veranstaltung „Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl“ vom 25. Mai 2021.

Die Beiträge werfen einen kritischen Blick auf Diskriminierungspotenziale von KI-Systemen in Personalprozessen: „Sie [die Systeme] sollen eine möglichst effiziente, sichere und vorurteilsfreie Auswahl geeigneter Bewerber*innen ermöglichen. Die Praxis zeigt jedoch, dass entsprechende Systeme erhebliche Diskriminierungsrisiken bergen. Diese Risiken werden von den einschlägigen Gesetzen, allem voran der Datenschutz-Grundverordnung (DSGVO) und dem Allgemeinen Gleichbehandlungsgesetz, nur unzureichend adressiert. Zu diesem Ergebnis kommt nicht nur die rechtswissenschaftliche Analyse des Forschungsprojekts „ExamAI – KI Testing & Auditing“, sondern auch das Gutachten zum Dritten Gleichstellungsbericht der Bundesregierung.“

Direkte Bezüge zum Gleichstellungsbericht werden durch mehrere Beiträge hergestellt. So unter anderem durch:

• Beitrag von Dr. Andrea Knaut, Mitarbeiterin der Geschäftsstelle
• Beitrag von Lorena Jaume-Palasi, Elisa Lindinger, Julia Kloiber basierend auf ihrer Expertise für das Gutachten zum Dritten Gleichstellungsbericht „AI Powered Recruiting? Wie der Einsatz von algorithmischen Assistenzsystemen die Gleichstellung auf dem Arbeitsmarkt beeinflusst“
• Beitrag von Dr. Andreas Sesing und Angela Tschech