Arbeitspapier "Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl" veröffentlicht

Mit Beiträgen von Dr. Andrea Knaut und Expertisennehmerinnen Lorena Jaume-Palasi, Elisa Lindinger, Julia Kloiber

02.12.2021

 

Das Arbeitspapier der Gesellschaft für Informatik e.V.[1] dokumentiert die Veranstaltung „Diskriminierende KI? Risiken algorithmischer Entscheidungen in der Personalauswahl“ vom 25. Mai 2021[2].

Die Beiträge werfen einen kritischen Blick auf Diskriminierungspotenziale von KI-Systemen in Personalprozessen: „Sie [die Systeme] sollen eine möglichst effiziente, sichere und vorurteilsfreie Auswahl geeigneter Bewerber*innen ermöglichen. Die Praxis zeigt jedoch, dass entsprechende Systeme erhebliche Diskriminierungsrisiken bergen. Diese Risiken werden von den einschlägigen Gesetzen, allem voran der Datenschutz-Grundverordnung (DSGVO) und dem Allgemeinen Gleichbehandlungsgesetz, nur unzureichend adressiert. Zu diesem Ergebnis kommt nicht nur die rechtswissenschaftliche Analyse des Forschungsprojekts „ExamAI – KI Testing & Auditing“, sondern auch das Gutachten zum Dritten Gleichstellungsbericht der Bundesregierung.“

Direkte Bezüge zum Gleichstellungsbericht werden durch mehrere Beiträge hergestellt. So unter anderem durch:

  • Beitrag von Dr. Andrea Knaut, Mitarbeiterin der Geschäftsstelle
  • Beitrag von Lorena Jaume-Palasi, Elisa Lindinger, Julia Kloiber basierend auf ihrer Expertise für das Gutachten zum Dritten Gleichstellungsbericht „AI Powered Recruiting? Wie der Einsatz von algorithmischen Assistenzsystemen die Gleichstellung auf dem Arbeitsmarkt beeinflusst“ [3]
  • Beitrag von Dr. Andreas Sesing und Angela Tschech

 

Links:

  1. https://testing-ai.gi.de/fileadmin/user_upload/ExamAI_Publikation_Arbeitspapier_final.pdf
  2. https://www.dritter-gleichstellungsbericht.de/de/article/281.diskriminierende-ki-risiken-algorithmischer-entscheidungen-in-der-personalauswahl.html
  3. https://www.dritter-gleichstellungsbericht.de/de/article/258.ai-powered-recruiting-wie-der-einsatz-von-algorithmischen-assistenzsystemen-die-gleichstellung-auf-dem-arbeitsmarkt-beeinflusst.html