Diese Woche kündigte die viktorianische Regierung an, dass sie Maßnahmen ergreifen werde, um Arbeitnehmer vor „unangemessener und unfairer Nutzung“ künstlicher Intelligenz (KI) am Arbeitsplatz zu schützen. Dazu gehört die Einführung neuer Gesetze, um sicherzustellen, dass KI-Einstellungsentscheidungen „frei von Voreingenommenheit oder Diskriminierung“ sind.
Die Landesregierung plant außerdem, gegen die „aufdringliche“ Überwachung am Arbeitsplatz vorzugehen. Dazu gehört, dass Arbeitnehmer das Recht erhalten, zu erfahren, ob sie überwacht werden, und dass ein Mensch das „letzte Wort“ bei allen „wichtigen automatisierten Entscheidungen hat, die mithilfe von Überwachungsdaten getroffen werden“.
Die Reaktionen auf diese Ankündigung waren gemischt. Unternehmensverbände und einige Arbeitsrechtsanwälte bezeichnen den Vorschlag als „unnötige Übertreibung“, die Gewerkschaften halten ihn jedoch für einen „klugen Schachzug“.
Als jemand, der erforscht, wie KI-Systeme diskriminieren können, ist dies für mich ein willkommener Ansatz. Es ist möglicherweise nicht möglich, alle Voreingenommenheit und Diskriminierung durch KI-Systeme zu beseitigen. Aber wir können mehr tun, um Bewerber vor dieser neuen Form des Schadens zu schützen.
Voreingenommenheit und Diskriminierung bei der Einstellung von KI-Mitarbeitern
Es gibt starke Belege für die Behauptung der Landesregierung, dass KI-Tools „Frauen und Menschen mit unterschiedlichem Hintergrund systematisch benachteiligen können“.
Eine in den Vereinigten Staaten durchgeführte Analyse eines der bislang größten Datensätze (3 Millionen Bewerber, die 4 Millionen Bewerbungen eingereicht haben, die von Algorithmen desselben Softwareanbieters analysiert wurden) ergab eine klare Rassendiskriminierung gegenüber schwarzen und asiatischen Bewerbern.
Nutzen mehrere Arbeitgeber ein solches System, können ganze Gruppen arbeitslos werden.
Meine eigene Forschung hat gezeigt, wie KI-Einstellungssysteme einige Bewerber mit Behinderungen, ältere Arbeitnehmer, Frauen oder Personen, die Englisch als Zweitsprache sprechen oder schreiben, ausschließen können – alles Kategorien, die durch Antidiskriminierungsgesetze geschützt sind.
Diskriminierung kann durch die Daten oder das algorithmische Modell in das KI-System eingebaut sein oder sich aus der Art und Weise ergeben, wie eine Organisation das System nutzt.
Brauchen wir neue Gesetze in Victoria?
Victorias Equal Opportunities Act wurde vor der Entwicklung künstlicher Intelligenztechnologien entworfen. Obwohl dieses Gesetz eindeutig auf Diskriminierung während des Einstellungsprozesses anwendbar ist, gibt es Lücken.
Beispielsweise verpflichtet dieses Gesetz Arbeitgeber derzeit nicht dazu, bei Einstellungsprozessen angemessene Vorkehrungen für Menschen mit Behinderungen zu treffen.
Das Hinzufügen von KI-Rekrutierungssystemen von Drittanbietern zu diesem Mix macht die Sache noch komplizierter. Ist der KI-Entwickler oder Arbeitgeber verantwortlich, wenn die Software eine voreingenommene Entscheidung trifft? Wird es einem Personalchef auffallen?
Wenn niemand in die „Black Box“ hineinschauen kann, ist es für eine Person äußerst schwierig, Beweise für die Einreichung einer Beschwerde zu sammeln. Die Umkehr der Beweislast ist eine Möglichkeit, dieses Problem anzugehen.
Wir müssen uns auch stärker darauf konzentrieren, Schäden durch KI zu verhindern, bevor sie entstehen. Die Ablehnung des Vorschlags der Bundesregierung, verbindliche Leitplanken für Hochrisiko-KI-Systeme einzuführen, hat eine Lücke hinterlassen, die die viktorianische Regierung nun zu schließen versucht.
Diese Leitplanken hätten von KI-Entwicklern und Unternehmen, die diese Systeme nutzen, verlangt, vor deren Einsatz Maßnahmen zu ergreifen, um die Schäden der KI durch Tests, Transparenz und Verantwortlichkeit zu verringern.
Victoria ist nicht der erste Staat, der diese Anstrengungen unternimmt. Ebenso hat New South Wales kürzlich eigene Gesetze zur Regulierung von KI am Arbeitsplatz verabschiedet.
Da es wünschenswert ist, dass diese Regelung auf Bundesebene erfolgt, um einen Flickenteppich aus Landes- und Territorialgesetzen zu vermeiden, erwägt die Labour-Bundesregierung auf ihrer nationalen Konferenz diese Woche eine mögliche KI-Governance-Rolle für die Fair Work Commission.
Schutz vor Voreingenommenheit
Das Equal Opportunities Act von Victoria verpflichtet Arbeitgeber bereits dazu, „vernünftige und verhältnismäßige Schritte“ zu unternehmen, um alle Formen der Diskriminierung, einschließlich KI-basierter Diskriminierung, zu beseitigen.
Eine dieser Maßnahmen ist die Einbeziehung eines „Menschen in den (Rekrutierungs-)Prozess, um sicherzustellen, dass es nicht zu Voreingenommenheit und unbeabsichtigten Konsequenzen kommt“, wie von der viktorianischen Regierung geplant.
Eine weitere Maßnahme ist die Durchführung regelmäßiger unabhängiger Audits zur Überprüfung auf Voreingenommenheit. Was Arbeitgebern, die KI einsetzen, derzeit fehlt, sind klare regulatorische Vorgaben zu den Maßnahmen, die diese Pflicht von ihnen verlangt, um eine solche Diskriminierung zu verhindern.
Darüber hinaus wurde der Einsatz von KI zur Analyse von Emotionen wissenschaftlich entlarvt. Es gibt Hinweise darauf, dass die Emotionserkennungstechnologie eine Diskriminierung aufgrund von Rasse, Geschlecht und Behinderung ermöglichen kann.
Es sollte im Einstellungsprozess und an Arbeitsplätzen im Allgemeinen verboten werden, wie die viktorianische Regierung angekündigt hat, dies zu tun. Das KI-Gesetz der Europäischen Union verbietet KI-Systeme, mit denen auf die Emotionen einer Person am Arbeitsplatz geschlossen werden kann, außer aus „medizinischen“ oder „Sicherheits“-Gründen.
Die Europäische Union hat den Einsatz von Emotionserkennungstechnologie am Arbeitsplatz verboten, außer unter sehr begrenzten Umständen. Vitaly Gariev/Unsplash AI ohne Voreingenommenheit?
Der Versuch, KI-Einstellungssysteme „frei von Voreingenommenheit und Diskriminierung“ zu machen, ist eine schwierige Aufgabe. Da dies ein Produkt des Menschen ist und auf menschlichen Daten basiert, ist dies möglicherweise nie möglich. Selbst auf technischer Ebene gibt es keine standardisierte oder allgemein anerkannte Methode zur Identifizierung von Diskriminierung durch ein KI-Einstellungssystem.
Aber wir können es besser machen. Victorias Equal Opportunities Act sollte überprüft werden, um Schutzlücken zu identifizieren und zu schließen. Wir müssen uns auf Maßnahmen konzentrieren, um diskriminierenden Schaden zu verhindern, bevor er entsteht.
Wenn ein Arbeitgeber unsicher ist, ob ein KI-Einstellungssystem Diskriminierung kodiert, sollte er es nicht verwenden. Wir müssen auch die Gleichstellungsbehörde von Victoria befähigen und mit Ressourcen ausstatten, um diese Gesetze durchzusetzen.
Da eine aktuelle Umfrage zeigt, dass weniger als ein Drittel der Australier der Meinung sind, dass die aktuellen Vorschriften und Gesetze ausreichen, um sich vor den Schäden der KI zu schützen, besteht ein klarer Auftrag, dies zu tun.
