Ein Gesetz, das die Voreingenommenheit von KI bei der Einstellung von Mitarbeitern verhindern soll, erweist sich als unwirksam

Ein Gesetz, das die Voreingenommenheit von KI bei der Einstellung von Mitarbeitern verhindern soll, erweist sich als unwirksam

Zeitstempel: 22. Januar 2024, 8:30 Uhr
Ein Gesetz, das die Voreingenommenheit von KI bei der Einstellung von Mitarbeitern verhindern soll, erweist sich als unwirksam. PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Eine Studie zur Wirksamkeit eines New Yorker Gesetzes zur Bekämpfung von Voreingenommenheit bei KI-Einstellungsalgorithmen hat ergeben, dass die Gesetzgebung weitgehend wirkungslos ist.

New York City Local Law 144 (LL144) war Bestanden im Jahr 2021, trat am 1. Januar letzten Jahres in Kraft und wurde ab Juli 2023 in Kraft gesetzt. Das Gesetz verlangt von Arbeitgebern, die automatisierte Beschäftigungsentscheidungstools (AEDTs) verwenden, diese jährlich auf Rassen- und Geschlechtervorurteile zu prüfen und diese Ergebnisse auf ihren Websites zu veröffentlichen. und in Stellenausschreibungen darauf hinweisen, dass sie solche Software verwenden, um Beschäftigungsentscheidungen zu treffen.

Die Studie von Forschern der Cornell University, des gemeinnützigen Bewertungsdienstes Consumer Reports und des gemeinnützigen Data & Society Research Institute muss noch veröffentlicht werden, wurde aber mit anderen geteilt Das Register. Es stellte sich heraus, dass von den 391 in die Stichprobe einbezogenen Arbeitgebern nur 18 gesetzlich vorgeschriebene Prüfungsberichte veröffentlicht hatten. Nur 13 Arbeitgeber (von denen 11 auch Prüfungsberichte veröffentlichten) fügten die erforderlichen Transparenzhinweise bei.

LL144 „räumt Arbeitgebern nahezu völligen Ermessensspielraum bei der Entscheidung ein, ob ihr System in den Geltungsbereich des Gesetzes fällt“, sagte Jacob Metcalf, Forscher bei Data & Society und einer der Autoren der Studie Das Register. „Und es gibt für Arbeitgeber mehrere Möglichkeiten, diesem Spielraum zu entkommen.“

Metcalf teilte uns mit, dass LL144 Unternehmen nicht dazu verpflichtet, Maßnahmen zu ergreifen, wenn eine ihrer Prüfungen ergibt, dass ein AEDT zu diskriminierenden Ergebnissen geführt hat. Das bedeutet jedoch nicht, dass Unternehmen, bei denen festgestellt wird, dass sie voreingenommene AEDTs verwenden, nicht am Haken bleiben.

„Arbeitgeber, die eine Prüfung veröffentlichen, die unterschiedliche Auswirkungen zeigt, sind offen für andere Maßnahmen“, sagte uns Metcalf. „Zivilklagen wegen Diskriminierung am Arbeitsplatz können sehr teuer sein.“

Metcalf und mehrere seiner Kollegen arbeiten an einem zweiten Artikel über LL144, der sich auf die Erfahrungen von Prüfern bei der Überprüfung von AEDTs konzentriert, die von Unternehmen in New York eingesetzt werden. Das Register hat sich das Papier angesehen, das derzeit einem Peer-Review unterzogen wird. Es wird festgestellt, dass bei Prüfungen Fälle von Diskriminierung durch AEDTs festgestellt wurden.

„Aus Interviews mit Wirtschaftsprüfern wissen wir, dass Arbeitgeber für diese Prüfungen bezahlt haben und es dann abgelehnt haben, sie öffentlich zu veröffentlichen, wenn die Zahlen schlecht waren“, sagte uns Metcalf. „Ihr Rechtsbeistand hat mehr Angst vor der Equal Employment Opportunity Commission als vor New York City.“

New Yorker Gesetz verlangsamt die Einführung ähnlicher Regeln

Gesetze, die LL144 ähneln, wurden von anderen Gerichtsbarkeiten in Betracht gezogen. Diese Vorschläge sind größtenteils ins Stocken geraten, da den Gesetzgebern bewusst geworden ist, dass der Versuch von NYC, Voreingenommenheit bei der Einstellung von KI zu verhindern, nicht effektiv war.

„Die Unterstützer [der Gesetzentwürfe] überdenken ihre Struktur. Soweit mir bekannt ist, gab es keine Maßnahmen gegen ähnliche Gesetze“, sagte Metcalf. Kalifornien betrachtet ähnliche Gesetze im Jahr 2022, während Washington DC und der Bundesstaat New York ebenfalls über Gesetze wie LL144 nachgedacht haben.

Die Europäische Union KI-Gesetz, vorläufig vereinbart im Dezember 2023, ordnet die im Rekrutierungsprozess eingesetzte KI in die „hohes Risiko" Kategorie, Bedeutung Solche Produkte müssen vor der Markteinführung und während ihres gesamten Lebenszyklus überprüft werden. Die EU muss ihr Gesetz noch verabschieden.

Es gab Voreingenommenheit in der KI gut etabliert An diesem Punkt.

Das war sogar das HR-Softwareunternehmen Workday verklagt wegen Vorwürfen, dass seine Rekrutierungssoftware zur Diskriminierung schwarzer Bewerber eingesetzt wurde – genau das, wofür LL144 entwickelt wurde.

Während LL144 weitgehend wirkungslos blieb, kamen die Forscher zu dem Schluss, dass das Gesetz ein erster Schritt in Richtung einer besseren Regulierung ist.

„Jeder, der an diesen Gesetzen arbeitet, experimentiert mit Verantwortlichkeitsstrukturen – wir wissen noch nicht, was funktioniert“, sagte uns Metcalf. „Fast alles, was zivilgesellschaftliche Kritiker [über LL144] gesagt haben, hat sich bewahrheitet, aber wir haben in diesem Papier Dinge gelernt, die andere Leute [für künftige Durchsetzungsbemühungen] aufgreifen können.“

Eines der wichtigsten Dinge, die man aus LL144 lernen könne, sei laut Metcalf, dass der Umfang der abgedeckten Nutzung von AEDT-Software erweitert werden sollte.

Die Sprache in LL144 ist abstrakt und definiert nur die Verwendung von AEDT-Software in Fällen, in denen sie „dazu verwendet wird, die Ermessensentscheidung bei der Entscheidungsfindung im Beschäftigungsverhältnis wesentlich zu unterstützen oder zu ersetzen“. Was „wesentlich“ bedeutet, bleibt der Interpretation überlassen.

Wenn künftige Gesetze zur Bekämpfung der AEDT-Diskriminierung wirksam sein sollen, müssen, so wurde uns gesagt, jegliche Einschränkungen hinsichtlich der Verwendung von KI-Einstellungsalgorithmen gestrichen werden.

„Wenn ein System eine Partitur wiedergibt, liegt dies im Umfang. Punkt“, erzählte uns Metcalf. „Den Arbeitgebern einen Ermessensspielraum einzuräumen [bei der Entscheidung, ob ihre Nutzung von AEDT in den Geltungsbereich von LL144 fällt] schafft perverse Anreize, die die tatsächliche Rechenschaftspflicht, die dieses Gesetz hätte erreichen können, untergraben.“ ®

Zeitstempel:

Mehr von Das Register