Die Leitlinie ist verschwunden, das Gesetz nicht: KI, Behinderung und Beschäftigungsentscheidungen nach den Rücknahmen vom Januar 2025

Am 23. Januar 2025 widerrief die Executive Order 14179 mit dem Titel „Removing Barriers to American Leadership in Artificial Intelligence“ die KI-Verordnung der vorherigen Regierung und wies die Bundesbehörden an, KI-bezogene Richtlinien zu überprüfen und zurückzunehmen. Innerhalb weniger Tage erreichten die praktischen Folgen den Beschäftigungskontext.

Was sich geändert hat – und was nicht

Am 27. Januar entfernte die Equal Employment Opportunity Commission ihre Leitlinien zu künstlicher Intelligenz von ihrer Website, darunter das technische Hilfsdokument vom Mai 2022 zum Americans with Disabilities Act und zur Nutzung von Software, Algorithmen und künstlicher Intelligenz zur Bewertung von Bewerbern und Beschäftigten, die begleitende Zusammenfassung „Tips for Workers“ sowie das technische Hilfsdokument vom Mai 2023 zu Title VII. Das Office of Federal Contract Compliance Programs entfernte seine Leitlinien zu künstlicher Intelligenz und Chancengleichheit für Bundesauftragnehmer. Das Arbeitsministerium wies darauf hin, dass das im September 2024 von der Partnership on Employment and Accessible Technology veröffentlichte AI and Inclusive Hiring Framework sowie die eigenen Best Practices zu künstlicher Intelligenz vom Oktober 2024 die aktuelle Politik möglicherweise nicht mehr widerspiegeln.

Ein Großteil der Kommentare hat diese Entfernungen als Verringerung der Arbeitgeberhaftung gedeutet. Diese Lesart verwechselt Leitlinien mit Gesetz. Technische Hilfsdokumente sind interpretativ. Sie erklären, wie eine Behörde ein Gesetz versteht und wie sie beabsichtigt, ihr Ermessen bei der Durchsetzung auszuüben. Sie begründen nicht die Pflicht, und ihr Rückzug beseitigt sie nicht. Der Americans with Disabilities Act wurde 1990 erlassen und wurde nicht geändert. Title I verbietet weiterhin die Diskriminierung aufgrund einer Behinderung bei den Bedingungen der Beschäftigung, verlangt weiterhin angemessene Vorkehrungen, sofern dies keine unzumutbare Härte darstellt, verbietet weiterhin die Verwendung von Qualifikationsstandards und Auswahlkriterien, die Menschen mit Behinderungen ausschließen, sofern das Kriterium nicht arbeitsplatzbezogen und mit geschäftlicher Notwendigkeit vereinbar ist, und beschränkt weiterhin behinderungsbezogene Nachfragen und medizinische Untersuchungen vor einem bedingten Stellenangebot. Die Uniform Guidelines on Employee Selection Procedures gemäß 29 C.F.R. Part 1607 verlangen weiterhin von Nutzern von Auswahlverfahren, Aufzeichnungen über Auswirkungen zu führen und, sofern Auswirkungen bestehen, Nachweise der Validität vorzulegen. Die Aufbewahrungsvorschriften gemäß 29 C.F.R. Part 1602 verlangen weiterhin die Aufbewahrung von Bewerbungsunterlagen und, sobald eine Beschwerde eingereicht wurde, die Aufbewahrung relevanter Unterlagen bis zur endgültigen Entscheidung.

Was die Rücknahmen im Januar beseitigt haben, war nicht die Haftung. Es war die Information. Arbeitgeber verloren das Dokument, das ihnen in klarer Sprache mitteilte, welche ihrer Praktiken die Behörde als problematisch ansah und warum. Die Haftung bleibt bestehen, und die Landkarte ist verschwunden.

Die Haftung bleibt bestehen, und die Landkarte ist verschwunden.

Warum sich Behinderungsrisiken anders verhalten als Voreingenommenheitsrisiken

Die dominierende Reaktion auf algorithmisches Risiko bei der Einstellung ist das Bias-Audit, und die dominierende Kennzahl ist die Vier-Fünftel-Regel, die die Auswahlraten über Gruppen hinweg vergleicht und ein Verhältnis unter achtzig Prozent als Nachweis für eine nachteilige Auswirkung behandelt. Das Local Law 144 von New York City, in Kraft seit Juli 2023, verlangt eine jährliche unabhängige Bias-Prüfung automatisierter Beschäftigungsentscheidungsinstrumente und die öffentliche Veröffentlichung der Ergebnisse. Anbieter vermarkten Audit-Ergebnisse zunehmend als Zusicherung.

Dieser Apparat ist für Behinderung schlecht geeignet, und die Diskrepanz ist struktureller Natur und keine Frage der Audit-Qualität. Gruppenstatistische Auswirkungstests erfordern stabile, bekannte, sich gegenseitig ausschließende Kategorien mit ausreichend Mitgliedern in jeder, um einen Ratenvergleich zu stützen. Rasse und Geschlecht kommen diesen Bedingungen nahe. Behinderung tut dies nicht. Sie ist derart heterogen, dass eine einzige Kategorie kaum analytische Bedeutung hat, da die Bedürfnisse nach Vorkehrungen und die Interaktionsmuster eines gehörlosen Bewerbers, eines blinden Bewerbers, eines Bewerbers mit motorischer Beeinträchtigung und eines Bewerbers mit psychiatrischer Behinderung fast nichts gemeinsam haben. Sie wird häufig nicht offengelegt, da Bewerber keine Pflicht zur Selbstidentifikation haben und starke Anreize haben, dies nicht zu tun. Sie weist oft eine geringe Prävalenz in jeder einzelnen Stellenausschreibung auf, was Untergruppenvergleiche auch dort statistisch unterdimensioniert lässt, wo eine Identifikation vorliegt. Und nach dem ADA ist die maßgebliche Analyseeinheit das Individuum und nicht die Gruppe, denn eine Ausschlussklage fragt, ob ein Kriterium dazu tendiert, eine Person mit Behinderung auszuschließen, und eine Klage wegen unterlassener Vorkehrung fragt, was geschah, als eine Person eine Anfrage stellte.

Die Konsequenz verdient eine klare Formulierung. Ein automatisiertes Auswahlsystem kann jedes an ihm durchgeführte Bias-Audit bestehen, in jeder gemessenen Kategorie ein Auswirkungsverhältnis deutlich über der Vier-Fünftel-Schwelle veröffentlichen und dennoch behinderte Bewerber einzeln ausschließen, auf eine Weise, die individuell klagbar und statistisch unsichtbar ist. Audit-Ergebnisse sind kein Nachweis für ADA-Konformität. Sie als solche darzustellen – was mittlerweile gängige Praxis der Anbieter ist – schafft eine dokumentierte Aufzeichnung darüber, dass sich der Arbeitgeber auf eine Zusicherung verlassen hat, die das Risiko nicht adressierte.

Dies ist auch der Grund, warum die weit verbreitete Behauptung, gut konzipierte Algorithmen würden menschliche Voreingenommenheit reduzieren und damit die Chancen für behinderte Bewerber verbessern, als unbelegt behandelt werden sollte. Für manche Formen von Voreingenommenheit mag das zutreffen. Für Behinderung gibt es keine öffentliche Evidenzbasis, die dies belegt, und der Mechanismus, nach dem diese Systeme funktionieren, deutet auf das Gegenteil hin. Modelle bewerten die Übereinstimmung mit einer Verteilung, die aus früheren erfolgreichen Bewerbern gelernt wurde. Behinderung ist, in den Dimensionen, die diese Systeme am häufigsten messen, genau das, wonach Nichtübereinstimmung mit dieser Verteilung aussieht.

Was die Beschwerde vom März 2025 zeigt

Am 19. März 2025 reichten die American Civil Liberties Union, die ACLU of Colorado, Public Justice und Eisenberg and Baum LLP im Namen einer gehörlosen und indigenen Frau eine Beschwerde bei der Colorado Civil Rights Division und der EEOC ein, nachdem diese bei ihrer Bewerbung um eine Beförderung ein automatisiertes Videointerview absolvieren musste. Die Beschwerde wirft Verstöße gegen den ADA, Title VII und den Colorado Anti-Discrimination Act vor. Den öffentlichen Unterlagen zufolge beantragte sie als angemessene Vorkehrung eine von Menschen erstellte Untertitelung, der Antrag wurde mit der Begründung abgelehnt, die automatischen Untertitel der Plattform würden ausreichen, Teile des Interviews waren dennoch ohne Untertitel, und sie wurde anschließend mit Begründungen zur Kommunikation abgelehnt. Der Arbeitgeber erklärt, die Vorwürfe seien unbegründet und man biete allen Bewerbern angemessene Vorkehrungen. Der Anbieter erklärt, die Beschwerde sei unbegründet und beruhe auf einer unzutreffenden Annahme über die verwendete Technologie. Dies sind Behauptungen und Zurückweisungen, und eine behördliche Untersuchung wird klären, ob ein hinreichender Grund vorliegt.

Unabhängig vom Ausgang ist dies das Sachverhaltsmuster, das Arbeitgeber modellieren sollten, denn es setzt nicht voraus, dass ein Modell als voreingenommen nachgewiesen wird. Es hängt von drei gewöhnlichen Fragen ab. War die Beurteilung für diese Kandidatin zugänglich. Wurde eine Vorkehrung beantragt, und wie lautete die Antwort. Kann der Arbeitgeber erklären, was die Beurteilung gemessen hat und warum dieses Konstrukt arbeitsplatzbezogen ist.

Zu beachten ist auch, was diese Argumentationslinie nicht erfordert. Sie erfordert keine vergleichenden Statistiken, keine fachliche Rekonstruktion eines Modells und keine Analyse der nachteiligen Auswirkung. Der Beweis besteht aus einem datierten Antrag auf Vorkehrung, einer Antwort darauf und einem nachteiligen Ergebnis. Dieses Beweisprofil ist kostengünstig zusammenzustellen und wird durch die eigenen Aufzeichnungen des Arbeitgebers erzeugt.

Zugänglichkeit, Vorkehrung und Validität sind drei unterschiedliche Pflichten

Ein Großteil der aktuellen Diskussion verwischt Unterscheidungen, die unabhängig voneinander bestehen, und ihre Vermischung führt zu Compliance-Programmen, die eine Pflicht adressieren, während zwei offenbleiben.

Zugänglichkeit ist eine Eigenschaft der Schnittstelle. Ob die Beurteilungsplattform mit einem Screenreader bedient werden kann, ob Medien mit Untertiteln versehen sind und ob die Zeitvorgaben angepasst werden können, sind Fragen danach, ob der Bewerber die Aufgabe überhaupt erreichen kann. Dies ist die Ebene, die die meisten Organisationen bereits angegangen sind, meist durch eine Konformitätserklärung des Anbieters.

Vorkehrung ist eine Verfahrenspflicht. Sie verlangt, dass Bewerber vor Beginn der Beurteilung darüber informiert werden, dass Anpassungen verfügbar sind, dass ein Antrag einen interaktiven Prozess auslöst und nicht eine formale Ablehnung, dass eine entscheidungsbefugte Person benannt wird und dass ein alternativer Weg existiert, der die Person, die ihn nutzt, nicht benachteiligt. Eine Plattform, die in jeder Hinsicht technisch zugänglich ist, kann dennoch eine Klage wegen unterlassener Vorkehrung auslösen, wenn niemand dem Bewerber mitteilte, dass eine Alternative bestand.

Validität ist eine Eigenschaft der Messung. Sie fragt, ob das, was das System bewertet, einer Anforderung der Stelle entspricht. Dies ist die Ebene, die fast niemand adressiert hat, und hier ist die automatisierte Video- und Sprachbeurteilung am stärksten exponiert. Wo ein System Sprachgewandtheit, Artikulationsrate, Reaktionslatenz, Prosodie, Gesichtsausdruck oder ein als Kommunikation oder Engagement bezeichnetes Konstrukt bewertet, sollte der Arbeitgeber angeben können, welche Aufgabe der Stelle dieses Merkmal erfordert und aufgrund welcher Nachweise. Veröffentlichte Forschung dokumentiert erhebliche Unterschiede in der Fehlerrate der automatischen Spracherkennung bei Sprechern, deren Sprache außerhalb der Trainingsverteilung liegt, einschließlich rassifizierter Sprachmuster und atypischer oder gestörter Sprache, weshalb die University of Illinois 2022 ein eigenes Speech Accessibility Project einrichtete, um solche Daten zu erheben. Wenn ein Bewerber über einen Dolmetscher gebärdet, ist das bewertete Transkript die Wiedergabe des Dolmetschers und nicht die Äußerung des Bewerbers, und die lexikalischen Entscheidungen und die Verarbeitungsverzögerung des Dolmetschers werden dem Bewerber zugeschrieben. Das System erzeugt eine Zahl. Es misst nicht den Bewerber.

Die Ebene der Bundesstaaten und ihr Zeitplan

Der Rückzug auf Bundesebene räumt das Feld nicht, und der Zeitplan der Bundesstaaten ist für die Planung relevant. Das im August 2024 unterzeichnete Illinois House Bill 3773 ändert den Illinois Human Rights Act, um den diskriminierenden Einsatz künstlicher Intelligenz über den gesamten Beschäftigungszyklus hinweg zu verbieten und eine Benachrichtigungspflicht gegenüber Bewerbern und Beschäftigten bei Einsatz solcher Systeme vorzuschreiben, mit Wirkung zum 1. Januar 2026. Das im Mai 2024 unterzeichnete Colorado Senate Bill 24-205 legt Entwicklern und Betreibern von Hochrisikosystemen, die bei folgenreichen Entscheidungen einschließlich Beschäftigung eingesetzt werden, Pflichten auf, mit Wirkung zum 1. Februar 2026, wobei der Gouverneur bei der Unterzeichnung zu einer gesetzgeberischen Überarbeitung aufgerufen hat und eine Änderung vor diesem Datum als wahrscheinlich gelten sollte. Das Virginia House Bill 2094, das einen vergleichbaren Rahmen geschaffen hätte, wurde im März 2025 mit einem Veto belegt. Das Local Law 144 von New York City bleibt weiterhin in Kraft.

Die Richtung der Ebene der Bundesstaaten geht eher in Richtung Benachrichtigung und Offenlegung als hin zu materiellen Sorgfaltspflichten. Arbeitgeber sollten davon ausgehen, dass die Pflichten, denen sie tatsächlich gegenüberstehen werden, darin bestehen, offenzulegen, was sie tun, und dass die Pflicht, nachweisen zu können, was sie getan haben, eher durch Rechtsstreitigkeiten als durch eine Regulierungsbehörde entstehen wird.

Was jetzt zu tun ist

Das Folgende kann von einer bestehenden Personalabteilung erledigt werden und erfordert keine externe Unterstützung.

1. Erfassen Sie jedes System, das eine Auswahlentscheidung berührt, einschließlich Lebenslaufanalyse, Ranking, Ausschlussfragen, chatbasiertem Vorscreening und automatisierter Video- oder Sprachbeurteilung. Berücksichtigen Sie auch standardmäßig aktivierte Funktionen in einem Bewerbermanagementsystem, die am häufigsten übersehen werden.
2. Dokumentieren Sie für jedes System schriftlich, was es misst und welcher dokumentierten Stellenanforderung dieses Konstrukt entspricht. Wo keine Antwort existiert, bewertet das System ein nicht validiertes Kriterium.
3. Stellen Sie sicher, dass Bewerber vor Beginn der Beurteilung – nicht danach – darüber informiert werden, dass eine alternative oder modifizierte Beurteilung verfügbar ist, und dass dieser Hinweis auf der Beurteilung selbst erscheint und nicht auf einer Karriereseite versteckt ist.
4. Rufen Sie jeden Antrag auf Vorkehrung ab, der mit einer automatisierten Beurteilung in den vergangenen vierundzwanzig Monaten in Verbindung stand. Dokumentieren Sie, was beantragt wurde, wer entschieden hat, was bereitgestellt wurde und wie das Ergebnis ausfiel. Diese Akte wird bei jeder Beschwerde vorgelegt werden und sollte überprüft werden, bevor jemand anderes sie überprüft.
5. Fragen Sie den Anbieter schriftlich nach Validierungsnachweisen für jedes bewertete Konstrukt und nach Genauigkeitsdaten, aufgeschlüsselt nach Sprach- und Kommunikationsmerkmalen. Bewahren Sie die Antwort auf, einschließlich einer Verweigerung, die selbst ein nützlicher Beweis für den Wissensstand des Arbeitgebers ist.
6. Stellen Sie sicher, dass Bewertungen und die zum Zeitpunkt jeder Entscheidung geltende Konfiguration für den geltenden Aufbewahrungszeitraum erhalten bleiben. Bewertungen, die zur Erstellung eines Rankings berechnet und anschließend verworfen werden, können später nicht mehr erklärt werden.
7. Behandeln Sie jedes Bias-Audit-Ergebnis nur als Beweis für die Kategorien Rasse und Geschlecht, und stellen Sie es weder intern noch extern als Nachweis für ADA-Konformität dar.

Fazit

Künstliche Intelligenz kann den Zugang zur Arbeit für Menschen mit Behinderungen erheblich erweitern. Echtzeit-Untertitelung, Sprache-zu-Text und adaptive Schnittstellen haben dies bereits getan, und die Bewertung der OECD zu KI und Behinderung auf dem Arbeitsmarkt aus dem Jahr 2023 dokumentiert echte Fortschritte. Diese Fortschritte stammen aus unterstützenden Anwendungen, bei denen die Technologie der Person dient. Sie übertragen sich nicht automatisch auf bewertende Anwendungen, bei denen die Technologie die Person misst, und die derzeitige Tendenz, vom einen auf das andere zu schließen, ist der zentrale analytische Fehler in diesem Bereich.

Der Rückzug der Bundesleitlinien im Januar 2025 hat verändert, was Arbeitgebern mitgeteilt wird. Er hat nicht verändert, was Arbeitgeber schulden. Die Organisationen, die ihre Einstellungsentscheidungen werden verteidigen können, sind nicht diejenigen, die das ausgefeilteste Werkzeug gekauft oder das beruhigendste Audit veröffentlicht haben. Es sind diejenigen, die sagen können, was ihre Systeme messen, warum das für die Stelle relevant ist, was geschah, als ein Bewerber um etwas anderes bat, und wer entschieden hat.

Quellen

• American Civil Liberties Union, ACLU of Colorado, Public Justice und Eisenberg & Baum LLP. Beschwerde eingereicht bei der Colorado Civil Rights Division und der U.S. Equal Employment Opportunity Commission, 19. März 2025.
• Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112.
• Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
• Colorado Senate Bill 24-205, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems, unterzeichnet am 17. Mai 2024.
• Executive Order 14179, Removing Barriers to American Leadership in Artificial Intelligence, 23. Januar 2025.
• Illinois House Bill 3773, zur Änderung des Illinois Human Rights Act, unterzeichnet am 9. August 2024.
• New York City Local Law 144 von 2021, Automated Employment Decision Tools.
• OECD. Using AI to Support People with Disabilities in the Labour Market. 2023.
• U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, May 12, 2022. Removed from the agency website January 27, 2025.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; Aufbewahrungspflichten, 29 C.F.R. Part 1602.