Anpassung erfordert Erkennung: Das Steuerungsproblem bei personalisierter Barrierefreiheit am Arbeitsplatz

Was die These voraussetzt

Das Argument für adaptive Barrierefreiheit ist einfach und überzeugend. Statt eine einzige Oberfläche zu bauen und jeden Mitarbeiter zu verpflichten, sich ihr anzupassen, setzt man Systeme ein, die sich fortlaufend und ohne Aufforderung an jede Person anpassen. Barrierefreiheit wird persönlich, unmittelbar und unsichtbar. Die übliche Formulierung dazu lautet, Barrierefreiheit solle sich den Menschen anpassen, statt dass sich Menschen ihr anpassen müssen.

Die Formulierung ist als Prinzip richtig und als Spezifikation irreführend, denn sie verschleiert, was Anpassung voraussetzt. Ein System kann sich nicht an eine Person anpassen, die es nicht klassifiziert hat. Um den Text für einen Mitarbeiter zu vergrößern und für einen anderen nicht, ein Dashboard zu vereinfachen, das Timing zu ändern oder die Eingabemodalität anzupassen, muss das System zunächst feststellen, dass genau diese Person dies benötigt. Personalisierung ist Klassifizierung, und am Arbeitsplatz ist die betreffende Klassifizierung die Behinderung.

Personalisierung ist Klassifizierung, und am Arbeitsplatz ist die betreffende Klassifizierung die Behinderung.

Das ist das Governance-Problem, und es ist kein Detail der Umsetzung. Ein Arbeitgeber, der ein System einsetzt, das ableitet, welche seiner Mitarbeiter behindert sind, hat etwas ganz anderes gebaut als ein Barrierefreiheits-Feature. Er hat einen Mechanismus geschaffen, der fortlaufend, ohne Anfrage, ohne Offenlegung und ohne das vom Gesetz genau für diesen Zweck vorgesehene Verfahren Informationen über Behinderungen seiner Belegschaft erzeugt.

Klassifizierung ist das, was das Arbeitsrecht am stärksten einschränkt

Der Americans with Disabilities Act (ADA) untersagt es Arbeitgebern, medizinische Untersuchungen zu verlangen oder Fragen danach zu stellen, ob ein Mitarbeiter eine Person mit einer Behinderung ist, oder nach Art oder Schwere dieser Behinderung zu fragen, es sei denn, die Anfrage ist arbeitsplatzbezogen und mit geschäftlicher Notwendigkeit vereinbar. Die Einschränkung ist bewusst weit gefasst, und die Equal Employment Opportunity Commission (EEOC) legt sie seit langem so aus, dass sie Anfragen erfasst, die wahrscheinlich Informationen über eine Behinderung hervorbringen, nicht nur direkte Fragen.

Ob eine Inferenz-Engine eine Anfrage im Sinne des Gesetzes stellt, ist eine offene Frage, und sie sollte als offen bezeichnet werden, nicht als in die eine oder andere Richtung entschieden. Ein System, das Zoomstufe, Verweildauer, Fehlerraten, Eingabemethode, Korrekturhäufigkeit oder Navigationsmuster überwacht und daraus ableitet, dass ein Nutzer wahrscheinlich eine Seh-, Motorik- oder kognitive Beeinträchtigung hat, hat nichts gefragt. Es hat die Antwort ohne die Frage erhalten, was entweder außerhalb des Wortlauts der Vorschrift liegt oder genau das Übel ist, das die Vorschrift verhindern soll, und noch kein Gericht hatte Gelegenheit zu entscheiden, welches von beiden zutrifft.

Was nicht offen ist, ist das, was der Arbeitgeber am Ende in Händen hält. Wie auch immer die Inferenz charakterisiert wird, das Ergebnis ist ein Datensatz, verknüpft mit einem namentlich genannten Mitarbeiter, der auf eine wahrscheinliche Behinderung hinweist. Der ADA verlangt, dass medizinische Informationen über Mitarbeiter auf separaten Formularen, in separaten Akten geführt und als vertrauliche medizinische Unterlagen behandelt werden. Ein adaptives Barrierefreiheitssystem, das behinderungsnahe Inferenzen innerhalb einer allgemeinen Produktanalyse-Pipeline erzeugt, auf Anbieter-Infrastruktur gespeichert und für jeden einsehbar ist, der die Plattform verwaltet, dürfte diesen Standard kaum erfüllen, und in den meisten Einsätzen hat niemand diese Frage bedacht, weil das System als Nutzererfahrungs-Feature beschafft wurde und nicht als Quelle medizinischer Mitarbeiterinformationen.

Zu beachten ist auch, was der Mitarbeiter verliert. Das Verfahren zur Gewährung von Vorkehrungen existiert, um der Person Kontrolle zu geben: ob sie offenlegt, was sie offenlegt, gegenüber wem, und was sie beantragt. Ein adaptives System entscheidet alle vier Punkte im Namen des Mitarbeiters und teilt ihm niemals mit, dass es dies getan hat. Der Einzelne ist mit einem einfachen Formular und einem benannten Entscheidungsträger besser bedient als mit einem System, das heimlich bestimmt, was er benötigt.

Die einschlägige EEOC-Leitlinie zu diesen Fragen, die technische Unterstützung vom Mai 2022 zum ADA und zur Nutzung von Software, Algorithmen und künstlicher Intelligenz zur Beurteilung von Bewerbern und Mitarbeitern, benannte unzulässige behinderungsbezogene Anfragen als einen von drei Hauptmechanismen algorithmischen ADA-Schadens, neben unterlassener Vorkehrung und Ausschluss (Screen-out). Dieses Dokument wurde im Januar 2025 von der Website der Behörde entfernt. Seine Entfernung änderte die Verfügbarkeit der Erklärung, nicht den Inhalt des Gesetzes.

Dem Markt wurde gerade gezeigt, was passiert

Drei Monate vor der Abfassung dieses Textes gab die Federal Trade Commission eine Beschwerde und einen vorgeschlagenen Beschluss bekannt, wonach accessiBe eine Million Dollar zahlen muss, um Vorwürfe beizulegen, das Unternehmen habe die Leistungsfähigkeit seines KI-gestützten Web-Barrierefreiheitstools falsch dargestellt. Das Unternehmen hatte ein Plug-in vermarktet, das angeblich jede Website konform mit den Web Content Accessibility Guidelines (WCAG) machen könne, teils sofort und vollständig durch einen automatisierten Prozess innerhalb von achtundvierzig Stunden, mit kontinuierlichem erneutem Scannen, um die Konformität bei sich ändernden Inhalten aufrechtzuerhalten. Die FTC behauptete, das Produkt leiste dies nicht und versage bei grundlegenden Komponenten wie Menüs, Überschriften, Tabellen, Bildern und Aufnahmen, und dass das Unternehmen bezahlte Empfehlungen so formatiert habe, dass sie wie unabhängige Bewertungen aussahen. Der vorgeschlagene Beschluss untersagt dem Unternehmen, zu behaupten, seine automatisierten Produkte könnten eine Website WCAG-konform machen oder diese Konformität im Zeitverlauf aufrechterhalten, ohne Belege für diese Behauptung.

Das Barrierefreiheits-Overlay ist der nächstliegende verfügbare Präzedenzfall für adaptive Barrierefreiheit, und die Lehre daraus ist nicht, dass Automatisierung nicht helfen kann. Sie lautet, dass eine automatisierte Anpassung, die über ein nicht barrierefreies zugrunde liegendes System gelegt wird, den Anschein von Zugänglichkeit erzeugt statt tatsächlicher Zugänglichkeit, und dass die Organisationen, die sie einsetzen, sich diesen Anschein als Verteidigung aneignen. Overlays wurden genau mit dem Register verkauft, das die adaptive Barrierefreiheits-Werbung heute verwendet: nicht nur konform sein, sondern innovieren; die Technologie passt sich in Echtzeit an; Barrierefreiheit wird automatisch. Hunderte von Organisationen, die Overlays nutzten, wurden in Web-Barrierefreiheitsklagen verklagt, und das Overlay half ihnen nicht. Es identifizierte sie.

Eine Organisation, die ein Personalisierungssystem aufgrund der Behauptung eines Anbieters einführt, es passe sich an jeden Nutzer an, trifft dieselbe Entscheidung, nur in einem Kontext, in dem die Betroffenen Mitarbeiter statt Website-Besucher sind und in dem das anwendbare Gesetz ein individuelles Klagerecht vorsieht.

Anpassung wird als Ersatz für Vorkehrung angeboten, und genau das wird derzeit gerichtlich verhandelt

Die praktische Gefahr besteht nicht darin, dass adaptive Systeme versagen. Sie besteht darin, dass ihre bloße Existenz als Erfüllung der Verpflichtung zur Gewährung von Vorkehrungen behandelt wird.

Im März 2025 reichten die American Civil Liberties Union, die ACLU of Colorado, Public Justice und Eisenberg and Baum im Namen einer tauben und indigenen Mitarbeiterin eine Beschwerde bei der Colorado Civil Rights Division und der EEOC ein. Den öffentlichen Unterlagen zufolge beantragte sie als angemessene Vorkehrung für ein automatisiertes Videointerview von Menschen erstellte Untertitel, und der Antrag wurde mit der Begründung abgelehnt, die automatischen Untertitel der Plattform würden ausreichen. Teile des Interviews sollen demnach ohnehin ohne Untertitel geblieben sein. Beide Unternehmen bestreiten die Vorwürfe, und die Angelegenheit wird durch Ermittlung, nicht durch Kommentar entschieden werden.

Unabhängig vom Ausgang benennt der Sachverhalt das Risiko genau. Die Position des Arbeitgebers war, dass das automatisierte adaptive Feature die beantragte Vorkehrung überflüssig mache. Genau das ist die These, die das Marketing für adaptive Barrierefreiheit als zentralen Nutzen anführt. Eine Organisation, die die Technologie übernimmt und das Marketing verinnerlicht, hat eine Verteidigung übernommen, die derzeit auf dem Prüfstand steht, und sie sollte verstehen, dass dies die strittige Verteidigung ist und nicht ein Weg, dem Streit auszuweichen.

Assistive Technologie ist kein Barrierefreiheitsprogramm

Eine letzte Unterscheidung, weil die These dazu neigt, sie zu verwischen. Anwendungen wie Seeing AI und Google Lookout sind assistive Technologien: Werkzeuge, die eine blinde oder sehbehinderte Person selbst wählt, konfiguriert, kontrolliert und aufgeben kann. Sie gehören dem Nutzer. Ihre Governance liegt beim Nutzer selbst, und ihr Wert ist real.

Eine vom Arbeitgeber eingesetzte adaptive Oberfläche ist ein anderer Gegenstand. Sie gehört der Institution, sie wird auf die Person angewendet statt von ihr bedient, sie läuft unabhängig davon, ob sie es will, und sie erzeugt Daten, die der Arbeitgeber besitzt. Vom Erfolg der ersten Kategorie auf die Unbedenklichkeit der zweiten zu schließen, ist der zentrale analytische Fehler in diesem Feld, und er tritt immer wieder auf, weil beide als KI für Barrierefreiheit beschrieben werden.

Es gibt auch ein leiseres Problem darin, verbraucherorientierte assistive Apps als Beleg für die Barrierefreiheits-Haltung einer Organisation anzuführen. Wenn ein blinder Mitarbeiter sich am Arbeitsplatz mithilfe einer Anwendung zurechtfindet, die er selbst gefunden, installiert und in seiner eigenen Zeit erlernt hat, hat die Organisation keine Barrierefreiheit bereitgestellt. Sie hat davon profitiert, dass er dies getan hat, und dies als institutionelle Leistung zu zählen, verschleiert eine unerfüllte Verpflichtung. Die relevante Frage ist nicht, welche Werkzeuge Mitarbeiter gefunden haben. Sie ist, ob die eigenen Dokumente, Systeme und die physische Umgebung der Organisation ohne diese Werkzeuge zugänglich sind.

Was das Prinzip tatsächlich erfordert

Barrierefreiheit sollte sich an Menschen anpassen, nicht umgekehrt. Das Prinzip ist sachlich richtig. Was daraus folgt, ist nicht Inferenz, sondern Selbstbestimmung: Die Person legt fest, was sie benötigt, und das System tut, was sie festgelegt hat. Das ist der Unterschied zwischen einer Präferenzsteuerung und einer Erkennungs-Engine, und das ist die gesamte Governance-Frage.

Sechs Punkte folgen daraus für jede Organisation, die solche Systeme in Betracht zieht.

1. Fragen Sie den Anbieter schriftlich, ob das System Nutzereigenschaften ableitet oder vom Nutzer erklärte Präferenzen anwendet. Wenn es ableitet, fragen Sie, was es ableitet, aus welchen Signalen, wo die Inferenz gespeichert wird, wer sie sehen kann und wie lange sie aufbewahrt wird. Bewahren Sie die Antwort auf.
2. Bevorzugen Sie erklärte Präferenzen gegenüber Erkennung, wo immer das gleiche Ergebnis erreichbar ist. Ein vom Mitarbeiter gesteuertes Einstellungsfeld liefert dieselbe Anpassung ohne jedes Inferenzproblem, und es belässt die Kontrolle über die eigene Offenlegung beim Mitarbeiter.
3. Behandeln Sie jede vom System erzeugte behinderungsbezogene Inferenz zu Verarbeitungszwecken als vertrauliche medizinische Information, in separater Speicherung mit eingeschränktem Zugriff, und bestätigen Sie vor der Einführung, nicht danach, dass die Architektur des Anbieters dies zulässt.
4. Legen Sie ausdrücklich in der Richtlinie und im Vorkehrungsverfahren selbst fest, dass automatisierte adaptive Funktionen einen Antrag auf angemessene Vorkehrung weder einschränken noch ersetzen, und schulen Sie alle, die solche Anträge bearbeiten, entsprechend.
5. Weisen Sie Konformitätsbehauptungen zurück. Jede Darstellung, ein Produkt erreiche oder erhalte automatisch die Konformität mit einem Barrierefreiheitsstandard, sollte als unbelegte Marketingbehauptung behandelt werden, sofern sie nicht durch Belege untermauert ist — das ist nun auch die Position der FTC.
6. Beheben Sie das zugrunde liegende System. Adaptive Korrektur, die auf ein nicht barrierefreies Dokument, Dashboard oder einen Arbeitsablauf angewendet wird, erzeugt eine vorübergehende Änderung der Oberfläche. Die Quelle zu sanieren ist langsamer, in einer Vorführung weniger beeindruckend und das Einzige, was dauerhaft funktioniert.

Fazit

Personalisierte Barrierefreiheit wird als Weg vorbei an der Reibung des Vorkehrungsverfahrens dargestellt: keine Formulare, keine Offenlegung, keine Verzögerung, kein unangenehmes Gespräch. Die Reibung, die damit beseitigt werden soll, ist größtenteils das Verfahren, durch das eine Person mit Behinderung Kontrolle über Informationen über sich selbst ausübt und angibt, was sie tatsächlich benötigt. Sie zu beseitigen, eliminiert die Klassifizierung nicht. Sie verlagert die Klassifizierung aus einem Gespräch, an dem der Mitarbeiter teilnimmt, in ein System, das er nicht sehen kann.

Die Technologie ist nicht das Problem, und vieles davon wird sich als wirklich nützlich erweisen. Die Behauptung ist das Problem, und die derzeit aufgestellte Behauptung, Barrierefreiheit könne automatisch, adaptiv und vollständig sein, ohne dass jemand irgendetwas entscheiden müsse, ist dieselbe Behauptung, die bereits zu einer bundesstaatlichen Durchsetzungsmaßnahme und einer Klagewelle im benachbarten Markt geführt hat. Sie war bei Websites nicht wahr. Sie ist bei Arbeitsplätzen nicht wahrer, wo die Menschen, an die angepasst wird, Mitarbeiter mit einem privaten Klagerecht und einem Gesetz sind, das sie seit 1990 schützt.

Quellen

• American Civil Liberties Union, ACLU of Colorado, Public Justice und Eisenberg & Baum LLP. Beschwerde eingereicht bei der Colorado Civil Rights Division und der U.S. Equal Employment Opportunity Commission, 19. März 2025.
• Americans with Disabilities Act of 1990, 42 U.S.C. § 12112(d), zu medizinischen Untersuchungen, behinderungsbezogenen Anfragen und der Vertraulichkeit medizinischer Informationen.
• Federal Trade Commission, In the Matter of accessiBe, Inc., Aktenzeichen 2223156; Beschwerde und vorgeschlagener Beschluss bekanntgegeben am 3. Januar 2025; endgültiger Beschluss April 2025.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12. Mai 2022; am 27. Januar 2025 von der Website der Behörde entfernt.
• Web Content Accessibility Guidelines, World Wide Web Consortium.