Lo que la propuesta presupone
El argumento a favor de la accesibilidad adaptativa es sencillo y atractivo. En lugar de construir una sola interfaz y pedir a cada empleado que se adapte a ella, se implementan sistemas que se ajustan a cada persona, de manera continua y sin que nadie lo solicite. La accesibilidad se vuelve personal, inmediata e invisible. La formulación que suele acompañarla es que la accesibilidad debe adaptarse a las personas en lugar de exigir que las personas se adapten a ella.
La formulación es correcta como principio y engañosa como especificación, porque oculta lo que exige la adaptación. Un sistema no puede ajustarse a una persona a la que no ha clasificado. Para ampliar el texto de un empleado y no el de otro, para simplificar un panel de control, alterar los tiempos o cambiar la modalidad de entrada, el sistema debe determinar primero que esa persona en particular lo necesita. La personalización es clasificación, y en el entorno laboral la clasificación en cuestión es la discapacidad.
La personalización es clasificación, y en el entorno laboral la clasificación en cuestión es la discapacidad.
Ese es el problema de gobernanza, y no es un detalle de implementación. Un empleador que implementa un sistema que infiere cuáles de sus empleados tienen discapacidad ha construido algo bastante distinto de una función de accesibilidad. Ha construido un mecanismo que genera información sobre discapacidad de su plantilla, de manera continua, sin solicitud, sin divulgación y sin el proceso que la ley establece precisamente para este propósito.
La clasificación es lo que más restringe la legislación laboral
La Ley de Estadounidenses con Discapacidades (ADA, por sus siglas en inglés) restringe a los empleadores de exigir exámenes médicos o hacer indagaciones sobre si un empleado es una persona con discapacidad, o sobre la naturaleza o gravedad de dicha discapacidad, a menos que la indagación esté relacionada con el puesto y sea coherente con la necesidad del negocio. La restricción es deliberadamente amplia, y la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) la ha interpretado durante mucho tiempo como aplicable a las indagaciones que probablemente obtengan información sobre una discapacidad, y no solo a las preguntas directas.
Si un motor de inferencia realiza una indagación en el sentido de la ley es una cuestión abierta, y debe calificarse como abierta y no como resuelta en ningún sentido. Un sistema que monitorea el nivel de zoom, el tiempo de permanencia, las tasas de error, el método de entrada, la frecuencia de corrección o los patrones de navegación, y de ellos deriva que un usuario probablemente tiene una discapacidad visual, motora o cognitiva, no ha preguntado nada. Ha obtenido la respuesta sin la pregunta, lo cual está o bien fuera del lenguaje de la disposición o es exactamente el perjuicio que la disposición pretende evitar, y ningún tribunal ha tenido aún ocasión de decidir cuál de las dos.
Lo que no está abierto a duda es lo que termina teniendo el empleador. Sea cual sea la manera en que se caracterice la inferencia, el resultado es un registro, asociado a un empleado identificado, que indica una probable discapacidad. La ADA exige que la información médica obtenida sobre los empleados se mantenga en formularios separados, en archivos separados, y se trate como un registro médico confidencial. Es poco probable que un sistema de accesibilidad adaptativa que genera inferencias relacionadas con la discapacidad dentro de un flujo de análisis de producto de uso general, alojado en la infraestructura del proveedor y visible para quien administre la plataforma, satisfaga esa norma, y en la mayoría de las implementaciones nadie ha considerado la cuestión porque el sistema se adquirió como una función de experiencia de usuario y no como una fuente de información médica de los empleados.
Nótese también lo que pierde el empleado. El proceso de adaptación existe para dar control a la persona: si divulgar, qué divulgar, a quién, y qué solicitar. Un sistema adaptativo decide las cuatro cosas en nombre del empleado y nunca le informa que lo ha hecho. A la persona le sirve mejor un formulario sencillo y un responsable de decisiones identificado que un sistema que determina en silencio lo que ella necesita.
La orientación pertinente de la EEOC sobre estas cuestiones, la asistencia técnica de mayo de 2022 sobre la ADA y el uso de software, algoritmos e inteligencia artificial para evaluar a candidatos y empleados, nombró la indagación indebida relacionada con la discapacidad como uno de los tres mecanismos principales de daño algorítmico bajo la ADA, junto con la falta de adaptación y la exclusión automática. Ese documento fue retirado del sitio web de la agencia en enero de 2025. Su retirada cambió la disponibilidad de la explicación, no el contenido de la ley.
El mercado acaba de recibir una lección de lo que ocurre
Tres meses antes de escribir esto, la Comisión Federal de Comercio (FTC) anunció una denuncia y una orden propuesta que exige a accessiBe pagar un millón de dólares para resolver las acusaciones de que tergiversó la capacidad de su herramienta de accesibilidad web impulsada por IA. La empresa había comercializado un complemento afirmando que podía hacer que cualquier sitio web cumpliera con las Pautas de Accesibilidad para el Contenido Web (WCAG), en parte de inmediato y por completo mediante un proceso automatizado en un plazo de cuarenta y ocho horas, con reescaneo continuo para mantener el cumplimiento a medida que cambiaba el contenido. La FTC alegó que el producto no cumplía esto, fallando en componentes básicos como menús, encabezados, tablas, imágenes y grabaciones, y que la empresa había formateado testimonios pagados para que parecieran reseñas independientes. La orden propuesta prohíbe a la empresa afirmar que sus productos automatizados pueden hacer que un sitio web cumpla con las WCAG, o mantenerlo conforme con el tiempo, sin pruebas que respalden la afirmación.
La capa de accesibilidad ('overlay') es el precedente disponible más cercano a la accesibilidad adaptativa, y la lección no es que la automatización no pueda ayudar. Es que un ajuste automatizado superpuesto a un sistema subyacente inaccesible produce la apariencia de acceso en lugar del acceso mismo, y que las organizaciones que lo implementan adquieren esa apariencia como su defensa. Las capas de accesibilidad se vendieron precisamente con el mismo discurso que hoy usa la propuesta de accesibilidad adaptativa: no se limite a cumplir, innove; la tecnología se ajusta en tiempo real; la accesibilidad se vuelve automática. Cientos de organizaciones que usaban estas capas han sido demandadas en litigios de accesibilidad web, y la capa no las ayudó. Las identificó.
Una organización que adopta un sistema de personalización basándose en la afirmación de un proveedor de que se adapta a todos los usuarios está haciendo la misma compra, en un contexto en el que las personas afectadas son empleados y no visitantes de un sitio web, y donde la ley aplicable conlleva un derecho de acción individual.
La adaptación se está ofreciendo como sustituto de la adaptación razonable, y eso ya se está litigando
El peligro práctico no es que los sistemas adaptativos fallen. Es que su existencia se trate como si cumpliera la obligación de adaptación razonable.
En marzo de 2025, la Unión Estadounidense por las Libertades Civiles (ACLU), la ACLU de Colorado, Public Justice y Eisenberg and Baum presentaron una denuncia ante la División de Derechos Civiles de Colorado y la EEOC en nombre de una empleada Sorda e indígena. Según los documentos públicos, ella solicitó subtitulado generado por humanos como adaptación razonable para una entrevista en video automatizada, y la solicitud fue denegada con el argumento de que los subtítulos automáticos de la plataforma serían suficientes. Según se alega, partes de la entrevista quedaron sin subtitular en cualquier caso. Ambas empresas niegan las acusaciones, y el asunto se determinará mediante investigación y no mediante comentarios.
Sea cual sea su resultado, el patrón de hechos identifica el riesgo exactamente. La posición del empleador fue que la función adaptativa automatizada hacía innecesaria la adaptación solicitada. Esa es la proposición que el marketing de la accesibilidad adaptativa promueve como su principal beneficio. Una organización que adopta la tecnología e interioriza el marketing ha adoptado una defensa que se está poniendo a prueba en este momento, y debe entender que es la defensa en cuestión y no una forma de evitar el conflicto.
La tecnología de asistencia no es un programa de accesibilidad
Una distinción final, porque la propuesta tiende a difuminarla. Aplicaciones como Seeing AI y Google Lookout son tecnologías de asistencia: herramientas que una persona ciega o con baja visión elige, configura, controla y puede abandonar. Le pertenecen al usuario. Su gobernanza es propia del usuario, y su valor es real.
Una interfaz adaptativa implementada por el empleador es un objeto de otro tipo. Pertenece a la institución, se aplica a la persona en lugar de ser operada por ella, funciona quiera ella o no, y genera datos que retiene el empleador. Argumentar desde el éxito de la primera categoría hacia la seguridad de la segunda es el error analítico central en este campo, y se repite porque ambas se describen como IA para la accesibilidad.
También hay un problema más sutil al citar aplicaciones de asistencia para consumidores como prueba de la postura de accesibilidad de una organización. Si un empleado ciego se desplaza por el lugar de trabajo usando una aplicación que encontró, instaló y aprendió por su cuenta, la organización no ha proporcionado accesibilidad. Se ha beneficiado de que él lo hiciera, y contar eso como provisión institucional oculta una obligación no cumplida. La pregunta pertinente no es qué herramientas han encontrado los empleados. Es si los propios documentos, sistemas y entorno físico de la organización son accesibles sin ellas.
Lo que realmente exige el principio
La accesibilidad debe adaptarse a las personas y no al revés. El principio es sólido. Lo que se deriva de él no es la inferencia sino la autodeterminación: la persona especifica lo que necesita, y el sistema hace lo que ella especificó. Esa es la diferencia entre un control de preferencias y un motor de detección, y es toda la cuestión de gobernanza.
De ahí se derivan seis puntos para cualquier organización que considere estos sistemas.
- Pregunte al proveedor, por escrito, si el sistema infiere características del usuario o aplica preferencias declaradas por el usuario. Si infiere, pregunte qué infiere, a partir de qué señales, dónde se almacena la inferencia, quién puede verla y durante cuánto tiempo se conserva. Conserve la respuesta.
- Prefiera la preferencia declarada frente a la detección siempre que se pueda lograr el mismo resultado. Un panel de configuración controlado por el empleado ofrece la misma adaptación sin ninguno de los problemas de inferencia, y deja al empleado a cargo de su propia divulgación.
- Trate cualquier inferencia relacionada con la discapacidad que genere el sistema como información médica confidencial a efectos de manejo, en almacenamiento separado con acceso restringido, y confirme que la arquitectura del proveedor lo permite antes de la implementación y no después.
- Establezca explícitamente, tanto en la política como en el propio proceso de adaptación, que las funciones adaptativas automatizadas no limitan ni sustituyen una solicitud de adaptación razonable, y capacite en consecuencia a quien gestione las solicitudes.
- Rechace las afirmaciones de cumplimiento. Cualquier declaración de que un producto logra o mantiene automáticamente la conformidad con una norma de accesibilidad debe tratarse como una afirmación de marketing sin respaldo, salvo que vaya acompañada de pruebas, que es ahora también la posición de la FTC.
- Corrija el sistema subyacente. La corrección adaptativa aplicada a un documento, panel de control o flujo de trabajo inaccesible produce una modificación temporal de la superficie. Remediar la fuente es más lento, menos impresionante en una demostración, y lo único que funciona de manera duradera.
Conclusión
La accesibilidad personalizada se presenta como una forma de superar la fricción del proceso de adaptación: sin formularios, sin divulgación, sin demora, sin conversaciones incómodas. La fricción que propone eliminar es en gran medida el proceso mediante el cual una persona con discapacidad ejerce control sobre información acerca de sí misma y declara lo que realmente necesita. Eliminarla no elimina la clasificación. Traslada la clasificación de una conversación en la que el empleado participa a un sistema que él no puede ver.
La tecnología no es el problema y gran parte de ella resultará genuinamente útil. La afirmación es el problema, y la afirmación que se hace actualmente, de que la accesibilidad puede ser automática, adaptativa y completa sin que nadie tenga que decidir nada, es la misma afirmación que ya ha producido una acción de aplicación federal y una ola de litigios en el mercado adyacente. No era cierta para los sitios web. No lo es más para los lugares de trabajo, donde las personas a quienes se adapta son empleados con un derecho de acción privado y una ley que los protege desde 1990.
Referencias
- American Civil Liberties Union, ACLU de Colorado, Public Justice, y Eisenberg & Baum LLP. Demanda presentada ante la División de Derechos Civiles de Colorado y la Comisión para la Igualdad de Oportunidades en el Empleo de EE. UU., 19 de marzo de 2025.
- Ley de Estadounidenses con Discapacidades de 1990, 42 U.S.C. § 12112(d), sobre exámenes médicos, indagaciones relacionadas con la discapacidad y confidencialidad de la información médica.
- Comisión Federal de Comercio, En el asunto de accessiBe, Inc., Expediente n.º 2223156; denuncia y orden propuesta anunciadas el 3 de enero de 2025; orden final en abril de 2025.
- U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, May 12, 2022; removed from the agency website January 27, 2025.
- Pautas de Accesibilidad para el Contenido Web, Consorcio World Wide Web.