El 23 de enero de 2025, la Orden Ejecutiva 14179, Eliminación de Barreras al Liderazgo Estadounidense en Inteligencia Artificial, revocó la orden ejecutiva sobre IA de la administración anterior y ordenó a las agencias federales revisar y desmantelar la política relacionada con la IA. En cuestión de días, las consecuencias prácticas llegaron al ámbito laboral.
Qué cambió y qué no
El 27 de enero, la Comisión para la Igualdad de Oportunidades en el Empleo eliminó de su sitio web su orientación sobre inteligencia artificial, incluido el documento de asistencia técnica de mayo de 2022 sobre la Ley de Estadounidenses con Discapacidades y el uso de software, algoritmos e inteligencia artificial para evaluar a solicitantes de empleo y empleados, su resumen complementario Tips for Workers, y el documento de asistencia técnica de mayo de 2023 relativo al Título VII. La Oficina de Programas Federales de Cumplimiento de Contratos eliminó su orientación sobre inteligencia artificial e igualdad de oportunidades en el empleo para contratistas federales. El Departamento de Trabajo señaló que el Marco de IA y Contratación Inclusiva publicado en septiembre de 2024 por Partnership on Employment and Accessible Technology, así como sus propias mejores prácticas sobre inteligencia artificial de octubre de 2024, podrían ya no reflejar la política vigente.
Gran parte de los comentarios ha interpretado estas eliminaciones como una reducción de la exposición del empleador. Esa interpretación confunde la orientación con la ley. Los documentos de asistencia técnica son interpretativos. Explican cómo entiende una agencia un estatuto y cómo pretende ejercer su discreción de aplicación. No crean la obligación, y su retiro no la extingue. La Ley de Estadounidenses con Discapacidades se promulgó en 1990 y no ha sido enmendada. El Título I sigue prohibiendo la discriminación por motivo de discapacidad en los términos y condiciones del empleo, sigue exigiendo adaptaciones razonables salvo dificultad excesiva, sigue prohibiendo el uso de estándares de calificación y criterios de selección que excluyan a personas con discapacidad a menos que el criterio esté relacionado con el puesto y sea coherente con la necesidad empresarial, y sigue restringiendo las indagaciones relacionadas con la discapacidad y los exámenes médicos antes de una oferta condicional. Las Directrices Uniformes sobre Procedimientos de Selección de Empleados en 29 C.F.R. Parte 1607 siguen exigiendo a los usuarios de procedimientos de selección que mantengan registros de impacto y, donde exista impacto, evidencia de validez. Los reglamentos de conservación de registros en 29 C.F.R. Parte 1602 siguen exigiendo la conservación de los registros de solicitud y, una vez presentada una queja, la conservación de los registros pertinentes hasta la resolución final.
Lo que las retiradas de enero eliminaron no fue la responsabilidad. Fue el aviso. Los empleadores perdieron el documento que les decía, en lenguaje llano, cuáles de sus prácticas consideraba problemáticas la agencia y por qué. La exposición permanece y el mapa ha desaparecido.
La exposición permanece y el mapa ha desaparecido.
Por qué la exposición por discapacidad no se comporta como la exposición por sesgo
La respuesta dominante al riesgo algorítmico en la contratación es la auditoría de sesgo, y la métrica dominante es la regla de los cuatro quintos, que compara las tasas de selección entre grupos y considera una proporción inferior al ochenta por ciento como evidencia de impacto adverso. La Ley Local 144 de la Ciudad de Nueva York, vigente desde julio de 2023, exige una auditoría de sesgo independiente anual de las herramientas automatizadas de decisión laboral y la publicación pública de los resultados. Los proveedores promocionan cada vez más los resultados de auditoría como garantía.
Este aparato está mal adaptado a la discapacidad, y el desajuste es estructural, no una cuestión de calidad de la auditoría. Las pruebas de impacto estadístico grupal requieren categorías estables, conocidas y mutuamente excluyentes con suficientes miembros en cada una para sustentar una comparación de tasas. La raza y el sexo se aproximan a esas condiciones. La discapacidad no. Es tan heterogénea que una sola categoría tiene poco sentido analítico, ya que las necesidades de adaptación y los patrones de interacción de un solicitante Sordo, un solicitante ciego, un solicitante con discapacidad motriz y un solicitante con discapacidad psiquiátrica no tienen casi nada en común. Con frecuencia no se revela, porque los solicitantes no tienen obligación de identificarse y tienen fuertes incentivos para no hacerlo. A menudo tiene baja prevalencia en cualquier requisición individual, lo que deja las comparaciones de subgrupos con poca potencia estadística incluso cuando existe identificación. Y según la ADA, la unidad de análisis operativa es el individuo, no el grupo, porque una demanda por exclusión pregunta si un criterio tiende a excluir a un individuo con discapacidad, y una demanda por falta de adaptación pregunta qué ocurrió cuando una persona hizo una solicitud.
La consecuencia merece decirse con claridad. Un sistema de selección automatizado puede pasar todas las auditorías de sesgo realizadas sobre él, publicar una proporción de impacto cómodamente por encima del umbral de cuatro quintos en cada categoría medida, y aun así estar excluyendo a solicitantes discapacitados uno a uno de una manera que es individualmente accionable y estadísticamente invisible. Los resultados de auditoría no son evidencia de cumplimiento de la ADA. Presentarlos como tales, práctica ya habitual entre los proveedores, crea un registro documentado de que el empleador confió en una garantía que no abordaba el riesgo.
Esto también explica por qué la afirmación ampliamente repetida de que los algoritmos bien diseñados reducen el sesgo humano, y por tanto nivelan el terreno de juego para los candidatos discapacitados, debe considerarse sin fundamento. Puede ser cierta para algunas formas de sesgo. No existe una base de evidencia pública que la establezca para la discapacidad, y el mecanismo mediante el cual operan estos sistemas sugiere lo contrario. Los modelos puntúan la conformidad con una distribución aprendida a partir de candidatos exitosos previos. La discapacidad, en las dimensiones que estos sistemas miden con más frecuencia, es precisamente lo que parece la no conformidad con esa distribución.
Lo que muestra la demanda de marzo de 2025
El 19 de marzo de 2025, la American Civil Liberties Union, la ACLU de Colorado, Public Justice y Eisenberg and Baum LLP presentaron una demanda ante la División de Derechos Civiles de Colorado y la EEOC en nombre de una mujer Sorda e indígena a quien se exigió completar una entrevista de video automatizada cuando solicitó un ascenso. La demanda alega violaciones de la ADA, el Título VII y la Ley Antidiscriminación de Colorado. Según los documentos públicos, ella solicitó subtitulado generado por humanos como adaptación razonable, la solicitud fue denegada bajo el argumento de que los subtítulos automáticos de la plataforma serían suficientes, partes de la entrevista quedaron sin embargo sin subtítulos, y posteriormente fue rechazada por motivos relacionados con la comunicación. El empleador afirma que las alegaciones carecen de fundamento y que ofrece adaptaciones razonables a todos los candidatos. El proveedor afirma que la demanda carece de fundamento y se basa en un supuesto inexacto sobre la tecnología utilizada. Se trata de alegaciones y negaciones, y una investigación de la agencia determinará si existe causa.
Independientemente del resultado, este patrón de hechos es el que los empleadores deberían modelar, porque no depende de probar que un modelo tiene sesgo. Depende de tres preguntas ordinarias. ¿Fue la evaluación accesible para esta candidata? ¿Se solicitó una adaptación, y cuál fue la respuesta? ¿Puede el empleador explicar qué medía la evaluación y por qué ese constructo está relacionado con el puesto?
Nótese también lo que la teoría no requiere. No requiere estadísticas comparativas, ni reconstrucción experta de un modelo, ni análisis de impacto dispar. La evidencia es una solicitud de adaptación con fecha, una respuesta a ella, y un resultado adverso. Ese perfil probatorio es económico de reunir y lo crean los propios registros del empleador.
Accesibilidad, adaptación y validez son tres obligaciones distintas
Gran parte del debate actual difumina distinciones que operan de forma independiente, y confundirlas produce programas de cumplimiento que abordan una obligación mientras dejan dos sin resolver.
La accesibilidad es una propiedad de la interfaz. Si la plataforma de evaluación puede operarse con un lector de pantalla, si los medios están subtitulados, y si se puede ajustar el tiempo son preguntas sobre si el candidato puede siquiera llegar a la tarea. Esta es la capa que la mayoría de las organizaciones ha abordado, generalmente mediante una declaración de conformidad del proveedor.
La adaptación es una obligación de proceso. Requiere que se informe a los candidatos antes de que comience la evaluación de que existen modificaciones disponibles, que una solicitud active un proceso interactivo en lugar de un rechazo formulario, que se identifique a quien toma la decisión, y que exista una vía alternativa que no perjudique en sí misma a la persona que la utilizó. Una plataforma que sea técnicamente accesible en todos los aspectos aún puede generar una demanda por falta de adaptación si nadie le dijo al solicitante que existía una alternativa.
La validez es una propiedad de la medición. Pregunta si lo que puntúa el sistema corresponde a un requisito del puesto. Esta es la capa que casi nadie ha abordado, y es donde la evaluación automatizada de video y voz está más expuesta. Cuando un sistema puntúa la fluidez, la tasa de articulación, la latencia de respuesta, la prosodia, el afecto facial, o un constructo etiquetado como comunicación o compromiso, el empleador debería poder indicar qué función del puesto requiere ese atributo y con qué evidencia. Investigaciones publicadas documentan disparidades sustanciales en la tasa de error de palabras en el reconocimiento automático de voz para hablantes cuyo discurso se aparta de la distribución de entrenamiento, incluidos patrones de habla racializados y discurso atípico o con trastornos, razón por la cual la Universidad de Illinois estableció un Speech Accessibility Project dedicado en 2022 para recopilar dichos datos. Cuando un candidato se comunica en lengua de signos a través de un intérprete, la transcripción puntuada es la interpretación del intérprete y no la expresión del candidato, y las elecciones léxicas y el retraso de procesamiento del intérprete se atribuyen al candidato. El sistema produce un número. No está midiendo al candidato.
La capa estatal y su calendario
El repliegue federal no despeja el terreno, y el calendario estatal importa para la planificación. El Proyecto de Ley de la Cámara de Illinois 3773, firmado en agosto de 2024, enmienda la Ley de Derechos Humanos de Illinois para prohibir el uso discriminatorio de la inteligencia artificial a lo largo del ciclo de empleo y para exigir aviso a solicitantes y empleados cuando se usen tales sistemas, con vigencia a partir del 1 de enero de 2026. El Proyecto de Ley del Senado de Colorado 24-205, firmado en mayo de 2024, impone deberes a los desarrolladores e implementadores de sistemas de alto riesgo utilizados en decisiones consecuentes, incluido el empleo, con fecha de entrada en vigor el 1 de febrero de 2026, aunque el gobernador invitó a una revisión legislativa al firmarlo, por lo que debe considerarse probable una enmienda antes de esa fecha. El Proyecto de Ley de la Cámara de Virginia 2094, que habría establecido un marco comparable, fue vetado en marzo de 2025. La Ley Local 144 de la Ciudad de Nueva York sigue vigente.
La dirección de la capa estatal apunta hacia el aviso y la divulgación más que hacia deberes de cuidado sustantivos. Los empleadores deberían planificar bajo el supuesto de que las obligaciones que realmente enfrentarán serán decir qué están haciendo, y que la obligación de poder demostrar qué hicieron llegará a través de litigios y no de un regulador.
Qué hacer ahora
Lo siguiente puede ser completado por una función de recursos humanos existente y no requiere asistencia externa.
- Haga un inventario de todos los sistemas que intervienen en una decisión de selección, incluidos el análisis de currículums, la clasificación, las preguntas eliminatorias, la preselección basada en chat, y la evaluación automatizada de video o voz. Incluya las funciones activadas de forma predeterminada en un sistema de seguimiento de candidatos, que son las más comúnmente pasadas por alto.
- Para cada sistema, indique por escrito qué mide y a qué requisito documentado del puesto corresponde ese constructo. Cuando no exista respuesta, el sistema está puntuando un criterio no validado.
- Confirme que se informa a los candidatos de que existe una evaluación alternativa o modificada antes de que comience la evaluación, no después, y que el aviso figura en la propia evaluación y no oculto en una página de empleo.
- Recupere todas las solicitudes de adaptación asociadas a una evaluación automatizada en los últimos veinticuatro meses. Registre qué se solicitó, quién decidió, qué se proporcionó y cuál fue el resultado. Este archivo se presentará en cualquier queja y debería revisarse antes de que otro lo revise.
- Solicite al proveedor, por escrito, evidencia de validación para cada constructo puntuado y datos de precisión desglosados por características del habla y la comunicación. Conserve la respuesta, incluida una negativa, que en sí misma es evidencia útil del estado de conocimiento del empleador.
- Confirme que las puntuaciones y la configuración vigente en el momento de cada decisión se conservan durante el período de conservación aplicable. Las puntuaciones calculadas para producir una clasificación y luego descartadas no pueden explicarse después.
- Trate cualquier resultado de auditoría de sesgo como evidencia relativa únicamente a las categorías de raza y sexo, y no lo represente interna ni externamente como evidencia de cumplimiento de la ADA.
Conclusión
La inteligencia artificial puede ampliar de manera sustancial el acceso al trabajo para las personas discapacitadas. El subtitulado en tiempo real, la conversión de voz a texto y las interfaces adaptativas ya lo han hecho, y la evaluación de 2023 de la OCDE sobre IA y discapacidad en el mercado laboral documenta ganancias genuinas. Esas ganancias provienen de aplicaciones asistenciales, donde la tecnología sirve a la persona. No se transfieren automáticamente a las aplicaciones evaluativas, donde la tecnología mide a la persona, y la tendencia actual a argumentar de la primera a la segunda es el error analítico central en este campo.
La retirada de la orientación federal en enero de 2025 cambió lo que se les dice a los empleadores. No cambió lo que los empleadores deben. Las organizaciones que podrán defender sus decisiones de contratación no son las que compraron la herramienta más sofisticada o publicaron la auditoría más tranquilizadora. Son las que pueden decir qué miden sus sistemas, por qué importa para el puesto, qué ocurrió cuando un candidato pidió algo diferente, y quién decidió.
Referencias
- American Civil Liberties Union, ACLU de Colorado, Public Justice, y Eisenberg & Baum LLP. Demanda presentada ante la División de Derechos Civiles de Colorado y la Comisión para la Igualdad de Oportunidades en el Empleo de EE. UU., 19 de marzo de 2025.
- Ley de Estadounidenses con Discapacidades de 1990, Título I, 42 U.S.C. § 12112.
- Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
- Proyecto de Ley del Senado de Colorado 24-205, Relativo a las Protecciones al Consumidor en las Interacciones con Sistemas de Inteligencia Artificial, firmado el 17 de mayo de 2024.
- Orden Ejecutiva 14179, Removing Barriers to American Leadership in Artificial Intelligence, 23 de enero de 2025.
- Proyecto de Ley 3773 de la Cámara de Illinois, que enmienda la Ley de Derechos Humanos de Illinois, firmada el 9 de agosto de 2024.
- Ley Local 144 de 2021 de la Ciudad de Nueva York, Automated Employment Decision Tools.
- OECD. Using AI to Support People with Disabilities in the Labour Market. 2023.
- Comisión para la Igualdad de Oportunidades en el Empleo de EE. UU. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 de mayo de 2022. Eliminado del sitio web de la agencia el 27 de enero de 2025.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Parte 1607; requisitos de mantenimiento de registros, 29 C.F.R. Parte 1602.