Em 23 de janeiro de 2025, a Ordem Executiva 14179, Removendo Barreiras à Liderança Americana em Inteligência Artificial, revogou a ordem executiva sobre IA da administração anterior e instruiu as agências federais a revisarem e reverterem políticas relacionadas à IA. Em poucos dias, as consequências práticas chegaram ao contexto do emprego.
O que mudou e o que não mudou
Em 27 de janeiro, a Equal Employment Opportunity Commission removeu sua orientação sobre inteligência artificial de seu site, incluindo o documento de assistência técnica de maio de 2022 sobre o Americans with Disabilities Act e o uso de software, algoritmos e inteligência artificial para avaliar candidatos a emprego e funcionários, seu resumo complementar Tips for Workers, e o documento de assistência técnica de maio de 2023 sobre o Título VII. O Office of Federal Contract Compliance Programs removeu sua orientação sobre inteligência artificial e igualdade de oportunidades de emprego para contratados federais. O Department of Labor observou que o AI and Inclusive Hiring Framework, publicado em setembro de 2024 pela Partnership on Employment and Accessible Technology, e suas próprias melhores práticas de inteligência artificial de outubro de 2024, podem não refletir mais a política atual.
Muitos comentários interpretaram essas remoções como uma redução na exposição dos empregadores. Essa interpretação confunde orientação com lei. Documentos de assistência técnica são interpretativos. Eles explicam como uma agência compreende um estatuto e como pretende exercer sua discricionariedade de fiscalização. Eles não criam a obrigação, e sua retirada não a extingue. O Americans with Disabilities Act foi promulgado em 1990 e não foi alterado. O Título I ainda proíbe a discriminação com base em deficiência nos termos e condições de emprego, ainda exige acomodação razoável na ausência de dificuldade indevida, ainda proíbe o uso de padrões de qualificação e critérios de seleção que excluam indivíduos com deficiência, a menos que o critério seja relacionado ao trabalho e consistente com a necessidade do negócio, e ainda restringe perguntas relacionadas à deficiência e exames médicos antes de uma oferta condicional. As Uniform Guidelines on Employee Selection Procedures, em 29 C.F.R. Parte 1607, ainda determinam que os usuários de procedimentos de seleção mantenham registros de impacto e, onde haja impacto, evidências de validade. Os regulamentos de manutenção de registros em 29 C.F.R. Parte 1602 ainda exigem a preservação dos registros de candidatura e, uma vez apresentada uma reclamação, a preservação dos registros relevantes até a decisão final.
O que as retiradas de janeiro removeram não foi a responsabilidade. Foi o aviso. Os empregadores perderam o documento que lhes dizia, em linguagem simples, quais de suas práticas a agência considerava problemáticas e por quê. A exposição permanece e o mapa desapareceu.
A exposição permanece e o mapa desapareceu.
Por que a exposição relacionada à deficiência não se comporta como a exposição a viés
A resposta dominante ao risco algorítmico na contratação é a auditoria de viés, e a métrica dominante é a regra dos quatro quintos, que compara as taxas de seleção entre grupos e trata uma proporção abaixo de oitenta por cento como evidência de impacto adverso. A Local Law 144 da cidade de Nova York, em vigor desde julho de 2023, exige uma auditoria anual independente de viés para ferramentas automatizadas de decisão de emprego e a divulgação pública dos resultados. Os fornecedores cada vez mais promovem os resultados de auditorias como garantia.
Esse aparato é mal adaptado à deficiência, e a incompatibilidade é estrutural, e não uma questão de qualidade de auditoria. O teste de impacto estatístico de grupo requer categorias estáveis, conhecidas e mutuamente exclusivas, com membros suficientes em cada uma para sustentar uma comparação de taxas. Raça e sexo se aproximam dessas condições. A deficiência, não. Ela é heterogênea a ponto de uma única categoria ter pouco significado analítico, já que as necessidades de acomodação e os padrões de interação de um candidato Deaf, um candidato cego, um candidato com deficiência motora e um candidato com deficiência psiquiátrica quase não têm nada em comum. Frequentemente, não é revelada, pois os candidatos não têm obrigação de se identificar e têm fortes incentivos para não o fazer. É frequentemente de baixa prevalência em qualquer requisição individual, o que deixa as comparações de subgrupos com pouco poder estatístico mesmo onde há identificação. E, sob o ADA, a unidade operacional de análise é o indivíduo, e não o grupo, pois uma alegação de exclusão pergunta se um critério tende a excluir um indivíduo com deficiência, e uma alegação de falha em acomodar pergunta o que aconteceu quando uma pessoa fez um pedido.
A consequência merece ser dita claramente. Um sistema de seleção automatizado pode passar em todas as auditorias de viés realizadas sobre ele, publicar uma proporção de impacto confortavelmente acima do limite de quatro quintos em todas as categorias medidas, e ainda assim estar excluindo candidatos com deficiência um de cada vez, de uma maneira que é individualmente acionável e estatisticamente invisível. Resultados de auditoria não são evidência de conformidade com o ADA. Apresentá-los como tal, o que agora é prática comum dos fornecedores, cria um registro documentado de que o empregador confiou em uma garantia que não abordava o risco.
É também por isso que a alegação amplamente repetida de que algoritmos bem projetados reduzem o viés humano, e, portanto, nivelam o campo de jogo para candidatos com deficiência, deve ser tratada como não comprovada. Isso pode ser verdade para algumas formas de viés. Não há base de evidências públicas que estabeleça isso para deficiência, e o mecanismo pelo qual esses sistemas operam sugere o oposto. Os modelos pontuam a conformidade com uma distribuição aprendida a partir de candidatos bem-sucedidos anteriores. A deficiência, nas dimensões que esses sistemas mais frequentemente medem, é precisamente o que parece a não conformidade com essa distribuição.
O que mostra a reclamação de março de 2025
Em 19 de março de 2025, a American Civil Liberties Union, a ACLU of Colorado, Public Justice e Eisenberg and Baum LLP apresentaram uma reclamação à Colorado Civil Rights Division e à EEOC em nome de uma mulher Deaf e indígena que foi obrigada a completar uma entrevista automatizada em vídeo ao se candidatar a uma promoção. A reclamação alega violações do ADA, do Título VII e do Colorado Anti-Discrimination Act. Segundo os registros públicos, ela solicitou legendagem gerada por humanos como acomodação razoável, o pedido foi negado com o argumento de que as legendas automáticas da plataforma seriam suficientes, partes da entrevista ficaram, no entanto, sem legendas, e ela foi posteriormente rejeitada por motivos relacionados à comunicação. O empregador afirma que as alegações são infundadas e que fornece acomodações razoáveis a todos os candidatos. O fornecedor afirma que a reclamação é infundada e se baseia em uma suposição incorreta sobre a tecnologia utilizada. Trata-se de alegações e negações, e uma investigação da agência determinará se há motivo suficiente.
Independentemente do resultado, esse padrão de fatos é o que os empregadores deveriam estar modelando, pois não depende de provar que um modelo é tendencioso. Depende de três perguntas comuns. A avaliação foi acessível a esta candidata. Foi solicitada uma acomodação, e qual foi a resposta. O empregador pode explicar o que a avaliação mediu e por que esse construto é relacionado ao trabalho.
Observe também o que a teoria não exige. Não exige estatísticas comparativas, nenhuma reconstrução especializada de um modelo, e nenhuma análise de impacto desigual. A evidência é um pedido de acomodação datado, uma resposta a ele e um resultado adverso. Esse perfil probatório é barato de reunir e é criado pelos próprios registros do empregador.
Acessibilidade, acomodação e validade são três obrigações diferentes
Grande parte da discussão atual colapsa distinções que operam de forma independente, e confundi-las produz programas de conformidade que tratam de uma obrigação enquanto deixam duas em aberto.
Acessibilidade é uma propriedade da interface. Se a plataforma de avaliação pode ser operada com um leitor de tela, se o conteúdo audiovisual tem legendas, e se o tempo pode ser ajustado são questões sobre se o candidato consegue sequer chegar à tarefa. Essa é a camada que a maioria das organizações já abordou, geralmente por meio de uma declaração de conformidade do fornecedor.
Acomodação é uma obrigação processual. Ela exige que os candidatos sejam informados, antes do início da avaliação, de que modificações estão disponíveis, que um pedido desencadeie um processo interativo em vez de uma rejeição formal, que um responsável pela decisão seja identificado, e que exista um caminho alternativo que não prejudique a pessoa que o utilizou. Uma plataforma que seja tecnicamente acessível em todos os aspectos ainda pode gerar uma alegação de falha em acomodar se ninguém informou ao candidato que existia uma alternativa.
Validade é uma propriedade da medição. Ela pergunta se o que o sistema pontua corresponde a um requisito do trabalho. Essa é a camada que quase ninguém abordou, e é onde a avaliação automatizada de vídeo e fala está mais exposta. Quando um sistema pontua fluência, taxa de articulação, latência de resposta, prosódia, afeto facial ou um construto rotulado como comunicação ou engajamento, o empregador deveria conseguir declarar qual função do trabalho exige esse atributo e com base em que evidência. Pesquisas publicadas documentam disparidades substanciais na taxa de erro de palavras no reconhecimento automático de fala para falantes cujo discurso está fora da distribuição de treinamento, incluindo padrões de fala racializados e fala atípica ou com transtornos, razão pela qual a University of Illinois estabeleceu um Speech Accessibility Project dedicado em 2022 para coletar tais dados. Quando um candidato sinaliza por meio de um intérprete, a transcrição avaliada é a interpretação do intérprete, e não a fala do candidato, e as escolhas lexicais e o atraso de processamento do intérprete são atribuídos ao candidato. O sistema produz um número. Ele não está medindo o candidato.
A camada estadual e seu cronograma
O recuo federal não limpa o campo, e o cronograma estadual importa para o planejamento. O Illinois House Bill 3773, sancionado em agosto de 2024, altera o Illinois Human Rights Act para proibir o uso discriminatório de inteligência artificial em todo o ciclo de emprego e exigir aviso a candidatos e funcionários quando tais sistemas forem usados, com entrada em vigor em 1º de janeiro de 2026. O Colorado Senate Bill 24-205, sancionado em maio de 2024, impõe deveres a desenvolvedores e implementadores de sistemas de alto risco usados em decisões consequenciais, incluindo emprego, com data de vigência em 1º de fevereiro de 2026, embora o governador tenha convidado a uma revisão legislativa no momento da sanção e seja razoável prever alterações antes dessa data. O Virginia House Bill 2094, que teria estabelecido um arcabouço comparável, foi vetado em março de 2025. A Local Law 144 da cidade de Nova York continua em vigor.
A direção da camada estadual é no sentido de aviso e divulgação, e não de deveres substantivos de cuidado. Os empregadores devem planejar com a suposição de que as obrigações que realmente enfrentarão serão as de declarar o que estão fazendo, e que a obrigação de poder provar o que fizeram chegará por meio de litígio, e não por meio de um regulador.
O que fazer agora
O que se segue pode ser concluído por uma função de recursos humanos já existente e não requer assistência externa.
- Faça um inventário de todos os sistemas que afetam uma decisão de seleção, incluindo análise de currículos, classificação, perguntas eliminatórias, pré-triagem baseada em chat e avaliação automatizada de vídeo ou fala. Inclua recursos ativados por padrão em um sistema de rastreamento de candidatos, que são os mais comumente negligenciados.
- Para cada sistema, declare por escrito o que ele mede e a qual requisito de trabalho documentado esse construto corresponde. Onde não houver resposta, o sistema está pontuando um critério não validado.
- Confirme que os candidatos são informados de que uma avaliação alternativa ou modificada está disponível antes do início da avaliação, não depois, e que o aviso está na própria avaliação, e não escondido em uma página de carreiras.
- Recupere todos os pedidos de acomodação associados a uma avaliação automatizada nos últimos vinte e quatro meses. Registre o que foi solicitado, quem decidiu, o que foi fornecido e qual foi o resultado. Esse arquivo será exigido em qualquer reclamação e deve ser revisado antes que outra pessoa o revise.
- Peça ao fornecedor, por escrito, evidências de validação para cada construto pontuado e dados de precisão desagregados por características de fala e comunicação. Conserve a resposta, incluindo uma recusa, que é em si uma evidência útil do estado de conhecimento do empregador.
- Confirme que as pontuações e a configuração em vigor no momento de cada decisão são conservadas pelo período de preservação aplicável. Pontuações calculadas para produzir uma classificação e depois descartadas não podem ser explicadas posteriormente.
- Trate qualquer resultado de auditoria de viés como evidência apenas sobre categorias de raça e sexo, e não o apresente internamente ou externamente como evidência de conformidade com o ADA.
Conclusão
A inteligência artificial pode ampliar significativamente o acesso ao trabalho para pessoas com deficiência. Legendagem em tempo real, conversão de fala em texto e interfaces adaptativas já o fizeram, e a avaliação da OECD de 2023 sobre IA e deficiência no mercado de trabalho documenta ganhos genuínos. Esses ganhos vêm de aplicações assistivas, nas quais a tecnologia serve à pessoa. Eles não se transferem automaticamente para aplicações avaliativas, nas quais a tecnologia mede a pessoa, e a tendência atual de argumentar da primeira para a segunda é o principal erro analítico nesse campo.
A retirada da orientação federal em janeiro de 2025 mudou o que é dito aos empregadores. Não mudou o que os empregadores devem. As organizações que conseguirão defender suas decisões de contratação não são as que compraram a ferramenta mais sofisticada ou publicaram a auditoria mais tranquilizadora. São aquelas que conseguem dizer o que seus sistemas medem, por que isso importa para o trabalho, o que aconteceu quando um candidato pediu algo diferente, e quem decidiu.
Referências
- American Civil Liberties Union, ACLU of Colorado, Public Justice e Eisenberg & Baum LLP. Queixa apresentada junto da Colorado Civil Rights Division e da U.S. Equal Employment Opportunity Commission, 19 de março de 2025.
- Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112.
- Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
- Colorado Senate Bill 24-205, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems, sancionado em 17 de maio de 2024.
- Executive Order 14179, Removing Barriers to American Leadership in Artificial Intelligence, 23 de janeiro de 2025.
- Illinois House Bill 3773, que altera o Illinois Human Rights Act, sancionado em 9 de agosto de 2024.
- New York City Local Law 144 de 2021, Ferramentas Automatizadas de Decisão de Emprego.
- OECD. Using AI to Support People with Disabilities in the Labour Market. 2023.
- U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 de maio de 2022. Removido do site da agência em 27 de janeiro de 2025.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; requisitos de manutenção de registos, 29 C.F.R. Part 1602.