A Adaptação Exige Deteção: O Problema de Governação na Acessibilidade Personalizada no Local de Trabalho

O que a proposta pressupõe

O argumento em favor da acessibilidade adaptativa é direto e atraente. Em vez de construir uma única interface e pedir que cada funcionário se adapte a ela, implantam-se sistemas que se ajustam a cada pessoa, continuamente e sem que isso seja solicitado. A acessibilidade torna-se pessoal, imediata e invisível. A formulação que normalmente a acompanha é a de que a acessibilidade deve adaptar-se às pessoas, em vez de exigir que as pessoas se adaptem a ela.

A formulação está correta como princípio e é enganosa como especificação, porque oculta o que a adaptação exige. Um sistema não pode ajustar-se a uma pessoa que não classificou. Para aumentar o texto para um funcionário e não para outro, para simplificar um painel, para alterar o tempo, para mudar a modalidade de entrada, o sistema deve primeiro determinar que essa pessoa em particular precisa disso. Personalização é classificação, e no local de trabalho a classificação em questão é a deficiência.

Personalização é classificação, e no local de trabalho a classificação em questão é a deficiência.

Esse é o problema de governança, e não é um detalhe de implementação. Um empregador que implanta um sistema que infere quais dos seus funcionários são deficientes construiu algo bastante diferente de uma funcionalidade de acessibilidade. Construiu um mecanismo que gera informações sobre deficiência a respeito da sua força de trabalho, continuamente, sem pedido, sem divulgação e sem o processo que a lei prevê exatamente para este fim.

A classificação é aquilo que a legislação trabalhista mais restringe

A Lei dos Americanos com Deficiência (Americans with Disabilities Act, ADA) restringe os empregadores de exigir exames médicos ou fazer perguntas sobre se um funcionário é uma pessoa com deficiência, ou sobre a natureza ou gravidade dessa deficiência, a menos que a pergunta esteja relacionada ao trabalho e seja consistente com a necessidade do negócio. A restrição é deliberadamente ampla, e a Comissão para a Igualdade de Oportunidades no Emprego (Equal Employment Opportunity Commission, EEOC) há muito a interpreta como abrangendo perguntas suscetíveis de obter informações sobre uma deficiência, e não apenas perguntas diretas.

Se um motor de inferência faz uma pergunta no sentido previsto pela lei é uma questão em aberto, e deve ser rotulada como em aberto, e não como resolvida em qualquer das direções. Um sistema que monitoriza o nível de zoom, o tempo de permanência, as taxas de erro, o método de entrada, a frequência de correções ou os padrões de navegação e deles deriva que um utilizador provavelmente tem uma deficiência visual, motora ou cognitiva não fez nenhuma pergunta. Obteve a resposta sem a pergunta, o que está ou fora da linguagem da disposição legal, ou é precisamente o mal que a disposição existe para prevenir, e nenhum tribunal teve ainda ocasião de dizer qual das duas coisas.

O que não está em aberto é o que o empregador acaba por reter. Seja como for que a inferência seja caracterizada, o resultado é um registo, associado a um funcionário identificado, indicando uma deficiência provável. A ADA exige que as informações médicas obtidas sobre os funcionários sejam mantidas em formulários separados, em ficheiros separados, e tratadas como um registo médico confidencial. É pouco provável que um sistema de acessibilidade adaptativa que gera inferências relacionadas com deficiência dentro de um pipeline genérico de análise de produto, retido em infraestrutura do fornecedor, visível para quem quer que administre a plataforma, satisfaça esse padrão, e na maioria das implementações ninguém considerou a questão porque o sistema foi adquirido como uma funcionalidade de experiência do utilizador e não como uma fonte de informação médica sobre os funcionários.

Note-se também o que o funcionário perde. O processo de acomodação existe para dar à pessoa controlo: se deve divulgar, o que deve divulgar, a quem, e o que deve solicitar. Um sistema adaptativo decide essas quatro coisas em nome do funcionário e nunca lhe diz que o fez. O indivíduo é melhor servido por um formulário simples e um responsável pela decisão identificado do que por um sistema que determina silenciosamente o que ela necessita.

A orientação relevante da EEOC sobre estas questões, a assistência técnica de maio de 2022 sobre a ADA e o uso de software, algoritmos e inteligência artificial para avaliar candidatos a emprego e funcionários, nomeou a pergunta inadmissível relacionada com deficiência como um dos três mecanismos principais de dano algorítmico ao abrigo da ADA, juntamente com a falha em acomodar e a exclusão por triagem. Esse documento foi removido do site da agência em janeiro de 2025. A sua remoção alterou a disponibilidade da explicação, não o conteúdo da lei.

O mercado acabou de ser informado do que acontece

Três meses antes de isto ser escrito, a Comissão Federal de Comércio (Federal Trade Commission) anunciou uma queixa e uma ordem proposta exigindo que a accessiBe pagasse um milhão de dólares para resolver alegações de que deturpou a capacidade da sua ferramenta de acessibilidade web alimentada por IA. A empresa tinha comercializado um plug-in que afirmava poder tornar qualquer site compatível com as Diretrizes de Acessibilidade para Conteúdo Web (Web Content Accessibility Guidelines, WCAG), em parte imediatamente e por completo através de um processo automatizado no prazo de quarenta e oito horas, com nova verificação contínua para manter a conformidade à medida que o conteúdo mudava. A FTC alegou que o produto não fazia isto, falhando em componentes básicos, incluindo menus, cabeçalhos, tabelas, imagens e gravações, e que a empresa tinha formatado avaliações pagas para parecerem análises independentes. A ordem proposta impede a empresa de alegar que os seus produtos automatizados podem tornar um site compatível com as WCAG, ou mantê-lo compatível ao longo do tempo, na ausência de provas que sustentem a alegação.

A sobreposição de acessibilidade (accessibility overlay) é o precedente mais próximo disponível para a acessibilidade adaptativa, e a lição não é que a automação não possa ajudar. É que o ajuste automatizado sobreposto a um sistema subjacente inacessível produz a aparência de acesso em vez de acesso, e que as organizações que o implantam adquirem a aparência como sua defesa. As sobreposições foram vendidas precisamente no mesmo tom que o discurso de acessibilidade adaptativa usa agora: não apenas cumprir, inovar; a tecnologia ajusta-se em tempo real; a acessibilidade torna-se automática. Centenas de organizações que utilizam sobreposições foram processadas em litígios de acessibilidade web, e a sobreposição não as ajudou. Identificou-as.

Uma organização que adota um sistema de personalização com base na alegação de um fornecedor de que este se adapta a cada utilizador está a fazer a mesma compra, num contexto em que as pessoas afetadas são funcionários em vez de visitantes de sites e em que a lei aplicável prevê um direito individual de ação.

A adaptação está a ser oferecida como substituto da acomodação, e isso está a ser litigado agora

O perigo prático não é que os sistemas adaptativos falhem. É que a sua existência seja tratada como cumprindo a obrigação de acomodação.

Em março de 2025, a União Americana pelas Liberdades Civis (American Civil Liberties Union), a ACLU do Colorado, a Public Justice, e a Eisenberg and Baum apresentaram uma queixa à Divisão de Direitos Civis do Colorado e à EEOC em nome de uma funcionária Surda e Indígena. De acordo com os registos públicos, ela solicitou legendagem gerada por humanos como acomodação razoável para uma entrevista em vídeo automatizada, e o pedido foi recusado com base no argumento de que as legendas automáticas da plataforma seriam suficientes. Alegadamente, partes da entrevista ficaram sem legendas em qualquer caso. Ambas as empresas negam as alegações, e o assunto será decidido por investigação e não por comentário.

Seja qual for o resultado, o padrão factual identifica exatamente o risco. A posição do empregador foi a de que a funcionalidade adaptativa automatizada tornava desnecessária a acomodação solicitada. Essa é a proposta que o marketing da acessibilidade adaptativa apresenta como seu benefício central. Uma organização que adota a tecnologia e interioriza o marketing adotou uma defesa que está atualmente a ser testada, e deve compreender que é a defesa em questão, e não uma forma de evitar o litígio.

A tecnologia assistiva não é um programa de acessibilidade

Uma distinção final, porque a proposta tende a confundi-la. Aplicações como Seeing AI e Google Lookout são tecnologias assistivas: ferramentas que uma pessoa cega ou com baixa visão escolhe, configura, controla e pode abandonar. Pertencem ao utilizador. A sua governança é da própria pessoa, e o seu valor é real.

Uma interface adaptativa implantada pelo empregador é um tipo diferente de objeto. Pertence à instituição, é aplicada à pessoa em vez de ser operada por ela, funciona quer ela queira quer não, e gera dados que o empregador retém. Argumentar a partir do sucesso da primeira categoria para a segurança da segunda é o principal erro analítico neste domínio, e recorre porque ambas são descritas como IA para acessibilidade.

Há também um problema mais discreto em citar aplicações assistivas de consumo como prova da postura de acessibilidade de uma organização. Se uma funcionária cega está a navegar no local de trabalho usando uma aplicação que ela própria encontrou, instalou e aprendeu a usar no seu tempo pessoal, a organização não forneceu acessibilidade. Beneficiou do facto de ela o ter feito, e contabilizar isso como provisão institucional obscurece uma obrigação por cumprir. A questão relevante não é que ferramentas os funcionários encontraram. É se os próprios documentos, sistemas e ambiente físico da organização são acessíveis sem elas.

O que o princípio realmente exige

A acessibilidade deve adaptar-se às pessoas, e não o contrário. O princípio é sólido. O que daí decorre não é inferência, mas autodeterminação: a pessoa especifica o que necessita, e o sistema faz o que ela especificou. Essa é a diferença entre um controlo de preferências e um motor de deteção, e é toda a questão de governança.

Seguem-se seis consequências para qualquer organização que considere estes sistemas.

1. Pergunte ao fornecedor, por escrito, se o sistema infere características do utilizador ou aplica preferências declaradas pelo utilizador. Se inferir, pergunte o que infere, a partir de que sinais, onde a inferência é armazenada, quem pode vê-la e por quanto tempo é retida. Guarde a resposta.
2. Prefira a preferência declarada em vez da deteção sempre que o mesmo resultado seja alcançável. Um painel de definições controlado pelo funcionário proporciona a mesma adaptação sem nenhum dos problemas de inferência, e deixa o funcionário no controlo da sua própria divulgação.
3. Trate qualquer inferência relacionada com deficiência que o sistema gere como informação médica confidencial para efeitos de tratamento, em armazenamento separado com acesso restrito, e confirme que a arquitetura do fornecedor permite isto antes da implantação, e não depois.
4. Declare explicitamente, na política e no próprio processo de acomodação, que as funcionalidades adaptativas automatizadas não limitam nem substituem um pedido de acomodação razoável, e forme nesse sentido quem quer que trate dos pedidos.
5. Recuse alegações de conformidade. Qualquer declaração de que um produto alcança ou mantém automaticamente a conformidade com uma norma de acessibilidade deve ser tratada como uma alegação de marketing não comprovada, a menos que acompanhada de provas, o que é agora também a posição da FTC.
6. Corrija o sistema subjacente. A correção adaptativa aplicada a um documento, painel ou fluxo de trabalho inacessível produz uma modificação temporária da superfície. Remediar a fonte é mais lento, menos impressionante numa demonstração, e a única coisa que funciona de forma duradoura.

Conclusão

A acessibilidade personalizada é apresentada como uma forma de ultrapassar o atrito do processo de acomodação: sem formulários, sem divulgação, sem atraso, sem conversa constrangedora. O atrito que se propõe eliminar é, em grande medida, o processo através do qual uma pessoa com deficiência exerce controlo sobre as informações sobre si própria e declara o que realmente necessita. Removê-lo não elimina a classificação. Desloca a classificação de uma conversa em que o funcionário participa para um sistema que ela não consegue ver.

A tecnologia não é o problema e grande parte dela provará ser genuinamente útil. A alegação é o problema, e a alegação atualmente feita, de que a acessibilidade pode ser automática, adaptativa e completa sem que ninguém tenha de decidir nada, é a mesma alegação que já produziu uma ação de fiscalização federal e uma onda de litígios no mercado adjacente. Não era verdadeira em relação a sites. Não é mais verdadeira em relação a locais de trabalho, onde as pessoas às quais se adapta são funcionários com um direito privado de ação e uma lei que os protege desde 1990.

Referências

• American Civil Liberties Union, ACLU of Colorado, Public Justice e Eisenberg & Baum LLP. Queixa apresentada junto da Colorado Civil Rights Division e da U.S. Equal Employment Opportunity Commission, 19 de março de 2025.
• Americans with Disabilities Act of 1990, 42 U.S.C. § 12112(d), sobre exames médicos, perguntas relacionadas com deficiência e confidencialidade de informação médica.
• Federal Trade Commission, In the Matter of accessiBe, Inc., File No. 2223156; queixa e ordem proposta anunciadas em 3 de janeiro de 2025; ordem final em abril de 2025.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 de maio de 2022; removido do site da agência em 27 de janeiro de 2025.
• Web Content Accessibility Guidelines, World Wide Web Consortium.