Isento da Burocracia, Responsável pela Decisão: Governança de Inteligência Artificial para Pequenas Organizações e Organizações Sem Fins Lucrativos

A assimetria

O relato convencional sobre regulação de inteligência artificial e pequenas organizações é o de que os encargos de conformidade recaem com maior peso sobre aqueles menos capazes de suportá-los, e que limiares e isenções existem para corrigir esse desequilíbrio. O relato está meio certo, e a metade que erra é a metade que importa.

Pequenos empregadores e organizações sem fins lucrativos estão, de fato, isentos de boa parte do aparato emergente. Estão isentos quase inteiramente da parte errada. As isenções abrangem os regimes de divulgação, avaliação e documentação, ou seja, as partes do arcabouço que teriam obrigado uma organização a examinar de perto as ferramentas automatizadas que já está usando. Não abrangem os estatutos subjacentes de discriminação no emprego, que se aplicam a partir de quinze funcionários e preveem direito de ação privada, teorias individualizadas de responsabilidade, e nenhuma exigência de que o autor da ação prove que o empregador era sofisticado.

Uma organização dispensada do processo que teria encontrado o problema e totalmente exposta à consequência de não tê-lo encontrado.

O efeito líquido é uma organização dispensada do processo que teria encontrado o problema e totalmente exposta à consequência de não tê-lo encontrado. A posição da Novara Consulting Group é a de que essa assimetria, mais do que o custo, é o risco de governança definidor para organizações com cerca de duzentos funcionários ou menos, e que o conselho padrão dado a pequenos empregadores, o de esperar até que um limiar seja ultrapassado, é quase a pior estratégia disponível.

Do que as pequenas organizações estão realmente isentas

A estrutura de limiares é real e vale a pena mapear, com a ressalva de que a maioria desses instrumentos é recente, vários ainda não estão em vigor, e um ainda está em processo de regulamentação, de modo que a aplicabilidade deve ser confirmada a partir do texto vigente, e não de resumos, incluindo este.

O Projeto de Lei do Senado 24-205 do Colorado, sancionado em maio de 2024 e com entrada em vigor prevista para 1º de fevereiro de 2026, impõe deveres a desenvolvedores e implementadores de sistemas de alto risco usados em decisões consequenciais, incluindo emprego, e prevê uma isenção condicional para implementadores com menos de cinquenta funcionários em tempo integral. O California Consumer Privacy Act abrange empresas que atendam a seus critérios de cobertura, principalmente receita bruta anual superior a vinte e cinco milhões de dólares ou o tratamento de volumes substanciais de dados de consumidores, e sua definição de empresa abrangida depende da operação com fins lucrativos, o que deixa a maioria das organizações sem fins lucrativos totalmente fora de seu alcance. A California Privacy Protection Agency levou adiante propostas de regulamentação sobre tecnologia de tomada de decisão automatizada para o processo formal de regulamentação, e essas regras teriam os mesmos limiares de cobertura se adotadas conforme redigidas. Em nível federal, as Uniform Guidelines on Employee Selection Procedures preveem manutenção de registros simplificada para usuários com menos de cem funcionários.

Lidos em conjunto, uma organização de trinta pessoas que utiliza um sistema de rastreamento de candidatos pronto para uso, na maioria das jurisdições, não tem obrigação de realizar uma avaliação de impacto, publicar uma auditoria de viés, fornecer um aviso prévio ao uso, ou manter os registros de impacto em nível de componente que um empregador maior deve manter. Não será inspecionada. Ninguém perguntará.

Do que elas não estão isentas

O Título VII do Civil Rights Act e o Americans with Disabilities Act aplicam-se a empregadores com quinze ou mais funcionários. O Age Discrimination in Employment Act aplica-se a partir de vinte. Esses estatutos não contêm nenhuma defesa baseada em sofisticação, nenhum porto seguro para pequenos empregadores quanto a ferramentas automatizadas, e nenhuma disposição que reduza as obrigações de um empregador porque este comprou, em vez de construir, o sistema que produziu a decisão.

A compra também não transfere a responsabilidade. O empregador continua sendo a parte que toma a decisão de emprego, e a jurisprudência em desenvolvimento sugere que o fornecedor pode ser adicionado como réu, em vez de substituir um. Em julho de 2024, o Tribunal Distrital do Norte da Califórnia permitiu que ações contra um fornecedor de software de triagem prosseguissem sob a tese de que o fornecedor atuou como agente dos empregadores que usavam suas ferramentas, o que abala a suposição de que a responsabilidade pode ser atribuída de forma limpa a quem quer que tenha escrito o código. O fato de a ferramenta ter vindo em uma caixa, e de ninguém na organização a ter compreendido, não é uma defesa. É uma admissão.

As teorias relacionadas à deficiência merecem ênfase particular, porque são as que uma pequena organização tem maior probabilidade de enfrentar e menor capacidade de defender. Uma reivindicação de falha em acomodar surge quando um candidato pede uma modificação em uma avaliação e não a recebe. Uma reivindicação de exclusão por triagem surge quando um critério de seleção tende a excluir um indivíduo com deficiência e o empregador não consegue demonstrar que o critério é relacionado ao cargo e consistente com a necessidade do negócio. Nenhuma das duas exige estatísticas comparativas em um grupo de candidatos. Nenhuma exige um especialista para reconstruir um modelo. Ambas são provadas por um registro individual composto de um pedido, uma resposta e um resultado, registro que o próprio empregador cria e mantém. A reclamação apresentada em março de 2025 à Colorado Civil Rights Division e à EEOC (Equal Employment Opportunity Commission) em nome de um funcionário Deaf e indígena, referente a uma entrevista em vídeo automatizada e um pedido de legendagem negado, segue exatamente esse formato. Ambas as empresas negam as alegações, e o formato da reivindicação é instrutivo independentemente do resultado.

Essas reivindicações são baratas de apresentar, e seu custo de defesa não diminui proporcionalmente ao tamanho do réu. O acordo de 2023 da EEOC com a iTutorGroup, resolvendo alegações de que o software foi configurado para rejeitar candidatos acima de determinadas idades, fechou em 365.000 dólares. Esse valor é suportável para um grande empregador. É existencial para a maioria das organizações sem fins lucrativos.

Por que a pequena organização está estruturalmente mais exposta

O tamanho não apenas deixa de proteger. Ele piora ativamente a posição, por quatro razões que se somam.

A primeira é a configuração. Uma pequena organização usa as configurações padrão do fornecedor. Ela não selecionou os critérios de triagem, não definiu os limiares, e frequentemente não sabe quais funcionalidades de seu sistema de rastreamento de candidatos estão pontuando os candidatos, porque várias foram ativadas na implementação e nunca revisadas. Quando chega a pergunta sobre quem configurou os critérios e com que base, a resposta honesta é que ninguém na organização o fez.

A segunda é o poder de barganha. Os controles que realmente protegem um empregador são contratuais: retenção de pontuações, identificação de versão, reprodução de uma decisão histórica, acesso a evidências de validação, cooperação em uma investigação. Esses pontos são negociados na aquisição, e uma organização sem fins lucrativos de trinta pessoas assinando um formulário de pedido padrão não tem capacidade real de negociá-los. A defesa isoladamente mais eficaz é justamente aquela que as pequenas organizações têm menos condições de obter.

A terceira é o registro. As obrigações federais de manutenção de registros previstas em 29 C.F.R. Parte 1602 exigem a preservação dos registros de candidatura e, uma vez apresentada uma reclamação, a preservação de tudo que for relevante até a decisão final. Reconstruir por que um determinado candidato foi rejeitado dezoito meses atrás exige que a pontuação, os dados de entrada e a configuração do sistema vigente na época tenham sido retidos. Pequenas organizações dependem das práticas de dados do fornecedor, que tipicamente descartam as pontuações após a classificação, e descobrem isso justamente no momento em que precisam dos dados.

A quarta é a ausência de alguém cuja função seja cuidar disso. Empregadores maiores têm departamento jurídico, uma função de conformidade e um responsável pela privacidade que, no mínimo, fará as perguntas certas. Uma pequena organização tem um diretor executivo, um gerente de escritório que administra o sistema de rastreamento de candidatos, e um conselho que nunca discutiu o assunto.

O caso das organizações sem fins lucrativos é pior

As organizações sem fins lucrativos carregam uma exposição adicional que não tem equivalente corporativo, e ela não é jurídica.

Uma organização cuja missão trata de deficiência, acessibilidade, equidade ou desenvolvimento da força de trabalho, e que faz triagem de candidatos por meio de uma avaliação automatizada que penaliza fala atípica, comunicação interpretada ou afeto não padrão, tem um problema de integridade de missão que sobrevive a qualquer resultado jurídico. Não importa se a reivindicação tem ou não fundamento. A alegação por si só é coerente de um modo que não seria contra um fabricante, porque a posição pública da organização fornece a contradição. Financiadores leem essas alegações. Assim como as comunidades que a organização atende, e também a equipe que se juntou a ela por causa da missão.

Isso não é um raciocínio hipotético aplicado a um cenário improvável. Organizações de serviços para pessoas com deficiência, centros comunitários de saúde, prestadores de assistência jurídica e órgãos públicos usam os mesmos sistemas comerciais de rastreamento de candidatos e os mesmos produtos de entrevista em vídeo automatizada que todo mundo, geralmente no nível básico, geralmente nas configurações padrão, e geralmente sem que ninguém tenha examinado o que a avaliação mede. O setor com maior probabilidade de empregar pessoas com deficiência, e mais crível quando fala sobre fazê-lo, está operando a mesma infraestrutura de triagem não examinada do setor que critica.

A orientação que teria ajudado simplesmente desapareceu

Há uma dificuldade adicional específica deste momento. Pequenas organizações não leem regulamentos; leem orientações em linguagem simples, e a orientação em linguagem simples sobre esse assunto foi removida em janeiro de 2025.

A EEOC retirou do ar seus materiais sobre inteligência artificial, incluindo a assistência técnica de maio de 2022 sobre o Americans with Disabilities Act e o uso de software, algoritmos e inteligência artificial para avaliar candidatos a emprego e funcionários, junto com o resumo complementar escrito para trabalhadores. O Department of Labor observou que o AI and Inclusive Hiring Framework, publicado em setembro de 2024 e desenvolvido especificamente para ajudar empregadores a implantar essas ferramentas sem excluir candidatos com deficiência, pode não mais refletir a política atual. Esses documentos eram o ponto de entrada acessível exatamente para as organizações descritas aqui.

Os estatutos não mudaram. O que mudou é que a explicação gratuita e legível sobre o que eles exigem desapareceu, e as organizações que mais dependiam dela são justamente as que não têm orçamento para substituí-la por assessoria jurídica.

O que é realmente alcançável nessa escala

A recomendação não é um programa de conformidade. Uma organização de trinta pessoas não pode operar um e não deveria tentar. O que se segue é alcançável em alguns dias do tempo de um funcionário já existente e captura a maior parte da proteção disponível.

1. Faça um inventário do que você realmente está usando. Liste todos os pontos do processo de contratação em que um software avalia, classifica, filtra ou pontua um candidato, incluindo análise de currículo, perguntas eliminatórias, módulos de avaliação e pré-triagem baseada em chat. Inclua funcionalidades ativadas por padrão na implementação. A maioria das organizações que fazem isso pela primeira vez descobre pelo menos um sistema que ninguém sabia que estava pontuando candidatos.
2. Desative o que você não consegue explicar. Se ninguém consegue afirmar o que uma funcionalidade mede e por que ela importa para o cargo, a ação correta é desativá-la, não documentá-la. Essa opção está disponível para pequenas organizações e, em grande medida, indisponível para as grandes, e é a etapa isoladamente mais rentável desta lista.
3. Faça cinco perguntas por escrito ao fornecedor. O que essa funcionalidade pontua. Vocês retêm a pontuação e a configuração, e por quanto tempo. Vocês conseguem reproduzir uma decisão específica de dezoito meses atrás. Que evidência de validação existe para o que ela mede. Que caminho de acomodação o produto suporta. Guarde as respostas. Uma recusa também é uma resposta e vale a pena guardá-la.
4. Construa o caminho de acomodação antes de precisar dele. Nomeie a pessoa que decide, defina um prazo, assegure que exista uma avaliação alternativa que não desfavoreça quem a utiliza, e declare sua disponibilidade na própria avaliação, não em uma página de carreiras. Esse é o controle mais barato deste documento e aborda a reivindicação que você tem maior probabilidade de enfrentar.
5. Mantenha o arquivo de acomodações. Cada pedido, quem decidiu, o que foi fornecido, qual foi o resultado. Ele será apresentado se uma reclamação for registrada, e deve ser revisado por você primeiro.
6. Quando o contrato for renovado, peça termos de retenção e reprodução. Talvez você não os obtenha. Perguntar e ser recusado é substancialmente melhor do que não perguntar, tanto do ponto de vista da governança quanto do que o registro mostra sobre o que a organização sabia.

Conclusão

A proposição de que pequenas organizações merecem acesso às ferramentas que as grandes têm está correta até certo ponto, e a tecnologia de fato reduziu o custo de uma infraestrutura de contratação capaz. O que não foi reduzido é o padrão segundo o qual as decisões resultantes são julgadas, e o que foi dado às pequenas organizações não é um padrão mais leve, mas um rastro documental mais leve.

As isenções são reais, e são isenções de serem questionadas. Não são isenções da resposta. Uma organização de trinta pessoas que não consegue dizer o que sua ferramenta de triagem mede está na mesma posição jurídica de uma organização de trinta mil que também não consegue, com menos recursos para resolver a questão e, se for uma organização orientada por missão, consideravelmente mais a perder quando a pergunta é feita em público.

Referências

• American Civil Liberties Union, ACLU of Colorado, Public Justice e Eisenberg & Baum LLP. Queixa apresentada junto da Colorado Civil Rights Division e da U.S. Equal Employment Opportunity Commission, 19 de março de 2025.
• Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112; Title VII of the Civil Rights Act of 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
• California Consumer Privacy Act, Cal. Civ. Code § 1798.140, definição de empresa abrangida; propostas de regulamentação da California Privacy Protection Agency sobre tecnologia de tomada de decisão automatizada, encaminhadas para regulamentação formal em novembro de 2024.
• Colorado Senate Bill 24-205, assinado em 17 de maio de 2024, com data de vigência prevista para 1 de fevereiro de 2026.
• EEOC v. iTutorGroup, Inc., N.º 1:22-cv-02565 (E.D.N.Y.), decreto de consentimento, agosto de 2023.
• Mobley v. Workday, Inc., N.º 3:23-cv-00770 (N.D. Cal.), despacho sobre o pedido de arquivamento, julho de 2024.
• New York City Local Law 144 de 2021, Ferramentas Automatizadas de Decisão de Emprego.
• U.S. Department of Labor e Partnership on Employment & Accessible Technology, AI and Inclusive Hiring Framework, setembro de 2024.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 de maio de 2022; removido do site da agência em 27 de janeiro de 2025.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607, incluindo o § 1607.15A(1); requisitos de manutenção de registros da EEOC, 29 C.F.R. Part 1602.