Risco Não Precificado Não É Retorno: Por Que a Maioria dos Casos de Negócio de Inteligência Artificial em Recursos Humanos Falha como Casos de Negócio

As alegações e a medição que seria necessária para sustentá-las

O argumento de negócio padrão para a inteligência artificial em recursos humanos estabilizou-se em torno de cinco alegações: contratação mais rápida e melhor, menor custo administrativo, planeamento preditivo da força de trabalho, retenção melhorada e conformidade automatizada. As alegações são repetidas com consistência suficiente nos materiais dos fornecedores, na programação de conferências e nos comentários profissionais, a ponto de funcionarem agora como pressuposto de fundo em vez de como proposições que exigem prova.

Exigem prova, e o obstáculo à sua produção não é a tecnologia. Os recursos humanos entraram neste período com a infraestrutura de medição mais fraca de qualquer função empresarial importante. As finanças têm demonstrações auditadas. As operações têm taxas de rendimento e de defeitos. Os recursos humanos têm um conjunto de métricas que são definidas de forma variável, raramente validadas, raramente calibradas com uma linha de base antes de uma intervenção, e frequentemente produzidas pelo próprio fornecedor cujo produto está a ser avaliado. Uma organização que não conseguia medir o desempenho do seu processo de contratação antes de implementar uma ferramenta automatizada não consegue medir a melhoria depois, e o que reporta como retorno é geralmente a diferença entre dois números que nunca foram comparáveis.

A posição da Novara Consulting Group é que o problema central dos argumentos de negócio sobre inteligência artificial em recursos humanos não é a ausência de retornos. Alguns são reais, e são descritos abaixo. O problema é que os retornos são afirmados com um nível de precisão que a medição subjacente não consegue sustentar, enquanto os custos que os compensariam são inteiramente excluídos do modelo. Um cálculo construído dessa forma não é uma análise de investimento. É um documento de promoção com um símbolo monetário lá dentro.

É um documento de promoção com um símbolo monetário lá dentro.

O que é efetivamente mensurável, e quanto vale

As cinco alegações padrão dividem-se claramente em duas classes, e essa separação é mais instrutiva do que as próprias alegações.

A primeira classe contém efeitos que são genuinamente mensuráveis e comparativamente modestos. O tempo de ciclo na contratação é mensurável, tem uma linha de base estabelecida na maioria dos sistemas de acompanhamento de candidaturas, e responde de facto à automatização do agendamento, da triagem e da correspondência. O custo administrativo por transação na administração de folhas de pagamento e benefícios é mensurável, assim como as taxas de erro nesses processos. As organizações que automatizam estas funções geralmente conseguem realizar poupanças, e essas poupanças podem ser comprovadas.

Importam duas ressalvas. A primeira é que a maioria das poupanças documentadas na administração de folhas de pagamento e benefícios deriva da automatização de fluxos de trabalho e do processamento baseado em regras, tecnologias que precedem a atual geração de inteligência artificial em décadas e que são frequentemente reclassificadas como IA no posicionamento dos fornecedores e nos argumentos de negócio construídos sobre essa base. Atribuir poupanças de automatização de processos há muito estabelecidos a uma compra recente de IA infla o retorno medido dessa compra e, mais relevante ainda, atribui incorretamente o mecanismo causal, o que significa que a organização aprende a lição errada sobre o que produziu o benefício. A segunda ressalva é que estas poupanças são, em termos absolutos, pouco espetaculares. Não justificam por si só os compromissos empresariais que estão agora a ser assumidos.

A segunda classe contém efeitos que seriam substanciais se fossem reais e que atualmente não podem ser medidos: melhor qualidade de contratação, melhor retenção e melhor planeamento da força de trabalho. Estas são as alegações que sustentam o argumento de negócio, e sustentam-no precisamente porque a sua magnitude não está limitada pela medição.

A qualidade de contratação não é uma métrica

A qualidade de contratação é a alegação de sustentação em quase todos os argumentos de negócio sobre tecnologia de recrutamento, e não possui uma definição comum validada. Dependendo da organização, é operacionalizada como avaliação de desempenho do primeiro ano, retenção aos noventa dias, retenção a doze meses, satisfação do gestor de contratação, tempo até à produtividade, ou uma combinação de várias destas, cada uma com propriedades de medição diferentes e nenhuma com validade de construto estabelecida como medida de eficácia da contratação.

A consequência é que qualquer melhoria alegada na qualidade de contratação é substancialmente um artefacto da escolha de definição. Uma organização que define qualidade de contratação como retenção aos noventa dias e implementa uma ferramenta que faz triagem de candidatos semelhantes a antigos funcionários de longa permanência irá observar uma melhoria. Não aprendeu que a contratação melhorou. Aprendeu que um sistema otimizado para um indicador substituto moveu esse indicador substituto. Quando o fornecedor fornece tanto a ferramenta como a estrutura de medição, o que é comum, a conclusão está mais próxima de uma tautologia do que de evidência.

Isto importa muito para além da higiene metodológica. Nos termos das Uniform Guidelines on Employee Selection Procedures em 29 C.F.R. Part 1607, espera-se que um empregador cujo processo de seleção revele impacto adverso produza evidência de que o procedimento é válido para a função. A validação relacionada com critérios exige uma medida defensável de desempenho no trabalho. Uma organização que não consegue dizer com precisão o que significa qualidade de contratação para as suas próprias funções, e que não consegue demonstrar que a sua medida de critério é em si mesma isenta de viés, não possui a evidência que a estrutura contempla. A fragilidade de medição que infla o argumento de negócio é a mesma fragilidade que mina a defesa legal, o que constitui um caso invulgar em que um problema metodológico e um problema de responsabilidade são o mesmo problema.

A previsão de desligamento e o fosso de precisão

O planeamento preditivo da força de trabalho merece um tratamento separado, porque é aqui que a distância entre o desempenho publicado e o desempenho em implementação é maior e a exposição legal é menos compreendida.

A literatura académica sobre previsão de desligamento de funcionários relata rotineiramente taxas de precisão na casa dos noventa e tal por cento. Essas cifras são geradas sobretudo sobre um pequeno número de conjuntos de dados de referência, principalmente o conjunto IBM HR Analytics com cerca de 1.470 registos e um conjunto de recursos humanos amplamente divulgado no Kaggle com cerca de 15.000 registos, e tipicamente após um equilíbrio sintético de classes através de técnicas de sobreamostragem como o SMOTE (Synthetic Minority Over-sampling Technique). Estas são escolhas metodológicas legítimas para comparar algoritmos entre si. Não são estimativas de desempenho em contexto real sobre a força de trabalho própria de um empregador, e nunca deveriam surgir num argumento de negócio como se o fossem. A avaliação de profissionais sobre a precisão realista em contexto real para modelos de risco de saída é consideravelmente mais baixa, na faixa dos setenta a oitenta por cento, e os analistas da área têm expressado um ceticismo persistente em relação a alegações de fornecedores acima de noventa por cento.

O fosso entre oitenta por cento e a casa dos noventa e tal por cento não é uma diferença de arredondamento nesta aplicação, porque a taxa base é baixa. O desligamento voluntário na maioria das organizações situa-se bem abaixo dos vinte por cento ao ano, o que significa que um modelo com uma precisão global elevada ainda pode produzir falsos positivos que superam substancialmente os verdadeiros positivos. Num modelo de desligamento, um falso positivo é um funcionário incorretamente identificado como propenso a sair.

A questão da governação surge imediatamente, e o enquadramento de retorno sobre o investimento ofusca-a. O que faz a organização com esse nome. Se a resposta for nada, o modelo não produziu retorno algum. Se a resposta for qualquer coisa, seja ofertas de retenção diferenciadas, investimento de desenvolvimento alterado, exclusão de atribuições de longo prazo, ou consideração de sucessão alterada, então a organização tomou uma decisão laboral diferenciada sobre um indivíduo com base numa previsão. Isso é uma ação laboral, e a sua legalidade depende do que determinou a pontuação. As orientações para a construção destes modelos recomendam rotineiramente a inclusão de dados demográficos dos funcionários, sendo a idade e a antiguidade mencionadas entre as variáveis que dão contexto ao modelo. Um empregador que introduz a idade num modelo, utiliza o resultado para alocar investimento em desenvolvimento, e não consegue reconstruir por que razão um determinado funcionário foi pontuado da forma como foi, construiu uma exposição ao abrigo do Age Discrimination in Employment Act e registou-a no livro de contas como um benefício.

A conformidade automatizada não cumpre uma obrigação de conformidade

A alegação de que a inteligência artificial garante o cumprimento da legislação laboral e da política interna deveria ser retirada inteiramente dos argumentos de negócio, e não porque as ferramentas sejam inúteis. Os sistemas de monitorização que sinalizam pausas não realizadas, limiares de horas extraordinárias, anomalias de classificação ou erros na administração de licenças podem ser genuinamente valiosos, e o argumento operacional a seu favor é razoável.

A palavra que falha é garante. Um sistema de monitorização não cumpre uma obrigação legal; produz resultados que o empregador passa então a possuir. Se o sistema sinaliza uma potencial violação e ninguém age, a organização criou um registo interno datado que estabelece aviso prévio, o que é materialmente pior do que não ter monitorizado. Se o sistema não sinaliza uma violação que ocorreu, o empregador não adquiriu defesa alguma, porque a confiança numa ferramenta de um fornecedor não é uma desculpa reconhecida para o incumprimento ao abrigo do Fair Labor Standards Act ou dos estatutos que a Equal Employment Opportunity Commission (EEOC) aplica. Se as determinações do sistema estiverem erradas de forma padronizada, o empregador automatizou o erro e escalou-o.

Os acontecimentos de janeiro de 2025 tornam isto pior, não melhor. Quando a EEOC retirou do seu website as orientações sobre inteligência artificial, incluindo a assistência técnica de maio de 2022 sobre o Americans with Disabilities Act e a assistência técnica de maio de 2023 sobre o Title VII, os empregadores perderam o material interpretativo que lhes dizia quais práticas a agência considerava problemáticas. Os estatutos não mudaram. Uma ferramenta de conformidade configurada segundo orientações entretanto retiradas está agora a operar sem um padrão de referência declarado, e é o empregador, não o fornecedor, que detém essa lacuna.

A automatização da conformidade acrescenta, portanto, uma obrigação de documentação e resposta em vez de remover uma. Essa obrigação tem um custo, o custo é real, e pertence ao lado dos custos do modelo.

Os custos que o modelo omite

A maioria dos argumentos de negócio sobre IA em recursos humanos contém um lado de custos composto por taxas de licenciamento, serviços de implementação e alguma previsão para formação. Esse é o custo de aquisição do software. Não é o custo de operar um sistema automatizado de decisão laboral, que inclui adicionalmente, no mínimo, o seguinte.

Trabalho de validação, ou seja, a análise que estabelece que aquilo que cada sistema pontua corresponde a um requisito documentado da função, juntamente com a revalidação exigida quando o sistema ou a função mudam. Funcionamento da via de acomodação, ou seja, a capacidade permanente de fornecer uma avaliação alternativa mediante pedido, com decisores nomeados, prazo de resposta definido e um processo interativo funcional em vez de um simples formulário. Capacidade de retenção e reprodução de registos, ou seja, a capacidade de produzir a pontuação, os dados de entrada e a configuração do sistema em vigor para qualquer decisão individual ao longo do período de conservação previsto pelo 29 C.F.R. Part 1602. Monitorização, ou seja, testes periódicos dos resultados em vez de confiança num resumo fornecido pelo fornecedor. Cooperação do fornecedor em processos de descoberta e investigação administrativa, o que é dispendioso, está ausente dos termos comerciais padrão a menos que seja negociado, e é cobrado ao empregador quando necessário. E a própria função de governação interna, ou seja, a pessoa identificada responsável pelo acima exposto, que na maioria das organizações atualmente não existe e precisa de ser criada ou contratada.

A par destes custos operacionais existe uma responsabilidade contingente que praticamente nenhum argumento de negócio avalia em termos de preço, e já não é hipotética. Em agosto de 2023, a EEOC chegou a um acordo com a iTutorGroup no valor de 365.000 dólares relativo a software configurado para rejeitar candidatos acima de determinadas idades, o que constitui uma cifra concreta para uma decisão de configuração simples. Em julho de 2024, o Northern District of California permitiu que avançassem ações contra um fornecedor de software de triagem segundo a tese de que o fornecedor atuou como agente dos empregadores que utilizam as suas ferramentas, o que abala o pressuposto comum de que a responsabilidade recai inteiramente sobre o empregador ou sobre o fornecedor e pode ser alocada de forma clara por contrato. Em março de 2025, a American Civil Liberties Union (ACLU), a ACLU do Colorado, a Public Justice e a Eisenberg and Baum apresentaram uma queixa junto da Colorado Civil Rights Division e da EEOC em nome de um funcionário Deaf e Indígena relativa a uma entrevista por vídeo automatizada e a uma acomodação de legendagem negada, um caso que ambas as empresas negam. Essa alegação é individualizada, não exige estatísticas comparativas, e é pouco dispendiosa de apresentar.

O tratamento correto não é tentar adivinhar uma cifra de acordo. É declarar a exposição explicitamente, assinalar que as alegações de prática sistémica estão frequentemente fora da cobertura das apólices padrão de responsabilidade por práticas laborais, e exigir que os controlos de governação que reduzem a exposição sejam financiados como parte da implementação, em vez de adiados.

Uma organização que acrescente estas linhas descobrirá frequentemente que o investimento continua a fazer sentido. Esse é um bom resultado e não é esse o ponto. O ponto é que o número resultante pode ser defendido perante um conselho de administração, um auditor e, eventualmente, um tribunal, o que o número atual não pode.

Uma estrutura defensável

O que se segue produz um argumento de negócio que resiste ao escrutínio e que pode ser construído por uma função existente de recursos humanos e finanças.

1. Estabeleça a linha de base antes da implementação, não depois: tempo de ciclo, custo por contratação, custo administrativo por transação, taxas de erro e desligamento por segmento, cada um medido durante pelo menos quatro trimestres anteriores.
2. Separe as poupanças de automatização das poupanças de IA. Indique quais os benefícios alegados que derivam do processamento de fluxo de trabalho baseado em regras que estaria disponível sem a compra de IA, e atribua-lhes um preço separado.
3. Defina explicitamente a qualidade de contratação para as suas próprias funções antes de medir qualquer alteração nela, declare a medida de critério e declare as suas limitações. Se não puder ser definida, não reivindique melhoria nela.
4. Recuse cifras de precisão derivadas de conjuntos de referência para qualquer modelo preditivo. Exija desempenho em contexto real sobre os próprios dados da organização, com a taxa base declarada e o volume de falsos positivos expresso em número de pessoas em vez de percentagem.
5. Para qualquer modelo que produza pontuações a nível individual, documente que ação decorre da pontuação antes da implementação, e submeta essa ação a revisão como uma decisão laboral, não como um resultado analítico.
6. Atribua preço às obrigações operacionais acima referidas como custo recorrente, e não como implementação única.
7. Declare o passivo contingente como um item divulgado em linha, com os controlos que o reduzem, seja ou não atribuído um valor em dólares.
8. Exigir evidência de validação, dados de desempenho em campo e capacidade de reprodução como termos contratuais na aquisição. Conservar qualquer recusa, que é, em si mesma, informação sobre aquilo que a organização sabe.

Conclusão

Existe um caso de negócio real para a inteligência artificial nos recursos humanos, e é mais modesto e mais defensável do que o que atualmente circula. Assenta na redução do tempo de ciclo, do custo de transação e do erro em processos administrativos, tudo isso passível de comprovação. Não assenta na qualidade da contratação, na retenção ou em alegações de precisão preditiva que a prática de medição da função não consegue sustentar e que acarretam uma responsabilidade que o modelo não precifica.

As organizações que reportarão retorno duradouro destes sistemas não são as que os adotaram mais cedo nem as que mais compraram. São as que mediram antes de implementar, que conseguem dizer o que cada sistema pontua e porque isso importa para o cargo, e que trataram o aparato de governação como parte do custo de propriedade, e não como uma despesa a evitar. Um retorno que depende de benefício não medido e risco não precificado não é retorno. É uma previsão, e a diferença torna-se evidente no momento em que alguém pede para ver os cálculos.

Referências

• American Civil Liberties Union, ACLU of Colorado, Public Justice e Eisenberg & Baum LLP. Queixa apresentada junto da Colorado Civil Rights Division e da U.S. Equal Employment Opportunity Commission, 19 de março de 2025.
• EEOC v. iTutorGroup, Inc., N.º 1:22-cv-02565 (E.D.N.Y.), decreto de consentimento, agosto de 2023.
• Mobley v. Workday, Inc., N.º 3:23-cv-00770 (N.D. Cal.), despacho sobre o pedido de arquivamento, julho de 2024.
• Society for Human Resource Management. “The Dangers of Using Predictive Analytics to Gauge Employee Flight Risk.” 2023.
• U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 de maio de 2022, e Select Issues: Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII, 18 de maio de 2023. Ambos removidos do site da agência em 27 de janeiro de 2025.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; requisitos de manutenção de registos, 29 C.F.R. Part 1602.