A tecnologia de recursos humanos empresarial tornou-se acessível a organizações que anteriormente nunca poderiam tê-la custeado. A questão de governação é o que não chegou junto com ela.
O que o argumento da democratização acerta
A tecnologia de recursos humanos empresarial tornou-se acessível a organizações que anteriormente nunca poderiam tê-la custeado. Uma organização sem fins lucrativos de vinte pessoas pode agora gerir a classificação de candidatos, avaliação estruturada, análise de envolvimento, inferência de competências e distribuição personalizada de aprendizagem através de uma subscrição mensal, utilizando os mesmos produtos subjacentes implementados por empregadores mil vezes maiores. Essa é uma mudança real e o entusiasmo em relação a ela não é infundado. A capacidade que estava concentrada em grandes corporações encontra-se agora amplamente distribuída.
O argumento geralmente apresentado juntamente com esta observação é que a distribuição não é apenas de capacidade, mas de vantagem, e que organizações mais pequenas e orientadas por missão podem, de facto, estar em melhor posição do que as corporações para utilizar bem estes sistemas, por serem mais enxutas, mais ágeis e livres da sobrecarga burocrática que um grande departamento de recursos humanos acarreta. A posição da Novara Consulting Group é que esta última afirmação inverte o risco real, e que essa inversão é o problema de governação central para o setor.
A sobrecarga é a responsabilização.
A sobrecarga é a responsabilização. O que a função de recursos humanos de um grande empregador contém, por baixo das camadas que parecem ineficiência, é um conjunto de controlos: revisão jurídica antes de uma ferramenta ser implementada, um processo de gestão de fornecedores, retenção de registos, um responsável de conformidade que questiona o que um sistema mede, e um parceiro de negócio cuja função inclui notar quando uma decisão parece errada. As grandes corporações adotaram estas ferramentas num ambiente em que essa camada já existia. As organizações orientadas por missão estão a adotar as mesmas ferramentas sem ela, e dizem-lhes que essa ausência é a vantagem.
O que não veio na caixa
O software é o mesmo. Tudo o que o rodeia é diferente, em quatro aspetos que se somam.
Ninguém o configurou. Uma organização pequena utiliza as predefinições do fornecedor. Não selecionou os critérios de seleção, não definiu limiares e muitas vezes não sabe quais as funcionalidades que estão a pontuar os candidatos, porque várias foram ativadas na implementação e nunca revistas. A pergunta que eventualmente surge, sobre quem definiu os critérios e com que base, não tem resposta.
Ninguém o reviu. Não há assessoria jurídica para perguntar se uma avaliação que mede o estilo de comunicação se relaciona com o cargo, nenhuma função de privacidade para perguntar onde são armazenados os resultados de inferência, e nenhum departamento de aquisições para pedir provas de validação. A compra foi feita por um diretor executivo por recomendação de uma organização parceira.
Ninguém o pode negociar. Os controlos que realmente protegem um empregador são contratuais: retenção de pontuações, identificação de versões, capacidade de reproduzir uma decisão histórica, acesso a provas de validação, cooperação numa investigação. Estes aspetos são definidos no momento da aquisição. Uma organização de vinte pessoas que assina um formulário de encomenda padrão não tem poder negocial para os obter, o que significa que a defesa mais eficaz é a menos disponível a esta escala.
E o limiar legal não se altera. O Título VII e o Americans with Disabilities Act aplicam-se a partir de quinze trabalhadores, o Age Discrimination in Employment Act a partir de vinte. Não existe defesa baseada em sofisticação, nem porto seguro para pequenos empregadores no caso de ferramentas automatizadas, nem redução de obrigação pelo facto de o sistema ter sido comprado em vez de construído. A jurisprudência em desenvolvimento sugere que o fornecedor pode ser acrescentado como réu em vez de substituir um; em julho de 2024, o Northern District of California permitiu que avançassem ações contra um fornecedor de software de seleção com base na tese de que este atuou como agente dos empregadores que utilizam as suas ferramentas. O facto de a ferramenta ter vindo numa caixa, e de ninguém na organização a ter compreendido, não é uma defesa. É uma admissão.
A afirmação a eliminar
Entre as proposições comummente apresentadas sobre inteligência artificial em recursos humanos orientados por missão, uma deve ser eliminada em vez de qualificada: a de que estes sistemas são resistentes a enviesamentos, ou que reduzem o preconceito inconsciente e produzem contratações mais justas.
Não existe uma base de evidência pública que a sustente, e a evidência disponível aponta no sentido contrário. Sistemas treinados com base em candidatos anteriormente bem-sucedidos pontuam a conformidade com uma distribuição, e as dimensões ao longo das quais mais frequentemente pontuam, comunicação, fluência, afeto e tempo de resposta, são as dimensões em que a deficiência, a fala com sotaque e um percurso não familiar surgem como desvio. Uma queixa apresentada em março de 2025 junto da Colorado Civil Rights Division e da EEOC (Equal Employment Opportunity Commission) em nome de um colaborador Deaf e indígena alega precisamente este padrão numa entrevista em vídeo automatizada; ambas as empresas negam as alegações e o processo está a ser contestado, mas a teoria do dano consta agora do registo público com partes nomeadas.
O aparato de auditoria oferecido como garantia não corrige a afirmação. Uma investigação apresentada na conferência da ACM sobre Equidade, Responsabilização e Transparência de 2024 examinou a conformidade com o requisito de auditoria de enviesamento da cidade de Nova Iorque em quase quatrocentos empregadores e constatou taxas de publicação afirmativa na casa de um dígito baixo, com quase todas as auditorias publicadas a reportar rácios de impacto acima do limiar de quatro quintos, uma distribuição que diz mais sobre quem encomenda auditorias do que sobre os sistemas auditados. E estes instrumentos medem raça e sexo. Não conseguem medir deficiência, porque os empregadores não sabem e não podem legalmente perguntar, antes de uma oferta condicional, quais os candidatos com deficiência.
Para uma organização orientada por missão, isto não é meramente um problema de precisão. Uma organização que se compromete publicamente com uma contratação equitativa e que, em privado, confia na alegação de equidade de um fornecedor, adotou uma afirmação que não consegue fundamentar, precisamente na área em que a sua credibilidade é o seu principal ativo. A postura correta é reconhecer que estes sistemas não estão comprovados quanto ao enviesamento, que a organização está a monitorizar os resultados por si própria, e que não delegou a questão.
A análise de equipas pequenas desanonimiza por construção
A proposição de que a análise de envolvimento e desempenho em tempo real permite que equipas pequenas fomentem ambientes de apoio merece um tratamento separado, porque a esta escala faz algo diferente do que faz à escala empresarial.
A análise de envolvimento é vendida com a premissa de visão agregada: a organização vê padrões, não pessoas. Essa premissa depende de dimensões de grupo suficientemente grandes para ocultar indivíduos. Numa organização de vinte e cinco pessoas, com três equipas, um painel que reporta sentimento ou envolvimento por equipa está a reportar sobre seis a nove pessoas identificáveis, e qualquer gestor que o leia sabe quem é quem. Segmentando por antiguidade, função ou localização, o relatório torna-se individual. O anonimato é nominal, e as pessoas sobre quem se reporta geralmente percebem isso muito antes da liderança.
Daí resultam duas consequências. A primeira é que os dados deixam de ser fiáveis, porque os colaboradores que corretamente inferem que as respostas são atribuíveis respondem em conformidade, o que explica como as organizações acabam com painéis a mostrar elevado envolvimento e uma demissão que ninguém previu. A segunda é jurídica. Quando a análise infere bem-estar, stress, esgotamento ou desligamento, a organização pode estar a gerar informação relacionada com a saúde sobre colaboradores identificáveis. O ADA exige que a informação médica sobre colaboradores seja mantida separadamente e de forma confidencial, e uma inferência que reside num produto de análise de uso geral na infraestrutura do fornecedor, visível a quem quer que administre a plataforma, dificilmente satisfará esse padrão. Ninguém considerou a questão, porque o sistema foi adquirido como ferramenta de cultura organizacional.
O mesmo raciocínio aplica-se à inferência de competências e à aprendizagem personalizada. Um sistema que identifica lacunas de competências e orienta o desenvolvimento está a produzir um perfil que determina quem recebe investimento. Alocar desenvolvimento com base num perfil inferido é uma decisão de emprego, e é passível de revisão enquanto tal. Se a inferência se baseia na antiguidade, no histórico de funções ou em sinais de envolvimento correlacionados com idade ou deficiência, a organização criou uma exposição e registou-a como um benefício.
O que uma organização enxuta deveria realmente manter
A recomendação não é um programa de conformidade, que uma organização desta dimensão não pode operar e não deve tentar. É um pequeno conjunto de controlos que sobrevive sendo gerido por uma única pessoa com outras responsabilidades. São baratos a esta escala, e são a parte da sobrecarga empresarial que vale a pena importar.
Saber o que está em funcionamento. Liste cada ponto em que o software avalia, classifica, filtra, pontua ou traça o perfil de uma pessoa, incluindo funcionalidades ativadas por predefinição na implementação. A maioria das organizações que faz isto pela primeira vez descobre pelo menos um sistema que ninguém sabia que estava a pontuar.
Desativar o que não pode ser explicado. Quando ninguém consegue indicar o que uma funcionalidade mede e porque é relevante para o cargo, desative-a em vez de a documentar. Esta opção está genuinamente disponível para organizações pequenas e largamente indisponível para as grandes, e é a ação de maior rendimento desta lista.
Pergunte ao fornecedor por escrito, e guarde a resposta. O que é que esta funcionalidade pontua. O que infere, a partir de que sinais, e onde é armazenada a inferência. Retêm pontuações e configurações, durante quanto tempo, e conseguem reproduzir uma decisão de há dezoito meses. Que provas de validação existem. Que via de acomodação o produto suporta. Uma recusa também é uma resposta e vale a pena ser conservada.
Construa a via de acomodação antes de ela ser necessária. Nomeie quem decide, defina um prazo de resposta, assegure que existe uma avaliação alternativa que não desfavoreça quem a utiliza, e indique a sua disponibilidade na própria avaliação, e não numa página de carreiras. Mantenha o registo de pedidos e resultados. Este é o controlo mais barato disponível e aborda a reclamação com maior probabilidade de surgir.
Defina um limiar mínimo para qualquer análise de pessoas. Nenhum relatório sobre grupos abaixo de uma dimensão mínima estabelecida, nenhuma atribuição individual, e nenhuma inferência sobre bem-estar ou saúde conservada num sistema de uso geral.
Solicite termos de retenção e reprodução na renovação. O pedido pode ser recusado. Pedir e ser recusado constitui uma prova materialmente melhor de diligência institucional do que um memorando escrito depois de apresentada uma queixa.
Conclusão
A distribuição de capacidade empresarial a organizações que anteriormente não a podiam custear é um ganho genuíno, e o setor deve aproveitá-lo. O que não foi distribuído é o aparato que tornava esses sistemas governáveis dentro das organizações para as quais foram construídos, e a linguagem atualmente utilizada para descrever a sua ausência, agilidade, leveza, liberdade face à sobrecarga, obscurece o que falta.
Uma organização de vinte pessoas que implementa seleção automatizada tem as mesmas obrigações de uma com vinte mil, com menos recursos para as cumprir e, sendo orientada por missão, consideravelmente mais a perder quando não o consegue. Os controlos que fecham essa lacuna não são dispendiosos a esta escala. São uma lista, um conjunto de perguntas, um registo escrito e uma decisão sobre o que desligar. As organizações que os instalarem não estarão apenas mais seguras. Saberão o que os seus sistemas estão a fazer, o que é precisamente aquilo que todos os outros nesta conversa estão a assumir e que quase ninguém verificou.
Referências
- American Civil Liberties Union, ACLU of Colorado, Public Justice e Eisenberg & Baum LLP. Queixa apresentada junto da Colorado Civil Rights Division e da U.S. Equal Employment Opportunity Commission, 19 de março de 2025.
- Americans with Disabilities Act of 1990, 42 U.S.C. § 12112, incluindo o § 12112(d) sobre exames médicos, perguntas relacionadas com deficiência e confidencialidade; Title VII of the Civil Rights Act of 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
- Mobley v. Workday, Inc., N.º 3:23-cv-00770 (N.D. Cal.), despacho sobre o pedido de arquivamento, julho de 2024.
- New York City Local Law 144 de 2021, Ferramentas Automatizadas de Decisão de Emprego.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; requisitos de manutenção de registos da EEOC, 29 C.F.R. Part 1602.
- Wright, Lucas, et al. “Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability.” Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency.