Skip to content
Ir para o texto

Governança de IA e Risco Digital

A Fila Existe por um Motivo: IA Agêntica e Implementação No-Code em Operações de Recursos Humanos

Banner do Novara Consulting Group para a categoria AI Governance & Digital Risk: o nome da categoria numa caixa verde sobre uma floresta de pinheiros envolta em neblina.
Baixar PDF

A alegação de capacidade é, em grande parte, sólida

O argumento operacional em favor de sistemas agênticos no trabalho de recursos humanos não exige muita defesa. Um sistema que executa um fluxo de trabalho de múltiplas etapas sem que um humano inicie cada etapa é significativamente diferente de um motor de regras, e a diferença não é retórica. Sequências de integração, distribuição de documentos, agendamento, comunicação de status e provisionamento de acesso são genuinamente adequados à execução autónoma, e as organizações que os automatizam recuperam capacidade que nunca foi utilizada de forma produtiva.

O ambiente de desenvolvimento sem código é, do mesmo modo, uma mudança real, e não apenas de marketing. Os profissionais de recursos humanos compreendem o ciclo de vida do colaborador de formas que as equipas de engenharia, a trabalhar a partir de um documento de requisitos, não compreendem, e ferramentas de configuração que colocam o design nas mãos de quem entende o processo produzirão processos melhores.

Nenhuma das duas observações está aqui em causa. O que está em causa é a inferência habitualmente retirada delas, segundo a qual, porque as funções de recursos humanos podem agora implementar sistemas autónomos sem intermediação técnica, devem fazê-lo. Essa inferência trata o intermediário técnico como um estrangulamento. É mais correto entendê-lo como um controlo, e as organizações que o removem sem substituir o que ele fazia não aceleraram as suas operações. Deslocaram um conjunto de decisões para uma função que não foi dotada de recursos para as tomar.

A distinção que importa não é entre automação e agência. É entre sistemas cujos resultados informam uma decisão sobre uma pessoa e sistemas cujos resultados não o fazem, e as arquiteturas agênticas tendem a deslocar sistemas através dessa linha sem que ninguém note a travessia.

Considere-se o agente de recrutamento de topo de funil que se tornou a ilustração padrão desta categoria. Filtra candidaturas em função de qualificações declaradas, realiza pré-seleção, comunica o estado aos candidatos e agenda entrevistas com aqueles que faz avançar. O benefício é tipicamente apresentado da seguinte forma: os gestores de contratação agora interagem apenas com candidatos já pré-avaliados. Essa formulação descreve com precisão a exposição a riscos de conformidade, embora não o faça intencionalmente. Se os gestores de contratação só veem os sobreviventes, então nenhuma pessoa reviu a população excluída, e a exclusão é inteiramente atribuível ao sistema.

Se os gestores de contratação só veem os sobreviventes, então nenhuma pessoa reviu a população excluída, e a exclusão é inteiramente atribuível ao sistema.

A Lei Local 144 da cidade de Nova Iorque abrange ferramentas automatizadas de decisão de emprego usadas para assistir substancialmente ou substituir a tomada de decisão discricionária, e exige uma auditoria independente de enviesamento realizada no ano anterior, a publicação pública do resumo da auditoria e um aviso prévio aos candidatos. Um agente de triagem que opera sem revisão humana das exclusões não se situa na margem dessa definição. É o caso paradigmático. A HB 3773 do Illinois, que entra em vigor em janeiro de 2026, exigirá aviso sempre que a inteligência artificial seja usada em decisões de recrutamento ou contratação, e tornará os efeitos discriminatórios acionáveis ao abrigo da Lei dos Direitos Humanos, estando a obrigação de aviso associada à utilização e não ao resultado. O estatuto do Colorado, presentemente previsto para o início de 2026, embora sujeito a pressão ativa para emendas, identifica as decisões de emprego como decisões consequentes e impõe obrigações ao implementador. O Anexo III do Regulamento de Inteligência Artificial da UE designa os sistemas de emprego como de alto risco, com obrigações previstas a partir de agosto de 2026.

Nenhum destes regimes contém uma exceção para sistemas que a organização tenha construído ela própria. As obrigações recaem sobre o implementador. Uma organização que adquire uma ferramenta de triagem a um fornecedor recebe, pelo menos, um contrato, uma análise de segurança do fornecedor e, em muitos casos, documentação de auditoria produzida pelo fornecedor para outros clientes. Uma organização que monta a mesma funcionalidade através de um construtor sem código não recebe nenhum destes elementos e, ainda assim, está sujeita às mesmas obrigações.

É neste sentido específico que a fila de espera era um controlo. Os processos técnicos de admissão são onde são desencadeadas as avaliações de proteção de dados, onde ocorre a análise de risco do fornecedor, onde são especificados os requisitos de retenção e exportação, e onde alguém pergunta o que o sistema faz com os dados pessoais. Essas funções não eram características da fila. Eram o seu propósito. Remover a fila remove-as, e as obrigações que existiam para serem cumpridas permanecem.

Onde o agente de sentimento realmente se situa

O agente de monitorização do envolvimento, que administra inquéritos de pulso, analisa o sentimento das respostas e alerta a liderança quando o moral diminui dentro de um departamento, merece um tratamento mais cuidadoso do que habitualmente recebe, porque o risco é frequentemente mal identificado.

Vale a pena afirmar claramente que a análise de sentimento baseada em texto de respostas a inquéritos não é proibida ao abrigo da proibição da União Europeia relativa ao reconhecimento de emoções no local de trabalho. A proibição no Artigo 5.º, n.º 1, alínea f), está ligada à definição do Regulamento de sistema de reconhecimento de emoções, que exige inferência a partir de dados biométricos, e as orientações da Comissão sobre práticas proibidas afirmam que um sistema que infere emoções a partir de texto escrito não se baseia em dados biométricos e fica fora do âmbito da proibição. As organizações que receberam aconselhamento diferente foram aconselhadas de forma imprecisa.

O âmbito de aplicação muda com a modalidade e não com a função. Se o inquérito de pulso for administrado por voz, ou se o sinal de envolvimento for extraído de reuniões gravadas, entrevistas em vídeo, ou qualquer entrada a partir da qual possam ser analisadas características vocais ou faciais, a análise constitui inferência a partir de dados biométricos e a proibição aplica-se. Aplica-se como proibição e não como classificação de alto risco, o que significa que não é sanável através de documentação. As organizações que estendem a capacidade de análise de sentimento de inquéritos escritos para a análise de reuniões estão a cruzar uma linha cuja existência podem nem conhecer, e essa extensão é exatamente o tipo de expansão incremental de âmbito que a implementação agêntica facilita.

A exposição que se aplica à versão baseada em texto é doméstica e distinta. Duas características do design criam-na. A primeira é a des-anonimização através da granularidade: um alerta que afirma que o moral diminuiu dentro de um departamento nomeado é, num departamento de dimensão modesta, funcionalmente identificável, e é entregue à liderança desse departamento. Os instrumentos de envolvimento dependem de uma garantia de confidencialidade, e um sistema que encaminha as conclusões de sentimento para os gestores cuja conduta está a ser avaliada retirou essa garantia sem divulgar a retirada. A segunda é que a monitorização automatizada que deteta e escala a insatisfação coletiva dos trabalhadores opera no território que a Secção 7 da Lei Nacional de Relações Laborais protege. A vigilância de atividade concertada protegida constitui uma prática laboral desleal, e o princípio legal não depende da postura de aplicação de qualquer Procurador-Geral em particular, que tem mudado e voltará a mudar. Uma organização que construiu um sistema para detetar queixas coletivas emergentes e encaminhá-las para a gestão construiu algo que deveria submeter a um jurista antes de o colocar em funcionamento.

O agente que é genuinamente aceitável

Nem todas as implementações agênticas apresentam este perfil, e a distinção vale a pena ser traçada porque é a distinção que as organizações deveriam estar a aplicar.

O agente de integração que distribui materiais, atribui e acompanha a conclusão de formações, e provisiona o acesso ao sistema após a aceitação de uma proposta não faz qualquer avaliação de pessoa alguma. A decisão de contratação já foi tomada. O agente executa a logística decorrente dela. Não há classificação, não há pontuação, não há exclusão e não há inferência sobre o indivíduo. Situa-se fora de todos os regimes acima discutidos, e uma organização que o implementa automatizou a administração, e não o julgamento.

A lição não é que os sistemas agênticos sejam perigosos. É que a categoria contém sistemas com perfis regulatórios inteiramente diferentes, e que o perfil é determinado por saber se o sistema avalia pessoas ou as serve. Essa questão é respondível numa frase por sistema, por alguém que saiba colocá-la, no momento do design. Torna-se consideravelmente mais difícil de responder dezoito meses depois, numa carteira de agentes que equipas individuais construíram e que ninguém catalogou.

Implicações de governança

A recomendação operacional é que a implementação de agentes sem código exige um controlo de admissão leve precisamente porque eliminou o controlo pesado, e que esse controlo deve ser concebido para ser suficientemente rápido para não ser ele próprio contornado.

Uma única pergunta de triagem é suficiente para a maioria dos casos. O resultado deste agente influencia uma decisão sobre uma pessoa, incluindo seleção, exclusão, classificação, prioridade de agendamento, escalonamento ou avaliação? Os agentes cuja resposta seja não avançam. Os agentes cuja resposta seja sim entram num percurso definido: determinação de cobertura face às jurisdições aplicáveis, requisitos de aviso identificados, obrigação de auditoria estabelecida, ponto de revisão humana especificado, e um responsável registado. O percurso deve ser medido em dias e não em semanas, porque um controlo que reinstaure o atraso que substituiu será contornado exatamente como o original foi.

  1. Pergunta de triagem

    O resultado deste agente influencia uma decisão sobre uma pessoa, incluindo seleção, exclusão, classificação, prioridade de agendamento, escalonamento ou avaliação?

    → Decisão sobre uma pessoa?
  2. Decisão sobre uma pessoa?Sim → Percurso definidoNão → Avançar
  3. Prosseguir

    Os agentes cuja resposta seja não avançam.

  4. Caminho definido

    Determinação de cobertura face às jurisdições aplicáveis, requisitos de aviso identificados, obrigação de auditoria estabelecida, ponto de revisão humana especificado, e um responsável registado.

As organizações devem também manter um registo dos agentes implementados, pela razão pouco gloriosa de que, de outro modo, não o terão. A configurabilidade distribuída que torna estas plataformas valiosas também significa que nenhuma função central detém um inventário, e uma organização que não consegue enumerar os seus sistemas automatizados de decisão não consegue determinar as suas obrigações ao abrigo de nenhum dos regimes acima descritos. O registo não é um artefacto de governação no abstrato. É a condição prévia para responder à primeira pergunta de um regulador.

Por fim, as organizações devem prestar atenção ao que estes sistemas registam. As plataformas agênticas registam a sua própria execução, e esses registos são passíveis de descoberta judicial. Um agente que excluiu quatrocentos candidatos criou um registo detalhado da base em que o fez, detido pela organização, produzido pela organização, e disponível para quem o solicitar em litígio. Esse registo é, ou a melhor prova da organização, ou a pior, e qual dos dois é foi determinado na configuração por alguém que não estava a pensar nisso.

A premissa de que as funções de recursos humanos devem controlar a sua própria tecnologia está correta. O controlo inclui as obrigações que o acompanham.

Referências

Regulamento (UE) 2024/1689, Artigo 3.º, n.º 39, Artigo 5.º, n.º 1, alínea f), e Anexo III(4); Comissão Europeia, Orientações sobre Práticas de Inteligência Artificial Proibidas, fevereiro de 2025.

New York City Administrative Code § 20-870 e seguintes (Local Law 144 de 2021).

Projeto de Lei da Câmara do Illinois 3773, 103ª Assembleia Geral (2024), que emenda a Lei de Direitos Humanos do Illinois, em vigor a partir de 1º de janeiro de 2026.

Projeto de Lei do Senado do Colorado 24-205 (2024).

Lei Nacional de Relações Laborais § 7, 29 U.S.C. § 157; § 8(a)(1), 29 U.S.C. § 158(a)(1).

Novara Consulting Group, “The Development Exception: Internal Mobility Platforms and the Perimeter of Employment AI Governance,” maio de 2025.

Citar isto
Grizzle, H. M. (2025, July 3). The Queue Exists for a Reason: Agentic AI and No-Code Deployment in Human Resource Operations. Novara Consulting Group. https://www.novaracg.com/2025/07/03/the-queue-exists-for-a-reason-agentic-ai-and-no-code-deployment-in-human-resource-operations/

Assine a Novara Consulting Group

Novas publicações, entregues na sua caixa de entrada.

Consult