Um modelo de prontidão que chega tarde demais
A maioria dos modelos organizacionais de prontidão para IA partilha uma característica estrutural que os compromete. Sequenciam a capacidade antes do controlo. Os alicerces de dados são estabelecidos primeiro, as aplicações são implementadas em segundo lugar, e uma camada de ética ou de confiança é introduzida em terceiro lugar, normalmente descrita em termos de diretrizes, princípios e compromissos com a justiça e a transparência. A sequência é intuitiva, porque espelha a forma como o trabalho é efetivamente financiado, e é a sequência que a maioria dos modelos de prontidão em circulação recomenda.
É também a sequência que produz as falhas agora visíveis na IA aplicada ao emprego. Quando uma camada de ética é concebida, os sistemas que ela deveria governar já estão em produção, a contratação pública já foi encerrada, os termos contratuais já estão fixados, a seleção de fornecedores já está consumada, e as opções práticas da organização reduziram-se à documentação e à divulgação. A governação introduzida no terceiro passo não é governação. É a justificação retrospetiva de decisões tomadas no segundo passo.
A governação introduzida no terceiro passo não é governação.
A correção não consiste em acrescentar uma fase de ética mais cedo. Consiste em reconhecer que as diretrizes éticas não são o instrumento que a situação exige, e que tratá-las como tal é, em si mesmo, o erro.
Porque os princípios não são controlos
A distinção entre um princípio e um instrumento não é semântica, e já foi examinada com suficiente profundidade na literatura sobre governação para que as organizações não precisem de a redescobrir.
A análise de Salamon sobre os instrumentos de governo estabelece que os objetivos de política são concretizados através de instrumentos com propriedades identificáveis: que atividade autorizam, quem os administra, que conformidade exigem e o que tornam observável. Um compromisso declarado não faz nada disto. Expressa uma intenção sem especificar um agente, um gatilho, um resultado probatório ou uma consequência pelo incumprimento. Aplicado à inteligência artificial, o padrão já foi documentado diretamente. O levantamento de Jobin, Ienca e Vayena sobre o panorama global das diretrizes de ética em IA constatou uma convergência substancial em torno de princípios de alto nível, a par de uma divergência acentuada na forma como esses princípios eram interpretados e no que se entendia que exigiam. A avaliação de Mittelstadt chegou à conclusão mais contundente de que os princípios por si só não conseguem garantir uma inteligência artificial ética, na ausência das estruturas profissionais, dos mecanismos de responsabilização e das vias de aplicação que tornam os princípios operativos noutros domínios.
Uma organização que responde ao risco da IA no emprego desenvolvendo diretrizes éticas claras adotou, portanto, a intervenção com o historial probatório mais fraco. Não porque a justiça e a transparência sejam objetivos indignos. Mas porque uma diretriz não produz nenhum artefacto, e toda a obrigação que a organização efetivamente enfrenta é cumprida através de artefactos.
Considere-se o compromisso com a transparência sobre o funcionamento dos algoritmos, que surge em quase todos os modelos de prontidão. Não é realizável nos termos em que é enunciado. Os fornecedores não divulgarão a arquitetura dos modelos, a maioria dos sistemas desta categoria não é interpretável no sentido implícito no compromisso, e uma organização que prometeu transparência algorítmica prometeu algo que não pode cumprir e sobre o qual será questionada. O compromisso realizável e mais útil é de natureza diferente: evidência documentada de resultados across classes protegidas, produzida numa periodicidade declarada, por uma parte que a organização pode identificar. Isso é um instrumento. Especifica quem faz o quê, quando, e que registo resulta daí.
A sequência de prontidão, invertida
Um modelo de prontidão construído sobre instrumentos em vez de princípios ordena o trabalho de forma diferente, e a reordenação é o contributo substantivo, e não uma mudança apresentacional.
A determinação da cobertura vem primeiro. Antes de qualquer sistema ser avaliado quanto à capacidade, a organização deve conseguir responder se os resultados do sistema são usados para tomar, orientar ou influenciar materialmente decisões sobre contratação, promoção, remuneração, atribuição de funções, disciplina ou continuidade do vínculo laboral. É essa formulação, e não a categoria de produto sob a qual um sistema é comercializado, que determina que obrigações se aplicam em todos os regimes que atualmente regulam a IA no emprego. A determinação da cobertura é um instrumento porque produz um registo, atribui um responsável e desencadeia um fluxo de trabalho definido. É também barata, e é o único passo que se torna mais caro quanto mais for adiado.
A governação de dados segue-se, reformulada. Os modelos de prontidão descrevem o objetivo dos dados como uma fonte única de verdade, o que é um objetivo de qualidade dos dados. O objetivo da governação é diferente e mais restrito: a organização deve conseguir estabelecer de que dados uma determinada inferência foi retirada, quando, e com que proveniência. Dados limpos e integrados sustentam melhores previsões. A proveniência documentada dos dados sustenta a capacidade de responder a um regulador ou a um litigante sobre por que razão uma pessoa recebeu o resultado que recebeu. Apenas a segunda é uma capacidade de governação, e uma organização pode possuir a primeira sem ter a segunda.
Os requisitos probatórios entram na fase de contratação, não depois. É nesse momento que a organização retém poder negocial. Documentação de auditoria de enviesamento que identifique a metodologia, as classes testadas e a população. Confirmação de que nenhuma característica derivada de geografia, educação ou antiguidade funciona como proxy. Especificação do fluxo de notificação e de ação adversa e de qual parte o executa. Termos de retenção e exportação suficientes para sobreviver à migração de plataforma ao longo do período de prescrição aplicável. Cada um destes elementos é negociável antes da adjudicação e deixa de o ser depois, o que constitui todo o argumento para esta sequenciação.
A implementação acarreta monitorização, não afirmação. O compromisso que importa após a implementação é o teste de resultados a intervalos declarados, porque, sob um padrão de impacto desproporcionado, a crença da organização de que a sua ferramenta é justa não responde à questão de saber se os resultados diferem. Só a medição responde.
A camada de registo fecha o ciclo. Atestação vinculada a indivíduo, versão, data e via autenticada. Retenção concebida desde a criação. A capacidade da organização de demonstrar o que fez é o resultado de toda a sequência, e é o único resultado que uma parte adversa alguma vez verá.
O modelo é um ciclo e não uma escada, porque a primeira fase se repete. Os sistemas entram nas organizações continuamente, frequentemente através de funções que não os classificam como tecnologia de decisão de emprego, e a determinação da cobertura é, portanto, uma condição monitorizada, e não um projeto concluído.
A inteligência de talento como caso ilustrativo
Os modelos de prontidão em circulação colocam tipicamente a inteligência de talento proativa, que mapeia competências existentes face a requisitos futuros e gera percursos de carreira orientados por dados, na segunda fase, antes da camada de governação. Essa colocação é instrutiva, porque essa capacidade específica está entre as mais fortemente regulamentadas de toda a categoria de IA no emprego, e quase nunca é reconhecida como tal.
Um sistema que mapeia a capacidade dos colaboradores e gera recomendações de percurso de carreira está a produzir avaliações que influenciam materialmente a promoção e a atribuição de funções. A Local Law 144 da cidade de Nova Iorque abrange decisões de promoção. A alteração do Illinois ao Human Rights Act, em vigor a partir de janeiro de 2026, abrange promoção, disciplina e despedimento, e impõe obrigações de notificação associadas ao uso, e não ao resultado. O Anexo III do Regulamento de Inteligência Artificial da UE enumera promoção, atribuição de tarefas e avaliação de desempenho por função, e não por categoria de produto. Uma organização que implementa inteligência de talento na segunda fase e só chega ao seu quadro de confiança na terceira fase implementou um sistema regulamentado e só depois escreveu os seus princípios sobre ele.
Este é o custo prático da sequência convencional, e não é hipotético. É o caminho habitual pelo qual as organizações adquirem obrigações que não avaliaram.
O que isto muda na questão da consultoria
A pergunta que as organizações fazem é que ferramentas de IA devem adotar. A pergunta que determina a sua exposição é quais dos sistemas que já adotaram são sistemas de decisão com consequências, e que evidência possuem sobre cada um.
São perguntas diferentes, e a segunda tem resposta imediata, sem necessidade de uma decisão tecnológica, a baixo custo, e com um artefacto duradouro como resultado. É também a pergunta que torna as decisões tecnológicas subsequentes defensáveis, em vez de meramente entusiastas. Uma organização que consegue indicar, para cada sistema que toca uma decisão de emprego, o que ele faz, que obrigações se aplicam, que evidência existe e quem é responsável pela próxima revisão, construiu algo. Uma organização com um conjunto de princípios éticos de IA escreveu algo.
Integrar inteligência artificial nas operações de recursos humanos não é um projeto tecnológico. Nisso, os modelos convencionais têm razão. É um projeto de governação, e a governação é constituída por instrumentos, não por compromissos.
Referências
- Salamon, L. M., ed. The Tools of Government: A Guide to the New Governance. Oxford University Press, 2002.
- Jobin, A., Ienca, M., e Vayena, E. “The global landscape of AI ethics guidelines.” Nature Machine Intelligence 1 (2019): 389–399.
- Mittelstadt, B. “Principles alone cannot guarantee ethical AI.” Nature Machine Intelligence 1 (2019): 501–507.
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), janeiro de 2023.
- ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system.
- New York City Administrative Code § 20-870 e seguintes (Local Law 144 de 2021).
- Projeto de Lei da Câmara do Illinois 3773, 103ª Assembleia Geral (2024), que emenda a Lei de Direitos Humanos do Illinois, em vigor a partir de 1º de janeiro de 2026.
- Regulamento (UE) 2024/1689, Anexo III(4).
- Novara Consulting Group, “The Development Exception: Internal Mobility Platforms and the Perimeter of Employment AI Governance,” maio de 2025.