O Objeto de Garantia

O que o novo mercado de garantia de IA mede, e o que ainda deixa a cargo do comprador

Heather M. Grizzle Novara Consulting Group Setembro de 2026

A garantia de inteligência artificial está a tornar-se uma indústria. Esta frase teria sido especulativa há dois anos e é agora simplesmente descritiva. O Departamento de Ciência, Inovação e Tecnologia do Reino Unido contabilizou mais de quinhentas empresas e aproximadamente mil milhões de libras de valor acrescentado bruto no mercado interno de garantia em 2024, projetou um mercado próximo de dezanove mil milhões de libras até 2035, e, em setembro de 2025, publicou um Roteiro de Garantia de IA por Terceiros de Confiança que estabelece a forma como o Estado pretende ajudar esse mercado a amadurecer. Em junho de 2026, o roteiro produziu uma instituição: um consórcio presidido pela BCS, com a techUK a convocar o seu grupo consultivo da indústria, com um mandato de primeiro ano para redigir um código de ética voluntário para profissionais de garantia, construir um quadro de competências e qualificações, e mapear que informação os programadores devem divulgar às pessoas que os auditam. Paralelamente, a via de certificação tem vindo a consolidar-se. A ISO/IEC 42001 fornece uma norma de sistema de gestão para inteligência artificial, a ISO/IEC 42006:2025 estabelece os requisitos para os organismos que auditam em conformidade com ela, e organismos nacionais de acreditação, incluindo o UKAS no Reino Unido e o ANAB nos Estados Unidos, têm vindo a conceder acreditação a organismos de certificação ao longo de 2025 e 2026.

É assim que se parece o início de uma profissão. Tem normas, acreditação, um quadro de competências nascente, um código de ética emergente, e uma reivindicação defensável à confiança pública. As instituições que têm estado à espera de uma resposta reconhecida à questão de como determinar se um sistema de inteligência artificial é fiável têm agora algo a que apontar.

Deveriam observar atentamente para onde aponta.

O sistema de gestão não é o sistema

A ISO/IEC 42001 é estruturalmente paralela à ISO/IEC 27001. É uma norma de sistema de gestão, o que significa que certifica que uma organização estabeleceu, documentou e manteve um conjunto de processos para governar a inteligência artificial, e que esses processos estão sujeitos a auditoria interna e melhoria contínua. Não certifica que qualquer sistema específico construído dentro desse sistema de gestão produza um resultado adequado. Isto não é uma falha da norma. É o que é uma norma de sistema de gestão. A confusão surge a jusante, nas aquisições, onde um certificado é lido como uma declaração sobre o produto em vez de uma declaração sobre o produtor.

A distinção importa mais onde o resultado é todo o propósito da compra. Um fornecedor que venda tradução automática de língua gestual pode possuir um certificado devidamente acreditado que ateste um sistema de gestão de inteligência artificial bem gerido, enquanto entrega um resultado que um utilizador Surdo fluente não consegue acompanhar. Nada no certificado é falso. Nada nele responde à questão que a instituição compradora realmente precisa de ver respondida, que é se a pessoa junto ao balcão, ou na sala de exame, ou perante o painel disciplinar, recebe informação que consegue compreender.

A escala confirma o ponto em vez de o contradizer. As compilações da indústria situam a certificação mundial segundo a ISO/IEC 42001 em cerca de trezentas e cinquenta organizações em meados de 2026. Para comparação, a ISO 9001 é detida por mais de um milhão. A norma é jovem e a adoção está numa fase inicial, o que não é motivo de espanto. O que é notável é o peso interpretativo que um número reduzido de certificados já está a ser chamado a carregar nas conversas de aquisição, e com que pouca frequência um comprador pergunta do que é certificado o certificado.

O adiamento moveu o prazo, não a dificuldade

O calendário da União Europeia mudou agora de uma forma que moldará o comportamento institucional nos próximos dezoito meses. O Omnibus Digital sobre inteligência artificial foi adotado como Regulamento (UE) 2026/1744, publicado a 24 de julho de 2026 e em vigor a partir de 27 de julho. Adia as obrigações de alto risco da Lei da IA para sistemas autónomos do Anexo III para 2 de dezembro de 2027, e para inteligência artificial incorporada em produtos regulados ao abrigo do Anexo I para 2 de agosto de 2028. As obrigações de transparência previstas no Artigo 50 não foram adiadas e aplicaram-se a partir de 2 de agosto de 2026, com um curto período de carência até 2 de dezembro de 2026 para sistemas generativos já no mercado antes da data anterior.

A razão do adiamento é a parte substantiva. O calendário original pressupunha um ecossistema funcional de normas técnicas harmonizadas do CEN-CENELEC, autoridades nacionais de fiscalização do mercado designadas e dotadas de recursos, e organismos notificados capazes de realizar avaliação de conformidade. No final de 2025, esse ecossistema visivelmente não existia. Os legisladores optaram por novas datas fixas em vez de um mecanismo condicional associado à disponibilidade de normas, com base no raciocínio de que a previsibilidade serve melhor a conformidade do que um gatilho flutuante.

Lido com clareza, isto é uma admissão de que a maquinaria para produzir provas sobre sistemas de alto risco ainda não está construída. O relógio regulatório moveu-se porque a infraestrutura probatória estava atrasada. Isso é uma situação muito diferente de uma em que a prova existe e o prazo era meramente inconveniente.

As aquisições, contudo, não se adiam. As instituições compram de acordo com ciclos orçamentais, prazos de subvenções, o calendário definido por uma lacuna de serviço que alguém precisa de colmatar neste ano fiscal. Entre agora e dezembro de 2027, um organismo público que adquira um sistema de inteligência artificial de acessibilidade receberá três coisas: um certificado de sistema de gestão, se o fornecedor o tiver, uma autodeclaração de conformidade, e um relatório de conformidade de acessibilidade. A primeira fala sobre o produtor. A segunda fala por si mesma, o que é o problema. A terceira, na forma como o mercado a normalizou, é um documento redigido pelo fornecedor que mapeia um produto face a uma lista de critérios técnicos que não foram escritos tendo em vista a língua gestual gerada. Nenhum dos três constitui prova de que o resultado funciona.

O que o mercado horizontal não consegue ver

O próprio diagnóstico do roteiro é instrutivo aqui. Ele identifica quatro restrições a um mercado confiável de garantia por terceiros: a qualidade da própria atividade de garantia, incluindo a observação de que uma parcela substancial das ferramentas de governança de inteligência artificial disponíveis se baseia em métricas que podem ser ativamente enganosas; uma escassez de profissionais que combinem competência técnica, jurídica, ética e específica do setor; acesso deficiente, por parte dos provedores de garantia, aos dados de treinamento, detalhes do modelo e documentação interna de que precisam; e incentivos fracos para o desenvolvimento colaborativo de novos métodos de garantia.

Três dessas quatro restrições atingem com mais força o nível do domínio. Uma estrutura de garantia horizontal pode dizer a uma instituição se um fornecedor mantém um registro de riscos. Ela não pode dizer à instituição se o sistema reproduz os traços gramaticais não manuais que veiculam negação, formação de perguntas, topicalização e marcação condicional em uma língua de sinais, porque a garantia horizontal não dispõe de vocabulário para essa questão nem de um avaliador competente designado para ela. Ela não pode avaliar se um corpus de treinamento foi reunido com o consentimento dos sinalizantes nele presentes, sob uma licença que permita a implantação comercial, a partir de sinalizantes cuja fluência foi verificada. Ela não pode distinguir uma demonstração selecionada de uma implantação real. Ela não pode dizer se a métrica automatizada que um fornecedor cita como prova da qualidade da sinalização mede algo relevante e, para a língua de sinais gerada, atualmente não existe nenhuma métrica automatizada de qualidade validada, o que torna as pontuações próximas de tradução oferecidas como evidência de compreensibilidade um erro de categoria, e não apenas uma evidência fraca.

A estrutura de competências agora em construção pode eventualmente alcançar parte disso. Ainda não alcançou, e o próprio cronograma do roteiro deixa a certificação de profissionais sem data definida. Nesse meio tempo, a lacuna situa-se exatamente onde a consequência é mais alta. Os sistemas que estão sendo implantados em admissão de saúde, notificação de emergência, anúncios de transporte e processos de emprego são os que têm falhas menos reversíveis, e são justamente aqueles que o mercado geral de garantia está menos equipado para examinar.

A posição que a Novara Consulting Group assume

A garantia exige um objeto. A questão não é se um fornecedor é bem governado em abstrato, mas se um sistema especificado, em uma versão especificada, produz um resultado adequado a um uso especificado, julgado pelas pessoas que precisam confiar nele. Tudo o mais é um substituto, e os substitutos se acumulam silenciosamente até que uma instituição acredite ter comprado evidências quando, na verdade, comprou papelada.

Os substitutos se acumulam silenciosamente até que uma instituição acredite ter comprado evidências quando, na verdade, comprou papelada.

Heather M. Grizzle

O Sign Language Access Trust Index é construído sobre essa premissa. Trata-se de um instrumento de avaliação baseado em critérios, organizado em torno de cinco domínios de confiança e quarenta indicadores pontuados, aplicando escalas separadas para a adequação das evidências e para a confiança no sistema, de modo que um sistema fraco bem documentado e um sistema desconhecido mal documentado não se fundam na mesma classificação. Sua classificação de risco de implantação está vinculada às implantações, e não aos sistemas, partindo do raciocínio de que o mesmo mecanismo de tradução carrega um risco totalmente diferente em uma legenda de museu e em uma instrução de alta hospitalar. O Padrão de Avaliação é publicado e citável, depositado com um identificador de objeto digital sob uma licença Creative Commons de atribuição, de modo que um comprador, um fornecedor ou um crítico possa ler o método e discutir com ele.

Três compromissos distinguem o instrumento de um exercício de conformidade. As conclusões não são emitidas sem a concordância de um revisor Deaf, partindo do princípio de que a comunidade que suporta as consequências de um sistema inadequado detém a competência para julgar a adequação, e que uma consulta oferecida após uma decisão de design não constitui governação. A empresa não detém qualquer interesse financeiro em nenhum fornecedor de inteligência artificial de língua gestual, não aceita qualquer pagamento contingente, de referência ou em capital por parte de uma entidade avaliada, e não varia os seus honorários em função de uma conclusão desfavorável, o que aborda diretamente o problema de conflito de interesses que tem afetado os mercados de garantia em todos os setores anteriores que criaram um. E o método declara os seus próprios limites: uma revisão de evidência pública relata o que foi encontrado e o que não foi, regista os locais de pesquisa verificados independentemente de aí ter sido encontrado material, e identifica os indicadores que dificilmente estarão disponíveis publicamente, de modo a que o leitor possa distinguir uma falha do fornecedor de uma limitação do método.

Dois aspetos sobre a posição atual devem ser afirmados e não apenas sugeridos. A Novara Consulting Group não é um organismo de certificação acreditado, e o Index não é um esquema de certificação; não existe atualmente nenhum esquema de acreditação para a avaliação específica de domínio de inteligência artificial de língua gestual, e seria uma deturpação sugerir o contrário. O que o Index produz é uma posição de evidência documentada e reprodutível, na qual uma instituição adquirente pode confiar, defender num registo de concurso e entregar a advogados. Em segundo lugar, a aplicação do instrumento aos fornecedores avaliados até à data produziu uma conclusão consistente: nenhum alcançou o nível mais elevado de confiança, e o motivo é uniforme, não incidental. A validação independente do resultado, realizada por partes sem interesse comercial no resultado, está ausente em todo o mercado. Trata-se de uma conclusão sobre o setor, não sobre qualquer empresa em particular.

O que um comprador deve exigir entre agora e dezembro de 2027

O adiamento criou uma janela, e as janelas são usadas bem ou mal. Usada mal, torna-se dezoito meses de aquisições baseadas em afirmações de fornecedores não examinadas, com um ajuste de contas de conformidade a chegar depois de os sistemas já estarem a suportar carga. Usada bem, é o período em que as instituições constroem os hábitos probatórios que as obrigações posteriores assumirão que já possuem.

O requisito prático é suficientemente restrito para ser escrito num concurso. Pergunte o que o certificado certifica, e exija que o fornecedor declare por escrito se este abrange o sistema de gestão ou o desempenho do sistema que está a ser vendido. Exija evidência gerada no contexto proposto, e não num ambiente de demonstração, com as condições de funcionamento identificadas. Exija a proveniência do corpus de treino, a licença ao abrigo da qual é detido, e a base na qual as pessoas nele registadas consentiram nessa utilização. Exija evidência de compreensão proveniente de utilizadores fluentes da língua em questão, reportada com o respetivo método, e trate uma pontuação de qualidade automatizada oferecida em sua substituição como uma pergunta sem resposta, não como uma resposta. Exija que o fornecedor nomeie o cargo responsável por uma falha de resultado. Nos casos em que a implementação acarrete peso legal ou consequência irreversível, exija que um ser humano qualificado permaneça no processo, porque, com base na evidência atual, nenhum sistema nesta categoria está pronto para ser a última linha de defesa.

Nada disto depende de uma norma harmonizada, de um organismo notificado, ou de um esquema de certificação profissional que ainda não existe. Depende apenas de a instituição decidir que a garantia deve incidir sobre aquilo que está a comprar.

Referências

Department for Science, Innovation and Technology, Trusted Third-Party AI Assurance Roadmap (setembro de 2025).

BCS e techUK, materiais de lançamento do AI Assurance Consortium (junho de 2026).

Regulamento (UE) 2026/1744 (Digital Omnibus sobre Inteligência Artificial), publicado a 24 de julho de 2026, em vigor a 27 de julho de 2026, que altera o Regulamento (UE) 2024/1689.

ISO/IEC 42001:2023, Tecnologia da informação, Inteligência artificial, Sistema de gestão.

ISO/IEC 42006:2025, Requisitos para organismos que prestam serviços de auditoria e certificação de sistemas de gestão de inteligência artificial.

Grizzle, H. M., SLAT Index Evaluation Standard, versão 2.0, Novara Press, 24 de julho de 2026. DOI 10.5281/zenodo.21537271.