A vanguarda está a pedir travões
Durante anos, a narrativa dominante na inteligência artificial foi a velocidade. Construir o modelo mais capaz. Lançar o agente. Vencer o concorrente. Angariar capital. Expandir o padrão de referência. Colocar o produto no mercado. A governação podia recuperar o atraso mais tarde.
Parece que esse “mais tarde” chegou.
A 9 de setembro, o diretor global de assuntos institucionais da OpenAI, Chris Lehane, publicou um apelo a uma regulação nacional de segurança de IA obrigatória e baseada em capacidades, abrangendo normas de testes, avaliações independentes, proteções de cibersegurança e comunicação de incidentes, juntamente com o apoio da empresa a quatro projetos de lei da Califórnia, incluindo um que estabelece infraestrutura para avaliações de segurança independentes e outro que define normas para auditores de IA.[^1] Três dias depois, o CEO da Anthropic, Dario Amodei, foi consideravelmente mais longe. Num ensaio que defende que a indústria deve ritmar deliberadamente o desenvolvimento de ponta, propôs incorporar avaliadores terceiros dentro dos laboratórios de vanguarda com acesso quase equivalente ao de funcionários, para que pudessem examinar de forma independente as medidas de segurança, os incidentes e o comportamento dos modelos.
Depois aconteceu algo invulgar.
Poucas horas depois, o CEO da OpenAI, Sam Altman, concordou publicamente que a vanguarda precisava de abrandar o ritmo, e disse à Fortune dias depois que a sua empresa não avançaria com uma oferta pública este ano porque ainda tinha demasiado trabalho de segurança por fazer. Elon Musk, que tinha recusado deliberadamente juntar-se a apelos anteriores da indústria à contenção, citou o ensaio com aprovação. Demis Hassabis, agora presidente da Google DeepMind e cientista-chefe da Alphabet, escreveu que o ensaio apontava para o caminho certo a seguir. Empresas presas numa das corridas tecnológicas mais consequentes da história convergiram, num único dia, na proposição de que a capacidade já não podia ultrapassar o controlo. A Axios noticiou o momento sob um título que não precisava de explicação: “Os CEOs mais poderosos da IA carregam nos travões.”
Hoje, 14 de setembro, a Microsoft acrescentou mais uma peça. O CEO da Microsoft AI, Mustafa Suleyman, divulgou um esboço de código de conduta que descreve como uma espécie de constituição para os futuros modelos da empresa. O esboço exigiria que os sistemas da Microsoft comunicassem claramente com os humanos, respeitassem os limites humanos, permanecessem controláveis, aceitassem correção e desligamento, e tratassem o comportamento que viole o código como uma falha do modelo em vez de uma expressão aceitável de juízo autónomo. A Microsoft montou-o após consultas a especialistas e abriu-o a cerca de seis semanas de comentários públicos.[^3] Suleyman chamou-lhe um tiro de aviso.
Essa sequência devia ser leitura obrigatória para todas as empresas que desenvolvem IA de língua gestual. Não porque um avatar de gestos esteja prestes a tomar conta da internet. Porque é assim que se parece a dívida de governação.
A dívida de governação é real
As empresas de tecnologia compreendem a dívida técnica. Construir depressa demais, adiar decisões de arquitetura suficientes, e eventualmente os atalhos tornam-se dispendiosos.
A dívida de governação funciona da mesma forma, e acumula-se através de decisões que, isoladamente, parecem cada uma razoável. Uma empresa lança um produto antes de definir quem é responsável quando o sistema falha. Publica uma alegação de precisão antes de estabelecer o que conta como erro. Constrói um padrão de referência antes de perguntar se esse padrão representa as pessoas que efetivamente utilizarão o produto. Valida internamente porque a avaliação independente é incómoda. Acrescenta supervisão humana sem especificar o que a pessoa deve notar, quando essa pessoa deve intervir, ou se possui a especialização para sequer reconhecer a falha. Nomeia um grupo consultivo depois de as decisões importantes do produto já terem sido tomadas. Chama acessível a um sistema porque o sistema produz sinais.
Cada uma dessas escolhas cria dívida de governação. E, ao contrário da dívida técnica, o custo não é suportado apenas pelo criador. Os utilizadores suportam-no. Os compradores suportam-no. As agências públicas suportam-no. Na tecnologia de língua gestual, as pessoas Deaf suportam-no.
O que a vanguarda está a aprender, a IA de língua gestual pode aprender agora
Há um facto extraordinário no centro do debate atual sobre IA. As empresas com algumas das maiores equipas de engenharia, orçamentos de investigação e organizações de segurança do mundo estão a pedir mais escrutínio externo. A Anthropic está a propor avaliação incorporada de terceiros. A OpenAI está a apoiar regulação federal obrigatória e avaliação independente. A Microsoft está a tentar formalizar os limites do controlo humano. Executivos rivais estão a discutir contenção coordenada em público, algo que até há pouco tempo seria impensável.
A lição não é que as empresas devem esperar até que um governo escreva uma norma perfeita. É quase o oposto. As organizações mais próximas da tecnologia estão a admitir que a confiança interna não é prova suficiente.
Isso importa para a IA de língua gestual porque o campo ainda é jovem o suficiente para escolher uma sequência diferente. A governação não tem de ser o trabalho de reparação. Pode fazer parte da arquitetura.
“Testámos” não é governação
A IA de língua gestual tem uma versão particularmente perigosa do problema da validação. Um sistema pode produzir algo reconhecivelmente semelhante a gestos e, ainda assim, falhar à pessoa que dele depende. Uma tradução pode ser fluente e errada. Um avatar pode estar visualmente polido enquanto introduz distorção linguística. Um padrão de referência pode reportar um número impressionante enquanto representa um conjunto de dados restrito, um ambiente de sinalização limitado, ou uma tarefa que pouco se assemelha à implementação real. Um estudo pode incluir validação humana enquanto se baseia numa amostra demasiado pequena para sustentar a alegação comercial eventualmente associada a ela. E uma demonstração de produto pode funcionar lindamente sem estabelecer que o sistema é adequado para cuidados de saúde, educação, emprego, comunicação de emergência ou serviços governamentais.
Estas não são simplesmente questões de aprendizagem automática. São questões de garantia. Quem o testou, e quem selecionou o teste? Que sinalizantes foram representados, e quais não foram? O que foi medido, e o que foi excluído? O que conta como erro material? Que contextos de implementação foram avaliados? Quem detém a autoridade para interromper a implementação? O que acontece quando o desempenho se degrada, e quem revê os incidentes quando isso acontece? E, para uma tecnologia construída em torno da comunicação Deaf, onde é que a autoridade Deaf efetivamente entra na decisão?
Estas perguntas tornam-se consideravelmente mais difíceis de responder depois de os contratos serem assinados, as alegações de marketing publicadas e os clientes informados de que a tecnologia está pronta.
Não espere pelo seu próprio momento de abrandamento
Há uma tentação compreensível para as empresas de IA mais pequenas de olharem para o debate de governação da vanguarda e o arquivarem como problema de outra pessoa. Tecnologia diferente, escala diferente, riscos diferentes. Tudo correto. Mas a magnitude do risco não é a comparação relevante. O momento da governação é.
A indústria de vanguarda correu em frente sob uma pressão competitiva extraordinária, e os seus líderes enfrentam agora questões sobre avaliação independente, testes obrigatórios, comunicação de incidentes, controlo humano, supervisão governamental e se a indústria pode ser confiada para julgar quando os seus próprios sistemas são suficientemente seguros. Os criadores de IA de língua gestual podem assistir a isto a desenrolar-se em tempo real, e depois decidir se o repetem.
Uma empresa que desenvolve tecnologia de língua gestual hoje já deveria conseguir responder a cinco perguntas.
- Que evidência nos levaria a não implementar o nosso próprio produto?
- Quem, fora da empresa, tem permissão para contestar as nossas alegações?
- Que autoridade detêm as pessoas Deaf para além de fornecer feedback ou dados de treino?
- Que utilizações da nossa tecnologia consideramos inadequadas, mesmo que um cliente esteja disposto a pagar por elas?
- O que acontece quando a evidência pós-implementação contradiz a evidência que usámos para vender o sistema?
Se essas respostas não existirem, a empresa não tem apenas documentação de governação inacabada. Tem dívida de governação.
A garantia independente não é um ataque à inovação
É aqui que o mercado de IA de língua gestual precisa de amadurecer rapidamente. O escrutínio independente não é hostilidade em relação à tecnologia. É um sinal de que a tecnologia é suficientemente importante para ser escrutinada.
Os fabricantes de aeronaves não estabelecem confiança convidando os compradores a admirar a aeronave. Os fabricantes de dispositivos médicos não estabelecem segurança publicando testemunhos. As auditorias financeiras não permitem que o entusiasmo da gestão substitua a evidência. À medida que a IA avança para a acessibilidade, aplica-se a mesma distinção. Um criador cria o sistema. A governação estabelece as regras à sua volta. A avaliação testa a evidência. A garantia pergunta se essa evidência é suficiente para sustentar a alegação que está a ser feita. São quatro funções diferentes, e quando uma única empresa controla as quatro, os compradores devem fazer perguntas.
A indústria de vanguarda está a começar a reconhecer exatamente esse problema. A proposta da Anthropic de avaliadores externos incorporados é significativa precisamente porque aproxima o escrutínio independente do processo de desenvolvimento, em vez de tratar a avaliação como um marco cerimonial imediatamente antes do lançamento.
A IA de língua gestual deveria ir ainda mais longe. A avaliação técnica independente é necessária, mas a legitimidade linguística, o contexto de implementação, o impacto na acessibilidade e a governação Deaf não podem ser reduzidos a testes de engenharia. Um modelo pode funcionar exatamente como foi concebido e, ainda assim, ser inadequado para a tarefa para a qual foi vendido.
Ainda há uma oportunidade de se antecipar a isto
É esta a parte que as empresas de IA de língua gestual não devem perder. Estão a receber um aviso invulgarmente valioso, e não têm de viver primeiro a crise de governação.
The work is specific. Document limitations before marketing writes around them. Separate demonstration performance from deployment evidence. Use independent evaluators before a customer demands them. Create incident procedures before the first serious incident. Establish the contexts in which the product will not be sold. Give Deaf experts actual decision authority rather than consultative presence. Make validation claims specific enough that another party can examine and challenge them. Preserve evidence so a purchaser can later determine why a deployment decision was justified at the time it was made.
That is what becoming assurable looks like. It is also considerably cheaper than rebuilding trust later.
The warning
The most powerful AI companies in the world are discovering that governance cannot permanently remain behind capability. Some of their leaders are now asking for brakes. Others are asking for laws. Others are drafting constitutions, external evaluation structures and new control mechanisms. They command resources that most accessibility technology companies will never possess, and even they are finding out how difficult governance becomes once the technology is already moving at full speed.
Sign language AI companies should study that carefully. Do not wait until a failed deployment, a procurement challenge, a regulator, a lawsuit or the Deaf community forces the governance conversation. Do not build the evidence after making the claim. Do not invite independent scrutiny only after trust has been lost. And do not confuse being first to market with being ready for the responsibility that comes with entering someone else’s language, communication and access.
Frontier AI is now trying to find its brakes. Sign language AI still has the opportunity to install them before accelerating.
Novara Consulting Group provides AI assurance, accessibility governance and independent evaluation.
FOOTNOTES:
Chris Lehane, “The AI policy window is open. We need to act.,” OpenAI, September 9, 2026; Reuters, “OpenAI pushes for mandatory national AI safety requirements,” September 9, 2026.
Axios, “AI’s most powerful CEOs hit the brakes,” September 13, 2026.
Jeffrey Dastin, “Microsoft drafts code of conduct to keep its AI under human control,” Reuters, September 14, 2026.