Resumo Executivo
A inteligência artificial para língua de sinais, seja construída para reconhecimento, tradução ou geração baseada em avatar, depende estruturalmente da captura de vídeo ou biométrica de usuários Deaf e com deficiência auditiva. Essa dependência cria um problema de governança de dados que recebeu um escrutínio institucional muito menor do que as falhas linguísticas e de compreensão documentadas em edições anteriores desta série. Em todo o panorama de fornecedores que a NCG revisou sob a estrutura SLAT (Sign Language Access Trust), a divulgação do que é coletado, por quanto tempo é retido, se é usado para treinar modelos futuros e se é compartilhado com terceiros é inconsistente na melhor das hipóteses e ausente na pior. Esta não é uma alegação de que algum fornecedor específico tenha agido de má-fé. As evidências públicas ainda não sustentam a atribuição de intenção a nenhuma empresa nomeada, e esta edição não faz essa atribuição. Trata-se de uma alegação de que o mercado ainda não desenvolveu um padrão de divulgação adequado à sensibilidade dos dados envolvidos, e que essa lacuna é uma falha de governança independente da conduta de qualquer fornecedor individual. A posição política abaixo argumenta que a adequação do consentimento e da divulgação deve ser tratada como critério eliminatório na aquisição, e não como consideração secundária abordada após a avaliação funcional.
Problema de Política
A captura de língua de sinais é captura biométrica. O vídeo das mãos de um sinalizante, da gramática facial e da posição corporal não é um dado incidental, comparável a uma frase digitada submetida a um sistema baseado em texto. É exclusivamente identificador, codifica informações sobre a condição de deficiência por definição, e em muitas jurisdições atende à definição estatutária de dados biométricos ou de categoria especial sujeitos a proteção reforçada. A Lei de Privacidade de Informações Biométricas de Illinois (BIPA), por exemplo, exige aviso e consentimento por escrito antes da coleta de identificadores biométricos, e impõe responsabilidade independentemente de prova de dano real. O Regulamento Geral de Proteção de Dados (GDPR) da União Europeia classifica dados que revelam informações adjacentes à deficiência, e certos dados biométricos usados para identificação, como dados de categoria especial nos termos do Artigo 9, exigindo uma base legal explícita além do consentimento comum. A CCPA (Lei de Privacidade do Consumidor da Califórnia) e a CPRA (Lei de Direitos de Privacidade da Califórnia) impõem suas próprias obrigações de divulgação e opção de exclusão para informações biométricas.
Apesar desse cenário regulatório, os produtos de IA para língua de sinais voltados ao consumidor frequentemente dependem de termos de serviço genéricos que não foram redigidos pensando em usuários Deaf ou na captura biométrica. Três deficiências recorrentes são visíveis nas análises de fornecedores que a NCG realizou: primeiro, a ausência de divulgação separada ou destacada de que a entrada de vídeo constitui dado biométrico sujeito a proteções estatutárias específicas; segundo, a ausência de declaração clara sobre se o vídeo capturado ou os recursos dele derivados são retidos para treinamento de modelos e, em caso afirmativo, por quanto tempo e sob quais direitos de exclusão; terceiro, a ausência de divulgação em formato acessível, o que significa que a própria linguagem de consentimento frequentemente não é traduzida para ASL nem apresentada em formato utilizável pela população cujos dados estão sendo coletados. Este último ponto não é um detalhe técnico. Um regime de divulgação que exige alfabetização em uma segunda língua escrita para compreender o que está sendo feito com os próprios dados biométricos não funciona como consentimento informado para uma população cuja proficiência em inglês escrito varia amplamente e para a qual a ASL é a língua principal de compreensão.
A captura de língua de sinais é captura biométrica.
Análise Institucional
As dinâmicas institucionais que produzem essa lacuna são estruturais, não conspiratórias. A IA para língua de sinais é uma categoria de produto jovem, e a maioria dos fornecedores são pequenas empresas que operam sob os mesmos modelos genéricos de política de privacidade usados em toda a indústria de software, adaptados minimamente, quando adaptados. Os processos de aquisição em nível institucional, por sua vez, historicamente avaliaram esses produtos com base em critérios funcionais: o avatar renderiza de forma inteligível, o sistema de reconhecimento atinge precisão aceitável, o fornecedor tem funcionários Deaf envolvidos no desenvolvimento. A governança de dados tem sido tratada como uma questão jurídica ou de conformidade de TI abordada depois da decisão substantiva de aquisição, quando abordada. Essa sequência é a verdadeira falha de governança. No momento em que uma deficiência de governança de dados vem à tona, seja por meio de uma violação, de uma investigação regulatória ou de críticas públicas da comunidade Deaf cujos dados estavam envolvidos, o relacionamento institucional e o compromisso financeiro já estão estabelecidos, e o poder de exigir correção é correspondentemente mais fraco.
Há também uma questão de proveniência dos dados de treinamento que se situa ao lado do problema de consentimento, mas é analiticamente distinta dele. Vários sistemas de IA para língua de sinais foram construídos, em parte, a partir de corpora de vídeo extraídos de conteúdo publicado publicamente, incluindo conteúdo criado por usuários e educadores Deaf de ASL em plataformas sociais. Se esse uso se enquadra no escopo dos próprios termos de serviço da plataforma, se constitui uso justo (fair use) sob a lei de direitos autorais, e se os indivíduos cuja sinalização aparece nesse material foram informados de maneira significativa de que seu conteúdo seria usado para treinar um sistema comercial de IA, são questões em aberto que a NCG não verificou de forma independente para nenhum fornecedor específico e que não afirma como fato estabelecido aqui. O ponto, para fins de governança, é que os responsáveis pela aquisição que avaliam esses sistemas têm quase nenhuma visibilidade sobre a proveniência dos dados de treinamento, e as normas atuais de divulgação do setor não exigem que os fornecedores a forneçam.
Implicações para a Governação
Uma instituição que adquire IA para língua de sinais não é apenas compradora de uma ferramenta de tradução. Quando o sistema opera sobre vídeo ao vivo de estudantes, pacientes, funcionários ou membros do público, a instituição também é controladora ou operadora de dados segundo a maioria das estruturas de privacidade aplicáveis, e herda a exposição de governança decorrente das práticas de dados de seu fornecedor, independentemente de essa exposição ter sido divulgada no momento da compra. Uma instituição que não verificou as práticas de coleta, retenção e uso para treinamento de dados de um fornecedor antes da implantação não pode afirmar, perante seus próprios stakeholders, reguladores ou os indivíduos Deaf cujos dados estão sendo capturados, que cumpriu suas próprias obrigações de proteção de dados. Isso é verdade independentemente da conduta real do fornecedor, porque a ausência de divulgação verificada é, em si, o defeito de governança, independentemente de o fornecedor em questão acabar lidando com os dados de forma responsável.
Posição Política da NCG
A posição da NCG é que a adequação da governança de dados e da divulgação de privacidade deve funcionar como critério eliminatório na aquisição de IA para língua de sinais, avaliado antes do desempenho funcional, e não depois dele. A incapacidade de um fornecedor de produzir uma divulgação clara, acessível em ASL e apropriada à jurisdição sobre quais dados biométricos são coletados, por quanto tempo são retidos, se e como são usados no treinamento de modelos, e quais direitos de exclusão existem, deve ser tratada como desqualificante para a implantação institucional, independentemente do desempenho linguístico ou técnico em outras partes da avaliação. Essa posição já está operacionalizada nos domínios de Governança de Dados e Privacidade e de Transparência e Divulgação do framework SLAT, e esta edição argumenta que esses domínios merecem ponderação elevada em relação à calibração atual do framework, dada a exposição estatutária que as instituições enfrentam e a barreira de compreensão que a linguagem de consentimento não acessível cria para a população afetada.
Considerações de Implementação
Os responsáveis pela aquisição que avaliam IA para língua de sinais devem exigir, como condição para a resposta do fornecedor, uma divulgação escrita de governança de dados que cubra os quatro elementos acima, solicitar que essa divulgação esteja disponível em formato de vídeo em ASL além do inglês escrito, e tratar a recusa ou incapacidade do fornecedor de produzir essa divulgação como uma constatação adversa, independentemente do desempenho funcional do sistema. As instituições com implantações existentes devem realizar uma revisão retrospectiva em vez de esperar pela renovação do contrato, dado que a exposição de governança se acumula a partir da data de implantação, e não da data de descoberta. Quando a proveniência dos dados de treinamento de um fornecedor não puder ser verificada, as instituições devem solicitar garantias contratuais quanto à obtenção lícita de dados, em vez de tratar a ausência de resposta como uma incógnita neutra.
Referências
- Biometric Information Privacy Act, 740 ILCS 14 (Illinois).
- California Consumer Privacy Act of 2018, conforme alterada pela California Privacy Rights Act, Cal. Civ. Code § 1798.100 e seguintes.
- Regulamento (UE) 2016/679 (Regulamento Geral sobre a Proteção de Dados), Art. 9.
- Federal Trade Commission Act, 15 U.S.C. § 45 (atos ou práticas desleais ou enganosas).
- Novara Consulting Group, Sign Language Access Trust (SLAT) Framework, 2026.