The Record Belongs to the Signer: A Reply to Jeff Panasuik

Em resumo

“The Second Language Condition” de Jeff Panasuik ^[7] argumenta que o SL2T do Google DeepMind removeu o gloss, mas manteve a lógica organizadora que o gloss costumava expor: um alvo de saída em inglês escrito que decide o que conta como sucesso e o que se torna o registro oficial. Ele lê o meu “The Coordinates of Trust” ^[5] como preciso dentro de um quadro de governança, mas limitado por ele, e encerra perguntando ao SLAT Index qual salvaguarda dá a uma instituição algo que ela não pode reinterpretar, negociar para abandonar ou ignorar silenciosamente.

Aceito a sua correção metodológica sem ressalvas, e aceito que a direção é uma propriedade da arquitetura, e não apenas da implantação. Onde discordo dele é na afirmação de que governança e arquitetura estão em eixos separados. Toda condição que ele nomeia como capaz de mudar a sua leitura é uma condição de governança, e o problema arquitetônico que ele identifica pode ser respondido através de uma delas: a fonte sinalizada, não a saída em inglês, deve ser o registro do que uma pessoa Deaf disse, e o direito a um intérprete humano qualificado deve pertencer à pessoa Deaf, e não à instituição que compra o sistema.

O que Jeff acerta

O ponto metodológico procede, e quero reconhecê-lo claramente em vez de contorná-lo. “The Coordinates of Trust” analisou uma tecnologia de acesso Deaf usando dois documentos produzidos por meio de um processo convocado, facilitado e financiado pela desenvolvedora ^[4][1]. Não documentou nenhuma etapa de verificação Deaf, não apresentou nenhuma avaliação independente da saída do modelo lançado, e não citou nenhuma fonte em língua de sinais. Jeff tem o cuidado de dizer que não está afirmando que essas etapas nunca aconteceram, apenas que a minha análise publicada não estabelece que tenham acontecido. Essa é a mesma distinção entre ausência e não documentação que o meu artigo exigiu da DeepMind, e ela vincula o meu trabalho exatamente como vincula o deles. A minha conclusão foi que a avaliação voltada à comunidade mais robusta associada a uma versão pré-lançamento identificou uma lacuna no registro da desenvolvedora; Jeff tem razão ao dizer que o meu artigo nomeou a lacuna sem fechá-la.

Ele também tem razão sobre o lugar que o gloss ocupava na história. Remover o gloss foi a decisão arquitetônica mais forte do lançamento, e uma crítica incapaz de reconhecer isso não está de fato engajando com o sistema. A sua leitura dos modos de falha divulgados como um padrão, e não como uma lista, é a coisa mais útil do seu artigo. Gramática não manual, profundidade e contato, referentes ambientais, a língua, e o discurso ao longo de turnos não são cinco lacunas técnicas isoladas. São as partes de uma língua de sinais para as quais um alvo escrito linear não tem onde colocar, e as mãos, que um alvo escrito consegue receber, são o que o sistema captura melhor.

Onde os quadros se encontram

Jeff escreve que a qualidade da governança e a direção arquitetônica são eixos separados, e que uma leitura de conformidade pode medir o primeiro sem resolver o segundo. Como descrição do que uma única análise documental consegue fazer, isso é justo. Como descrição de como a arquitetura realmente muda, penso que é incompleto, e a sua própria seção final mostra por quê.

Observe as cinco condições que ele diz que mudariam substancialmente a sua leitura: sinalizadores Deaf detendo a maioria dos votos de governança e do poder de decisão orçamentária; consentimento coletivo livre, prévio e informado sobre o corpus; declarações de dados publicadas e fichas de modelo cobrindo consentimento, remuneração e cobertura não manual; avaliação frente a regulamentação vinculante; e um intérprete qualificado garantido no contrato de aquisição. Nenhuma delas é uma especificação arquitetônica. Cada uma é uma afirmação sobre quem decide, quem consente, o que deve ser divulgado, qual lei se aplica e o que um contrato deve garantir. São condições de governança, e são boas condições.

Essa convergência é o ponto central. Um alvo de saída não é uma lei da natureza; é uma escolha de design feita por pessoas com autoridade para fazê-la, financiada por compradores que a aceitam, e mantida em vigor por regimes de avaliação que a recompensam. Jeff tem razão ao dizer que uma lista de verificação de conformidade não consegue ver o corredor atrás de uma porta trancada. Mas os únicos instrumentos que já redirecionaram um corredor são aqueles que mudam quem detém as chaves: autoridade decisória, termos contratuais exequíveis, e requisitos de evidência que um fornecedor não pode satisfazer apenas descrevendo as suas intenções. Governança não é um eixo diferente da arquitetura. É a alavanca pela qual a arquitetura é contestada.

Direção, revisitada

O meu argumento original era que o SL2T é um sistema de compreensão: a máquina lê a pessoa Deaf e uma parte ouvinte lê a máquina. Quando um avatar sinaliza mal para um espectador Deaf, o dano é acesso falho. Quando um modelo transcreve mal um sinalizador Deaf, o dano é atribuição incorreta, porque palavras que a pessoa nunca produziu podem entrar num registro escrito em seu nome. Tratei esse risco como algo que o envelope de uso suportado contém enquanto o envelope se mantiver.

A correção de Jeff é que o confinamento não muda a direção. Uma porta trancada pode impedir a entrada, mas não muda para onde o corredor leva, e os próprios materiais de lançamento antecipam APIs em nuvem, possíveis pesos abertos, mais idiomas e, eventualmente, geração. Uma vez que os integradores detenham a capacidade, o público-alvo da fronteira deixa de ser o usuário Deaf e passa a ser o empregador, a escola, o serviço de polícia ou o escritório de benefícios que decide como incorporá-la. Aceito isso. A direção é uma propriedade do sistema, e o meu artigo subestimou o quão temporário o envelope provavelmente será.

O que eu acrescentaria é o que decorre disso para um avaliador. Se a direção é arquitetônica, então toda implantação de um sistema de sinais para texto herda o risco de atribuição incorreta por padrão, e o ônus deveria recair sobre quem quer colocar a saída da máquina num registro, e não sobre a pessoa Deaf que tem de captar o erro depois. Isso reformula a questão de governança. Já não se trata de saber se o fornecedor traçou uma fronteira em torno de usos perigosos. Trata-se de saber se algo impede, desde o início, que a saída se torne o registro.

A pré-condição, e onde a verificação deveria residir

A passagem mais forte do artigo de Jeff diz respeito à própria suposição do lançamento de que os usuários possuem letramento funcional suficiente em inglês para verificar o texto gerado. Descrevi isso como um risco residual que recai com mais força sobre os usuários que uma ferramenta centrada em sinais poderia servir melhor. Jeff argumenta que é mais do que uma distribuição de risco: é como a salvaguarda principal funciona, porque o sinalizador permanece no circuito como verificador, mas tem de verificar em inglês escrito. Ele cita um estudo de 2026 sobre usuários adultos Deaf de ASL ^[6]. O estudo não testou tradução por IA, e Jeff diz isso, mas é suficiente para mostrar que uma salvaguarda que exige que um sinalizador audite inglês fluente não pode ser presumida igualmente disponível para todos a quem o sistema afirma servir.

Concordo, e penso que o remédio decorre diretamente da própria análise dele sobre o que o sistema trata como o registro oficial. Se a saída em inglês é o registro, a verificação tem de acontecer em inglês, e a pré-condição é inevitável. Se a fonte sinalizada é o registro, não é. O vídeo sinalizado original, mantido sob o controle do sinalizador, torna-se a evidência do que a pessoa disse, e o texto em inglês torna-se o que de fato é: uma renderização, atribuível a uma máquina, sem valor como as palavras da pessoa até que ela a tenha confirmado na sua própria língua. A confirmação pode então assumir formas que não dependem de letramento em inglês de forma alguma, incluindo a revisão da renderização por um intérprete qualificado ou um intermediário Deaf escolhido pelo sinalizador, e o direito da pessoa de contestar a renderização em comparação com a fonte.

Este não é tanto um princípio novo quanto um princípio familiar aplicado a um artefato novo. Uma transcrição não é testemunho; o testemunho é o testemunho. Uma declaração interpretada num contexto jurídico é verificada contra o falante, não o contrário. Os sistemas de sinais para texto invertem essa relação por padrão, e a inversão é exatamente a continuidade com Milão que Jeff identifica: a competência na língua majoritária torna-se a condição para ser corretamente representado nas próprias palavras. Tornar a fonte sinalizada o registro remove essa condição da salvaguarda, mesmo que o inglês escrito continue sendo o alvo de saída do sistema.

Respondendo à pergunta

Jeff pergunta qual salvaguarda dá a uma instituição algo que ela não pode reinterpretar, negociar para abandonar ou ignorar silenciosamente. A minha resposta é que nenhuma salvaguarda detida pela instituição consegue satisfazer esse teste, porque seja o que for que o comprador detenha, o comprador pode renunciar a isso. As salvaguardas que sobrevivem à aquisição são aquelas que pertencem à pessoa Deaf e a acompanham em toda implantação. Eu nomearia duas.

1. Um direito, invocável pelo usuário, a um intérprete humano qualificado. Não uma recomendação numa diretriz, nem uma alternativa que a instituição possa oferecer a seu critério, mas uma cláusula contratual que a pessoa Deaf pode invocar a qualquer momento numa interação, com um remédio declarado caso seja recusado e sem poder da instituição para renunciar a isso em nome da pessoa. Isso responde à própria preocupação mais classificada pelo comitê consultivo, a qual Jeff observa que os materiais de lançamento não garantem. Isso também tem um fundamento jurídico anterior à IA: sob o Título II da ADA, uma entidade pública deve dar consideração primária ao auxílio que o indivíduo solicita [ncg_citep key="cfr35160"], e o Artigo 9(2)(e) da CRPD nomeia intérpretes profissionais de língua de sinais entre as formas de assistência ao vivo que os Estados-partes devem fornecer [ncg_citep key="crpd2006"]. A escolha já pertence à pessoa por lei. A aquisição deveria parar de transferi-la silenciosamente para o comprador.
2. A fonte sinalizada é o registro. Inglês gerado por máquina nunca entra num arquivo como palavras de uma pessoa Deaf, a menos que essa pessoa o tenha confirmado na sua própria língua, a fonte sinalizada seja mantida sob o seu controle, e qualquer disputa seja resolvida contra a fonte, e não contra o texto. Esta é a salvaguarda que responde à pré-condição de Jeff, porque retira o letramento em inglês do caminho de verificação sem fingir que o alvo de saída mudou.

Ambas as salvaguardas compartilham uma propriedade que uma fronteira de fornecedor não tem. Não são afirmações sobre para que o sistema não deveria ser usado. São direitos que se vinculam à pessoa, de modo que obrigam qualquer integrador, agência ou empregador que acabe detendo a capacidade, incluindo os que chegarem depois da API em nuvem e dos pesos abertos.

Uma fronteira escrita num PDF trata da intenção do fornecedor. Um direito detido pela pessoa Deaf trata de toda implantação que vier a seguir.

Heather M. Grizzle

O que isso muda no SLAT

Jeff dirigiu a sua pergunta ao meu Index e às cláusulas de aquisição no seu próprio trabalho, portanto é justo dizer o que o artigo dele muda do meu lado. Três coisas.

Primeiro, a lacuna metodológica. Uma leitura de governança de uma tecnologia de acesso Deaf que não documenta nenhuma etapa de verificação Deaf pode descrever o registro de um fornecedor, mas não pode testá-lo de forma independente. Estou constituindo um órgão de revisão Deaf para o Index, e até que ele esteja estabelecido, direi isso em tudo o que publicar, em vez de deixar a ausência indocumentada. O meu trabalho futuro sobre o SL2T trará essa declaração até que a lacuna seja fechada.

Segundo, a validação de saída. A constatação mais profunda nas avaliações do SLAT até agora ^[8] é que nenhum fornecedor publicou uma avaliação independente da sua saída sinalizada. Elaborei um protocolo de validação de saída que trata a participação de avaliadores Deaf como algo definicional, e não meramente aditivo, proíbe conteúdo fornecido pelo fornecedor ou de demonstração na amostra, e relata a atribuição incorreta separadamente da precisão, de modo que a falha que Jeff e eu estamos descrevendo não possa ser diluída por média. É um rascunho, e estou publicando a sua existência aqui para que eu possa ser cobrado por concluí-lo.

Terceiro, a regra do registro. O Index já pergunta se um usuário Deaf tem uma via de acesso a um humano qualificado. Ainda não pergunta se a saída da máquina pode entrar num registro como as palavras de uma pessoa sem a confirmação dessa pessoa na sua própria língua. O artigo de Jeff me convence de que deveria, e proporei isso como condição na próxima revisão do Index. A pergunta com que ele encerrou merece uma resposta melhor do que uma classificação de suficiência, e a melhor resposta que tenho é um direito que a pessoa Deaf detém, em vez de uma promessa que a instituição faz.