Há algo profundamente perturbador em observar sistemas de saúde flertarem com IA experimental de língua de sinais como se o acesso à comunicação fosse apenas mais uma despesa operacional a otimizar.
Hospitais não são campos de teste para tecnologia de acessibilidade imatura. Um pedido de mercearia mal traduzido é inconveniente. Uma explicação mal traduzida sobre complicações cirúrgicas, dosagem de medicamentos, avaliação psiquiátrica ou consentimento de emergência pode alterar o curso da vida de alguém.
Essa distinção importa porque grande parte da conversa pública sobre IA de língua de sinais ainda opera dentro do mundo seguro das demonstrações, palcos de conferências, apresentações para investidores e clipes cuidadosamente controlados nas redes sociais. Os sistemas são quase sempre mostrados em condições ideais: ritmo limpo, frases simples, vocabulário previsível, complexidade emocional mínima e ambientes projetados para fazer a tecnologia parecer perfeita. A comunicação real na área da saúde não funciona assim.
Os ambientes médicos são caóticos. Pacientes choram. Médicos se interrompem uns aos outros. Enfermeiros falam rapidamente enquanto fazem várias tarefas. Familiares fazem perguntas simultaneamente. A terminologia muda rapidamente dependendo da especialidade, urgência e contexto. Um paciente discutindo dor abdominal pode de repente revelar histórico de trauma, confusão sobre medicamentos, violência doméstica, ideação suicida ou sintomas que não sabe totalmente como descrever. Intérpretes humanos têm dificuldades em ambientes difíceis porque a comunicação na área da saúde é inerentemente difícil. Fingir que essa complexidade desaparece porque um avatar consegue produzir sinais numa tela não é inovação. É fantasia.
A parte mais preocupante não é necessariamente a existência da tecnologia em si. A inteligência artificial continuará a evoluir dentro dos espaços de acessibilidade, quer as pessoas gostem ou não. A verdadeira preocupação é a agressividade com que algumas organizações estão a tentar normalizar a implementação antes que as estruturas de governança, os padrões de validação, os mecanismos de responsabilização e as salvaguardas clínicas tenham amadurecido o suficiente para justificar confiança.
Essa preocupação torna-se ainda mais incómoda quando os próprios profissionais Deaf participam na promoção de sistemas que ainda carregam riscos não resolvidos. O envolvimento de pessoas Deaf, por si só, não transforma automaticamente um produto em algo ético. A representação não pode substituir a responsabilização, assim como o marketing não pode substituir os testes de segurança. Um fundador, conselheiro, desenvolvedor ou consultor Deaf ainda pode ajudar a levar um produto para ambientes onde as consequências do fracasso recaem diretamente sobre os pacientes Deaf.
E as pessoas que tomam decisões de compra muitas vezes não conseguem avaliar de forma independente a qualidade daquilo que estão a adquirir.
Essa é a lacuna de governança que ninguém quer discutir honestamente.
A representação não pode substituir a responsabilização, assim como o marketing não pode substituir os testes de segurança.
A maioria dos administradores hospitalares, funcionários de aquisições, responsáveis de conformidade e executivos de tecnologia são ouvintes. Muitos não têm nenhuma fluência em ASL. Podem não reconhecer distorção gramatical, deriva semântica, informação contextual em falta, gramática facial artificial, falhas de ritmo, imprecisões de classificadores ou mudanças subtis de significado que alteram completamente a qualidade da interpretação. Um avatar polido pode parecer convincente para alguém que não tem quadro linguístico para o avaliar criticamente.
Isso cria uma situação perigosa em que o polimento visual pode ser confundido com fiabilidade de comunicação.
No entanto, a lei da saúde não funciona por impressões. Sob as obrigações da ADA, Section 504 e Section 1557, os prestadores de cuidados de saúde continuam responsáveis por garantir acesso efetivo à comunicação. A existência de um fornecedor de IA não transfere essa responsabilidade da instituição. Se um sistema de interpretação falhar durante uma comunicação médica significativa, o paciente ainda sofre as consequências, independentemente de quão impressionante a tecnologia tenha parecido durante as demonstrações de aquisição.
E as falhas de comunicação na área da saúde raramente são pequenas.
Um mal-entendido envolvendo alergias, instruções de medicação, sintomas psiquiátricos, restrições de alta, recusa de tratamento ou procedimentos de consentimento pode criar exposição a responsabilidade jurídica muito além de um simples incómodo. Mais importante ainda, pode comprometer a própria autonomia do paciente. Os pacientes Deaf não deveriam tornar-se participantes involuntários em experiências de acessibilidade em larga escala apenas porque as instituições acham que a automação parece moderna.
Antes que os sistemas de IA de língua de sinais avancem ainda mais nos ambientes de saúde, as expectativas mínimas deveriam ser extraordinariamente elevadas.
- Deveria existir validação linguística independente.
- Sinalizantes nativos deveriam participar em testes rigorosos.
- As condições de falha deveriam ser documentadas publicamente.
- Os caminhos de escalonamento para intervenção humana deveriam permanecer imediatamente disponíveis.
- Os pacientes deveriam manter a capacidade de rejeitar sistemas automatizados em favor de intérpretes qualificados.
- As necessidades de acessibilidade para pessoas DeafBlind deveriam ser avaliadas separadamente, em vez de tratadas como uma reflexão tardia.
- As classificações de risco clínico deveriam existir antes da implementação, e não depois de ocorrerem incidentes.
Neste momento, grande parte da indústria ainda parece focada em provar que a IA de língua de sinais consegue funcionar, deixando de lado a questão muito mais importante de saber se consegue funcionar com segurança em ambientes onde os erros de comunicação têm consequências que alteram vidas.
Isso não é um descuido menor.
É toda a conversa.
A comunidade Deaf não deveria ser pressionada a aplaudir uma tecnologia simplesmente porque ela parece futurista ou porque profissionais Deaf estão associados a ela. A tecnologia de acessibilidade merece o mesmo escrutínio que qualquer outro sistema que afeta a saúde humana, os direitos civis, a responsabilidade institucional e a confiança pública.