Hay algo profundamente inquietante en observar cómo los sistemas de salud coquetean con la IA experimental de lengua de señas como si el acceso a la comunicación fuera simplemente otro gasto operativo que optimizar.
Los hospitales no son campos de prueba para tecnología de accesibilidad inmadura. Un pedido de comestibles mal traducido es un inconveniente. Una explicación mal traducida de complicaciones quirúrgicas, dosis de medicamentos, evaluación psiquiátrica o consentimiento de emergencia puede alterar el curso de la vida de alguien.
Esa distinción importa porque gran parte de la conversación pública sobre la IA de lengua de señas todavía se desarrolla dentro del mundo seguro de las demostraciones, los escenarios de conferencias, las presentaciones para inversionistas y los clips de redes sociales cuidadosamente controlados. Los sistemas casi siempre se muestran en condiciones ideales: ritmo limpio, frases simples, vocabulario predecible, complejidad emocional mínima y entornos diseñados para que la tecnología parezca perfecta. La comunicación médica real no funciona así.
Los entornos médicos son caóticos. Los pacientes lloran. Los médicos se interrumpen entre sí. Las enfermeras hablan rápido mientras realizan varias tareas a la vez. Las familias hacen preguntas simultáneamente. La terminología cambia rápidamente según la especialidad, la urgencia y el contexto. Un paciente que habla de dolor abdominal puede revelar de repente un historial de trauma, confusión con la medicación, violencia doméstica, ideación suicida o síntomas que ni siquiera sabe describir del todo. Los intérpretes humanos tienen dificultades en entornos complicados porque la comunicación médica es inherentemente difícil. Pretender que esa complejidad desaparece porque un avatar puede producir señas en una pantalla no es innovación. Es fantasía.
La parte más preocupante no es necesariamente la existencia de la tecnología en sí. La inteligencia artificial seguirá evolucionando dentro de los espacios de accesibilidad, les guste o no a las personas. La verdadera preocupación es la agresividad con la que algunas organizaciones intentan normalizar su implementación antes de que las estructuras de gobernanza, los estándares de validación, los mecanismos de rendición de cuentas y las salvaguardas clínicas hayan madurado lo suficiente como para justificar la confianza.
Esa preocupación se vuelve aún más incómoda cuando los propios profesionales Deaf participan en la promoción de sistemas que todavía conllevan riesgos sin resolver. La participación de personas Deaf por sí sola no transforma automáticamente un producto en algo ético. La representación no puede sustituir la rendición de cuentas, así como el marketing no puede sustituir las pruebas de seguridad. Un fundador, asesor, desarrollador o consultor Deaf puede, aun así, contribuir a que un producto llegue a entornos donde las consecuencias de su fallo recaen directamente sobre los pacientes Deaf.
Y las personas que toman las decisiones de compra a menudo no pueden evaluar de manera independiente la calidad de lo que están adquiriendo.
Esa es la brecha de gobernanza que nadie quiere discutir con honestidad.
La representación no puede sustituir la rendición de cuentas, así como el marketing no puede sustituir las pruebas de seguridad.
La mayoría de los administradores de hospitales, funcionarios de adquisiciones, oficiales de cumplimiento y ejecutivos de tecnología son oyentes. Muchos no tienen ninguna fluidez en ASL. Es posible que no reconozcan distorsiones gramaticales, desviaciones semánticas, información contextual faltante, gramática facial poco natural, fallos de ritmo, imprecisiones en los clasificadores o sutiles cambios de significado que alteran por completo la calidad de la interpretación. Un avatar pulido puede resultar convincente para alguien que no tiene un marco lingüístico para evaluarlo críticamente.
Esto crea una situación peligrosa en la que el pulido visual puede confundirse con la fiabilidad comunicativa.
Sin embargo, el derecho sanitario no opera según sensaciones. Conforme a las obligaciones de la ADA, la Sección 504 y la Sección 1557, los proveedores de salud siguen siendo responsables de garantizar un acceso efectivo a la comunicación. La existencia de un proveedor de IA no traslada esa responsabilidad fuera de la institución. Si un sistema de interpretación falla durante una comunicación médica significativa, el paciente sigue sufriendo las consecuencias, sin importar lo impresionante que pareciera la tecnología durante las demostraciones de adquisición.
Y los fallos en la comunicación sanitaria rara vez son pequeños.
Un malentendido relacionado con alergias, instrucciones de medicación, síntomas psiquiátricos, restricciones al alta, rechazo de tratamiento o procedimientos de consentimiento puede generar una exposición a responsabilidad legal mucho mayor que un simple inconveniente. Más importante aún, puede comprometer la propia autonomía del paciente. Los pacientes Deaf no deberían convertirse en participantes involuntarios de experimentos de accesibilidad a gran escala simplemente porque las instituciones creen que la automatización suena moderna.
Antes de que los sistemas de IA de lengua de señas avancen más en los entornos de atención médica, las expectativas mínimas deberían ser extraordinariamente altas.
- Debería existir una validación lingüística independiente.
- Los usuarios nativos de lengua de señas deberían participar en pruebas rigurosas.
- Las condiciones de fallo deberían documentarse públicamente.
- Las vías de escalamiento a intervención humana deberían permanecer disponibles de inmediato.
- Los pacientes deberían conservar la capacidad de rechazar los sistemas automatizados en favor de intérpretes calificados.
- Las necesidades de accesibilidad de las personas DeafBlind deberían evaluarse por separado en lugar de tratarse como una ocurrencia tardía.
- Las clasificaciones de riesgo clínico deberían existir antes de la implementación, no después de que ocurran incidentes.
En este momento, gran parte de la industria todavía parece centrada en demostrar que la IA de lengua de señas puede funcionar en absoluto, dejando de lado la pregunta mucho más importante de si puede funcionar de manera segura en entornos donde los errores de comunicación conllevan consecuencias que alteran vidas.
Eso no es un descuido menor.
Es toda la conversación.
No se debería presionar a la comunidad Deaf para que aplauda una tecnología simplemente porque parezca futurista o porque haya profesionales Deaf asociados a ella. La tecnología de accesibilidad merece el mismo escrutinio que cualquier otro sistema que afecte la salud humana, los derechos civiles, la responsabilidad institucional y la confianza pública.