La conversación sobre la IA en lengua de señas está empezando a inquietarme, y no porque piense que la tecnología deba dejar de evolucionar.
Lo que me preocupa es la rapidez con la que la gente se apresura a promover los avatares de IA que interpretan lengua de señas como el futuro de la accesibilidad, evitando conversaciones honestas sobre qué son realmente estos sistemas, cómo funcionan y dónde comienzan sus limitaciones.
En este momento, muchas tecnologías muy distintas se están agrupando bajo las mismas etiquetas. Para la persona oyente promedio que ve una demostración en línea, todo parece igual. Aparece un avatar que interpreta en la pantalla, los movimientos se ven fluidos, el renderizado se ve pulido, y de repente la gente empieza a hablar como si estuviéramos presenciando la llegada de una interpretación por IA totalmente funcional.
Pero la realidad detrás de esas demostraciones suele ser mucho más complicada.
Algunos sistemas dependen en gran medida de personas detrás de escena. Algunos se basan en contenido guionado. Algunos son actuaciones capturadas por movimiento y transferidas a un avatar. Algunos siguen siendo tecnologías experimentales que operan en entornos estrictamente controlados. Otros intentan generar la interpretación de manera dinámica y todavía tienen dificultades con la consistencia, la comprensión contextual y la fiabilidad de la comunicación.
Esas distinciones importan.
Quién puede realmente juzgar la calidad
El problema es que la mayoría de las partes interesadas oyentes no pueden juzgar de manera independiente la calidad de la comunicación en lengua de señas. Un administrador de hospital, un funcionario del gobierno, un distrito escolar, un inversionista o un oficial de adquisiciones puede ver una demostración pulida y suponer que la comunicación es precisa simplemente porque el avatar parece convincente.
Mientras tanto, los espectadores Deaf pueden notar de inmediato problemas relacionados con la gramática, el ritmo, el contexto, la expresión facial o el significado que quienes toman decisiones y son oyentes no pueden percibir por sí mismos.
Eso crea un desequilibrio peligroso.
Las tecnologías de accesibilidad están entrando ahora en entornos donde los fallos de comunicación conllevan consecuencias graves. La atención médica, la educación, el transporte, la comunicación de emergencia, los servicios de salud mental, los entornos legales y los servicios públicos dependen todos de un acceso a la comunicación preciso y significativo. Si las instituciones comienzan a creer que los sistemas de IA visualmente impresionantes son automáticamente equivalentes a un apoyo de comunicación humano cualificado, las personas que asumirán primero las consecuencias no serán las empresas que promueven la tecnología.
Serán las personas Deaf.
Si las instituciones comienzan a creer que los sistemas de IA visualmente impresionantes son automáticamente equivalentes a un apoyo de comunicación humano cualificado, las personas que asumirán primero las consecuencias no serán las empresas que promueven la tecnología.
Las preguntas que no deberían ser controvertidas
Lo que más me frustra es lo difícil que se ha vuelto hacer preguntas razonables sin que te traten de “anti-innovación”.
Preguntas como:
- ¿Cómo se validó este sistema?
- ¿Quién participó en las pruebas?
- ¿Fue evaluado por firmantes nativos?
- ¿Cómo se desempeña durante conversaciones reales en lugar de demostraciones guionadas?
- ¿Cuáles son las condiciones de fallo?
- ¿Qué ocurre en situaciones de emergencia?
- ¿Cómo apoya a los usuarios DeafBlind?
- ¿Dónde sigue existiendo supervisión humana?
Esas no son preguntas hostiles.
Son el tipo de preguntas que deberían hacerse antes de que los sistemas se implementen en entornos reales de accesibilidad.
Herramienta de apoyo, no reemplazo
No estoy argumentando que la IA no tenga lugar en la accesibilidad. Creo que la tecnología puede ciertamente ayudar con los flujos de trabajo de comunicación, el apoyo al subtitulado, la coordinación y ciertos entornos de menor riesgo. Pero hay una gran diferencia entre usar la tecnología como herramienta de apoyo y tratar sistemas inacabados como reemplazos de un acceso a la comunicación significativo.
La comunidad Deaf ha pasado décadas luchando por la idea de que el acceso a la comunicación es un derecho, no una conveniencia. Eso no debería desaparecer de repente porque haya llegado una nueva moda tecnológica.
La innovación sin transparencia se convierte en marketing.
La innovación sin rendición de cuentas se convierte en riesgo.
Y la innovación sin una discusión honesta sobre las limitaciones puede convertirse muy rápidamente en otra situación en la que se espera que las personas con discapacidad toleren el fracaso mientras todos los demás celebran el progreso desde la distancia.