Skip to content
Ir directamente al texto

Gobernanza de IA liderada por Deaf

NCG Insight | Cuando la accesibilidad se construye al final, el riesgo queda incorporado

Encabezado de Novara Consulting Group Strategic Risk con un ordenador portátil holográfico seguro en un entorno de bosque.
Descargar PDF
Contenidos de audio
Escuchar también en Spotify

Existe un patrón familiar en la tecnología. Se introduce una herramienta, se presenta como progreso y se posiciona como la solución a una barrera de larga data. La narrativa avanza rápidamente, a menudo antes de que la estructura detrás de ella sea examinada a fondo. Para cuando empiezan a surgir preguntas sobre su impacto, la base ya ha sido construida, las decisiones ya se han tomado, y las personas más afectadas quedan reaccionando ante un sistema que no ayudaron a diseñar.

La IA de lengua de señas (LS) está siguiendo ese patrón. Durante el último año, el desarrollo se ha acelerado en sistemas de reconocimiento, herramientas de traducción y modelos de comunicación basados en avatares. La conversación está dominada por la velocidad, la escala y la mejora técnica. Lo que falta es una conversación paralela sobre la autoridad. ¿Quién define la precisión en una lengua que no es la suya? ¿Quién determina qué se considera una interpretación aceptable? ¿Quién tiene el poder de intervenir cuando el sistema produce algo que es técnicamente funcional pero lingüística o culturalmente incorrecto?

Estas no son preguntas periféricas. Son fundamentales. Las lenguas de señas no son versiones simplificadas de la lengua hablada, ni son uniformes entre comunidades. Llevan consigo estructura, variación y significado que no pueden aplanarse sin consecuencias. Cuando las organizaciones construyen sistemas que interpretan o reproducen la lengua de señas sin incorporar a profesionales Deaf en los roles de toma de decisiones, no solo están construyendo productos incompletos. Están estableciendo modelos de gobernanza que excluyen la propia experiencia de la que dependen.

Están estableciendo modelos de gobernanza que excluyen la propia experiencia de la que dependen.

Esto se convierte en un problema operativo en el momento en que estos sistemas se cruzan con la fuerza laboral. Las funciones de Recursos Humanos son a menudo donde estas decisiones salen a la superficie primero, incluso cuando no se tomaron allí. Las herramientas de selección comienzan a filtrar candidatos según patrones de comunicación que asumen normas de la lengua hablada. Los sistemas de capacitación se implementan tratando la accesibilidad como una característica en lugar de un requisito básico. Las métricas de desempeño premian comportamientos que dependen de la interacción auditiva o verbal en tiempo real. Ninguna de estas decisiones suele etiquetarse como excluyente. Se presentan como eficiencia. Pero la eficiencia medida contra la línea base equivocada produce resultados predecibles.

El problema no es que las organizaciones pretendan excluir. El problema es que tratan la accesibilidad como algo que puede añadirse a un sistema en lugar de algo que debe moldear el sistema desde el principio. Para cuando se considera la accesibilidad, la arquitectura ya ha limitado lo que es posible. En ese punto, se incorpora a los profesionales Deaf para validar, ajustar o mejorar, pero no para definir. Esa distinción importa porque determina quién tiene autoridad sobre el comportamiento del sistema.

Por eso el trabajo que surge de SLxAI señala un cambio al que las organizaciones deberían prestar atención. El enfoque no se limita a mejorar los resultados o refinar los modelos. Está centrado en la gobernanza. Eso incluye definir estándares, establecer responsabilidad y determinar quién tiene el poder de decisión sobre cómo se representa y utiliza la lengua de señas en los sistemas de IA. Este enfoque replantea la accesibilidad de ser una preocupación posterior a ser una cuestión estructural.

Las organizaciones que ignoren esta distinción seguirán avanzando rápidamente, pero acumularán riesgos de maneras más difíciles de medir. Los sistemas que parecen funcionar bien pueden seguir produciendo daños a largo plazo si los supuestos subyacentes son defectuosos. Cuando esos sistemas están vinculados a la contratación, la capacitación o la comunicación, el impacto se extiende más allá de la usabilidad hacia la credibilidad y la confianza. Reconstruir esa confianza después de la implementación es significativamente más difícil que diseñarla desde el principio.

La implicación más amplia no se limita a la IA de lengua de señas. A medida que los sistemas de IA se expanden hacia dominios que dependen de experiencia humana especializada, el mismo patrón se repetirá. Si las personas que poseen esa experiencia no están incorporadas en las estructuras de gobernanza, el sistema reflejará solo una comprensión parcial del dominio en el que opera. Esa brecha no siempre será visible de inmediato, pero surgirá con el tiempo a través de inconsistencias, desalineación y resistencia de las comunidades afectadas.

La pregunta que las organizaciones deben hacerse no es si sus sistemas están mejorando. Es si las personas cuyo conocimiento sustenta esos sistemas tienen autoridad real sobre cómo se construyen y se implementan. Sin eso, la accesibilidad no se está resolviendo. Se está aproximando bajo condiciones que permanecen fuera del control de las personas más afectadas.

Eso no es una limitación técnica. Es una decisión de gobernanza.

Suscríbete a Novara Consulting Group

Nuevas publicaciones, directamente en tu bandeja de entrada.

Consult