Los gobiernos están adquiriendo sistemas de acceso lingüístico antes de que la base de evidencia haya madurado. Esto es una crisis de responsabilidad pública en cámara lenta.
El Momento de la Contratación Pública
Se está pidiendo a las agencias gubernamentales que tomen decisiones de compra significativas sobre sistemas de IA para lengua de señas antes de que la base de evidencia científica haya madurado. Esta no es una cuestión de si la tecnología eventualmente madurará. Es una cuestión de si las afirmaciones actuales de los proveedores están siendo tratadas como hechos validados cuando siguen siendo promesas no verificadas. La distinción importa, especialmente cuando están en juego el dinero público y el acceso de la comunidad Deaf.
Durante los últimos dieciocho meses, los oficiales de accesibilidad, los equipos de contratación y los departamentos de TI en gobiernos federales, estatales y municipales han comenzado a recibir propuestas de proveedores de sistemas de IA para lengua de señas. Estas propuestas enfatizan la innovación, la eficiencia y la inclusión. Prometen ampliar el acceso a gran escala, reducir costos y modernizar los servicios lingüísticos. El mensaje es convincente, y llega en un momento institucional en el que los presupuestos del sector público son limitados y los mandatos de accesibilidad se están ampliando. La pregunta que hacen los oficiales de contratación es simple: “¿Por qué no adoptaríamos esto?”
La respuesta es igualmente simple, pero se expresa con menos frecuencia: “Porque todavía no tenemos evidencia independiente de que estos sistemas funcionen como se afirma, y no tenemos estándares acordados sobre qué significa ‘funcionar’ en el contexto del acceso lingüístico.”
Esto no es una objeción técnica. Es una objeción de gobernanza. Es la cuestión de si las instituciones públicas deberían normalizar decisiones de compra que carecen de las estructuras de responsabilidad necesarias para proteger a las personas más afectadas por esas decisiones.
El Atractivo de la Promesa Tecnológica
La IA para lengua de señas resulta atractiva para las instituciones públicas por razones que son totalmente racionales dentro de la lógica de la contratación institucional. La tecnología promete innovación en un espacio donde la innovación ha sido limitada de forma esporádica. Sugiere escalabilidad en contextos donde los servicios lingüísticos históricamente han requerido intérpretes humanos individuales. Ofrece eficiencia de costos en sistemas bajo presión presupuestaria. Se presenta a sí misma como inclusión y empoderamiento, alineada con los derechos de las personas con discapacidad y los mandatos de accesibilidad.
Estos son incentivos de contratación poderosos. Cuando una organización enfrenta presión simultánea para ampliar el acceso, reducir costos y adoptar tecnologías emergentes, una solución que promete las tres cosas se vuelve difícil de rechazar en el momento de la presentación.
La conveniencia en la contratación no es lo mismo que el cumplimiento de los derechos civiles.
Sin embargo, la conveniencia en la contratación no es lo mismo que el cumplimiento de los derechos civiles. La eficiencia institucional no es lo mismo que la validez lingüística. El ahorro de costos no es lo mismo que la seguridad comunitaria. El atractivo de la promesa tecnológica ha impulsado repetidamente la adopción por parte del sector público de sistemas antes de que sus efectos en el mundo real hayan sido plenamente comprendidos. En materia de accesibilidad, este patrón es especialmente peligroso porque las personas con mayor probabilidad de sufrir daños rara vez son quienes deciden si adoptar la tecnología.
El Problema de la Escasez de Evidencia
Muchos sistemas de IA para lengua de señas se promocionan con afirmaciones sobre accesibilidad, competencia lingüística, inclusión, acceso al idioma y empoderamiento de las personas Deaf. Estas son afirmaciones que importan. Abordan necesidades reales. Pero estas afirmaciones a menudo no van acompañadas de las estructuras de evidencia que normalmente se requerirían antes de que una institución pública normalice un sistema que afecta aspectos fundamentales de la vida de las personas.
Específicamente, estos sistemas se promocionan con frecuencia sin:
- evaluación independiente por investigadores ajenos a la organización proveedora;
- conjuntos de datos transparentes y disponibles públicamente;
- análisis de errores publicado que documente lo que el sistema no logra hacer y bajo qué condiciones;
- evidencia de implementación en el mundo real a partir de un uso sostenido en contextos operativos; o
- evaluación de riesgos informada por la comunidad, realizada con firmantes nativos Deaf y las poblaciones más dependientes del acceso lingüístico.
Esto no quiere decir que todos los proveedores de IA para lengua de señas estén haciendo afirmaciones infundadas. Es para decir que, incluso cuando las afirmaciones se hacen de buena fe, la ausencia de verificación independiente significa que las decisiones institucionales se están tomando sobre la base de una redacción persuasiva en lugar de evidencia científica. Esas no son la misma cosa. Las demostraciones de proveedores, los testimonios de usuarios de prueba, los estudios de caso y los materiales de marketing pueden ser todos convincentes y, a la vez, no alcanzar el estándar de evidencia necesario para una contratación pública responsable.
La brecha no es trivial. Es el espacio entre “esta tecnología muestra promesa” y “esta tecnología está lista para su implementación pública”. Ese espacio es donde la política pública debería insistir en la responsabilidad.
Por Qué la IA para Lengua de Señas No Es Solo Otra Herramienta de Accesibilidad
La lengua de señas es un idioma natural completo, no una función, una capa de subtítulos ni una mejora del servicio al cliente. Tiene una estructura fonológica compleja, reglas sintácticas, procesos morfológicos y normas pragmáticas. Es el idioma nativo de las comunidades Deaf y la base de la participación educativa, profesional y cívica de millones de personas en todo el mundo.
Esto importa porque los errores en la IA para lengua de señas pueden afectar más que la conveniencia. Pueden afectar la comprensión de información que incide en la salud, el estatus legal, el acceso educativo, la elegibilidad laboral, la respuesta ante emergencias y los derechos cívicos. Un sistema de subtitulado que ocasionalmente pierde diálogo es una función de accesibilidad con una limitación conocida. Un sistema de lengua de señas que ocasionalmente tergiversa el significado es un vector potencial de daño.
La tolerancia al error en la IA para lengua de señas es, en consecuencia, distinta de la tolerancia al error en tecnologías menos fundamentales lingüísticamente. Un sistema que funciona correctamente el 95 por ciento del tiempo podría ser aceptable como función complementaria. Puede no ser aceptable como mecanismo principal de acceso lingüístico en un procedimiento legal, una consulta médica o un entorno educativo. Las agencias públicas necesitan entender no solo qué hace bien un sistema, sino qué hace mal y si esas fallas pueden tolerarse en el contexto específico donde se implementará el sistema.
Investigación Científica vs. Redacción Persuasiva
La distinción entre la investigación científica y la redacción persuasiva no es académica. Es una cuestión de responsabilidad pública.
Las presentaciones de proveedores, las demostraciones de productos, los testimonios, los estudios de caso y el lenguaje de marketing cumplen funciones comunicativas importantes. Cuentan historias coherentes. Enfatizan los beneficios. Generan impulso. Pero son herramientas persuasivas, no evidencia científica. La evidencia científica se produce mediante procesos diseñados para ser inspeccionados, cuestionados, replicados y desafiados. Implica evaluación independiente. Documenta la incertidumbre y los modos de fallo, no solo los éxitos. Está sujeta a revisión por pares y escrutinio público.
Cuando las agencias públicas toman decisiones de contratación, están decidiendo implícitamente qué forma de conocimiento confían. Si confían más en la persuasión del proveedor que en la evidencia independiente, están tomando una decisión de gobernanza con consecuencias. Están diciendo que la eficiencia institucional y el impulso de la innovación son más importantes que la verificación independiente de afirmaciones que afectan la responsabilidad pública.
Este no es un argumento en contra de la innovación. Es un argumento a favor de la disciplina que debería acompañar a la innovación en las instituciones públicas. La contratación pública existe para servir al público. Requiere evidencia, no solo promesas.
La Contratación como Punto de Control de Gobernanza
La contratación es uno de los puntos de intervención más importantes en la gobernanza tecnológica, y con frecuencia se trata como una transacción en lugar de una decisión.
Una vez que un sistema se compra, se integra en los flujos de trabajo institucionales, se incorpora a la capacitación del personal y se normaliza como procedimiento operativo estándar, cambiar de rumbo se vuelve difícil. La base instalada crea inercia. Los costos hundidos generan resistencia a las alternativas. El personal que ha aprendido a sortear las limitaciones del sistema desarrolla soluciones alternativas en lugar de escalar los problemas. El sistema se convierte en infraestructura, y la infraestructura es difícil de cambiar.
Por esto la contratación debe tratarse como un punto de control de gobernanza. Es el momento en que una agencia pública tiene influencia para exigir responsabilidad. Es el momento en que los proveedores están más dispuestos a responder a los requisitos y más dispuestos a demostrar evidencia. Es el momento antes de que el sistema se normalice y se vuelva difícil de evaluar críticamente.
Por lo tanto, la contratación responsable debería exigir evidencia independiente antes de la adopción, no exigir disculpas después de la implementación. La pregunta no debería ser “¿Cómo hacemos que este sistema funcione?”, sino más bien “¿Tenemos evidencia suficiente de que este sistema es apropiado para este caso de uso?”. La carga de la prueba debería recaer en el proveedor y en la evidencia, no en la institución y la esperanza.
Lo Que Debería Preguntar una Evaluación Responsable
Las instituciones que se acercan a la contratación de IA para lengua de señas deberían hacer preguntas claras y específicas antes de tomar decisiones de compra. Estas preguntas deberían centrarse en la evidencia, la transparencia, la participación comunitaria, la evaluación de riesgos y la gobernanza.
- ¿Quién realizó la evaluación de este sistema, y era independiente del proveedor?
- ¿Qué lenguas de señas, dialectos, registros y poblaciones de usuarios se han probado, y qué poblaciones fueron excluidas de las pruebas?
- ¿Participaron firmantes nativos Deaf en la evaluación, y en qué capacidad?
- ¿Se han probado específicamente usuarios DeafBlind, usuarios con discapacidad y usuarios múltiplemente marginados?
- ¿Cuáles son los modos de fallo documentados y en qué condiciones el sistema tiene un rendimiento deficiente?
- ¿Qué ocurre en contextos de alto riesgo, como la comunicación médica, los procedimientos legales o la educación?
- ¿Puede el proveedor articular claramente para qué no debe usarse el sistema, con base en evidencia?
- ¿El sistema revela su propia incertidumbre, o presenta resultados con una confianza falsa?
- ¿Existe un proceso de anulación humana o de escalamiento integrado en la implementación?
- ¿Puede la agencia pública auditar de forma independiente el rendimiento del sistema después de la compra, o la evaluación del rendimiento se limita a las métricas proporcionadas por el proveedor?
Estas no son preguntas hostiles. Son las preguntas que las instituciones responsables deberían plantearse antes de tomar decisiones que afectan el acceso lingüístico fundamental de las comunidades Deaf.
El riesgo de repetir el ciclo de exageración
Las instituciones públicas han adoptado repetidamente tecnologías antes de comprender plenamente sus efectos posteriores. Los sistemas de reconocimiento de voz se normalizaron antes de que se documentaran completamente las tasas de error para el habla con acento. Los algoritmos predictivos se implementaron en la justicia penal antes de que se estudiara sistemáticamente el sesgo en los datos de entrenamiento. Los sistemas de subtitulado automático se adoptaron antes de que se cartografiaran sus limitaciones para diálogos complejos y dominios especializados.
En el ámbito de la accesibilidad en particular, este patrón es especialmente trascendental. Las personas más afectadas por las decisiones sobre tecnología de accesibilidad rara vez son quienes toman esas decisiones. Los responsables de adquisiciones, los directores de TI, los responsables de presupuesto y los ejecutivos son quienes toman la decisión de compra. Los usuarios de la comunidad afectada a menudo descubren las limitaciones de la tecnología solo después de su implementación, cuando la decisión de compra ya está sellada y ya no se están considerando alternativas.
El riesgo de repetir este ciclo con la IA de lengua de señas es real. El impulso está creciendo. Las propuestas de los proveedores son cada vez más pulidas. La presión para adoptarla va en aumento. Y la base de evidencia, aunque está creciendo, todavía no es lo suficientemente madura como para respaldar la escala de implementación que se propone actualmente.
El papel de la evaluación independiente y la gobernanza
Novara Consulting Group se fundó para abordar una brecha visible en las prácticas de adquisición. Las instituciones públicas carecen de un enfoque estructurado para evaluar los sistemas de IA de lengua de señas antes de adoptarlos, y esa brecha crea riesgos tanto para la institución como para las comunidades que más dependen del acceso lingüístico.
El Sign Language Access Trust (SLAT) Index es un marco centrado en la gobernanza diseñado para ayudar a las instituciones a formular mejores preguntas antes de comprar sistemas de IA de lengua de señas. No es un estándar técnico ni un sistema de certificación. Es un enfoque de evaluación estructurado que se centra en la transparencia de la evidencia, los mecanismos de gobernanza, la participación comunitaria, la evaluación del riesgo lingüístico, el contexto de implementación y las estructuras de rendición de cuentas.
SLAT evalúa los sistemas en diez ámbitos de gobernanza:
Para cada ámbito, SLAT pregunta si los proveedores pueden aportar evidencia que cumpla con criterios estándar, o si persisten brechas sin verificar.
El objetivo no es bloquear la innovación. Es asegurarse de que las preguntas que se plantean antes de la compra sean las correctas, y que las respuestas se sometan a un escrutinio independiente.
Evidencia antes de la adopción
El futuro de la IA de lengua de señas no debería decidirse únicamente por el impulso del marketing. Si las agencias públicas van a comprar sistemas que median el acceso lingüístico de las comunidades Deaf, deben exigir evidencia independiente antes de la adopción. Esa evidencia debe inspeccionarse antes del compromiso, no debatirse después de la implementación. La pregunta no es si la IA de lengua de señas es prometedora. La pregunta es si las instituciones públicas están preparadas para gobernar esa promesa de manera responsable.
La distinción entre innovación y rendición de cuentas no es una limitación para el progreso. Es un requisito previo para un progreso seguro. Las agencias públicas que traten las adquisiciones como un punto de control de gobernanza, y no como una simple transacción, encontrarán proveedores y sistemas dispuestos a cumplir con ese estándar. Quienes lo hagan sentarán un precedente para el campo. Quienes no lo hagan, asumirán las consecuencias.