La conversación en torno a la IA de lengua de señas está cambiando rápidamente. Hace apenas unos años, muchas personas veían el concepto como poco más que un proyecto de investigación. Existía principalmente en revistas académicas, presentaciones en conferencias y debates especulativos sobre lo que algún día podría ser posible. Hoy, la conversación se siente muy diferente. Aparecen nuevos productos con regularidad. Las demostraciones circulan por las redes sociales. Las organizaciones están comenzando a explorar oportunidades de adquisición. Los inversores están tomando nota. Los gobiernos están haciendo preguntas. Los proveedores se posicionan como pioneros en un mercado que muchos creen que podría transformar fundamentalmente la forma en que las personas Deaf interactúan con la tecnología y los servicios públicos. El impulso es innegable. El entusiasmo es comprensible. Sin embargo, en medio de todo este entusiasmo, hay una pregunta que se niega a abandonar mi mente.
¿Quién está realmente protegiendo a las comunidades Deaf durante este proceso?
La pregunta no pretende ser una acusación. No es una declaración de que se esté produciendo un daño. No es una afirmación de que todas las organizaciones que entran en este espacio tengan malas intenciones. De hecho, muchas de las personas que trabajan en IA de lengua de señas parecen estar genuinamente comprometidas con mejorar la accesibilidad. Muchos investigadores se preocupan profundamente por las comunidades Deaf. Muchos desarrolladores creen sinceramente que están construyendo herramientas que podrían ampliar el acceso a la comunicación. Muchas organizaciones intentan resolver desafíos que existen desde hace generaciones. Sin embargo, las buenas intenciones nunca han sido un sustituto de la gobernanza. A lo largo de la historia, algunos de los daños no intencionados más significativos de la sociedad surgieron no porque la gente quisiera crear problemas, sino porque avanzaron sin suficiente rendición de cuentas, supervisión o participación de las partes interesadas.
Velocidad sin estructura
Lo que me preocupa no es solo la tecnología en sí. Lo que me preocupa es la velocidad a la que avanza la tecnología en comparación con la velocidad a la que se desarrollan las estructuras de gobernanza a su alrededor. Se están introduciendo nuevos sistemas antes de que muchas organizaciones entiendan cómo evaluarlos. Se hacen afirmaciones de marketing antes de que existan estándares independientes para verificar dichas afirmaciones. Se promueven promesas de accesibilidad antes de que haya un acuerdo generalizado sobre lo que realmente significa el éxito. Las conversaciones de adquisición ocurren en entornos donde quienes toman las decisiones pueden tener poco conocimiento sobre la lingüística de la lengua de señas, la cultura Deaf, el derecho de los derechos de las personas con discapacidad, las normas de accesibilidad o las limitaciones inherentes a los sistemas de inteligencia artificial. El resultado es una situación en la que la tecnología se acelera mientras la rendición de cuentas lucha por mantener el ritmo.
El resultado es una situación en la que la tecnología se acelera mientras la rendición de cuentas lucha por mantener el ritmo.
Lecciones de la historia tecnológica reciente
Cuanto más examino este panorama, más me recuerda a momentos similares a lo largo de la historia tecnológica. Las redes sociales se expandieron rápidamente antes de que las sociedades desarrollaran marcos significativos para abordar la desinformación, las preocupaciones sobre la privacidad y la rendición de cuentas de las plataformas. La tecnología de reconocimiento facial se implementó en numerosos entornos antes de que los responsables de las políticas comprendieran plenamente sus implicaciones para los derechos civiles y la vigilancia. La IA generativa irrumpió en la conciencia pública antes de que los gobiernos, las instituciones educativas y los empleadores hubieran establecido políticas integrales respecto a su uso. En cada caso, la innovación avanzó más rápido que la gobernanza. En cada caso, la sociedad terminó tratando de construir salvaguardas después de que los sistemas ya se habían arraigado profundamente en la vida cotidiana. Esas experiencias deberían servir como lecciones y no como simples notas al pie históricas.
Organizaciones sin las herramientas para evaluar
La IA de lengua de señas parece estar acercándose a una encrucijada similar. A las organizaciones se les presentan cada vez más productos que prometen mejoras en la accesibilidad, apoyo en la comunicación, traducción de idiomas o eficiencias operativas. Algunas de estas tecnologías pueden eventualmente cumplir esas promesas. Otras quizás no. El desafío es que muchas organizaciones carecen actualmente de las herramientas necesarias para distinguir entre ambas. Es posible que un distrito escolar que evalúe una plataforma de IA de lengua de señas no posea experiencia interna en lingüística de la lengua de señas. Es posible que un equipo de adquisiciones de un hospital no entienda cómo evaluar los riesgos de accesibilidad asociados con los sistemas de comunicación automatizados. Es posible que una agencia estatal no sepa qué preguntas debe hacer sobre los conjuntos de datos de entrenamiento, los métodos de validación, las mediciones de precisión o las limitaciones de implementación. Sin embargo, se espera que esas mismas organizaciones tomen decisiones de compra que podrían afectar directamente a las personas Deaf.
Las preguntas que reciben menos atención
Aquí es donde la conversación se vuelve particularmente importante. Los debates sobre la IA de lengua de señas a menudo se centran en lo que la tecnología puede hacer. Las demostraciones muestran capacidades. Los anuncios de productos enfatizan la innovación. Los artículos de investigación destacan los avances. Lo que recibe mucha menos atención es lo que sucede cuando esos sistemas fallan. ¿Qué sucede cuando un signo generado por IA es lingüísticamente inexacto? ¿Qué sucede cuando una traducción introduce malentendidos durante una interacción sanitaria? ¿Qué sucede cuando las organizaciones sustituyen la experiencia humana por tecnologías que no han sido validadas de forma independiente? ¿Qué sucede cuando una comunidad descubre que se tomaron decisiones que afectan a su lengua sin una consulta significativa? Estas preguntas no son antitecnológicas. Son preguntas de gobernanza. Toda industria madura las formula. Todo proceso de adquisición responsable debería formularlas.
Reconocimiento sin protección
El problema se vuelve aún más relevante cuando recordamos la relación histórica entre las comunidades Deaf y el reconocimiento del lenguaje. Durante generaciones, las personas Deaf lucharon para establecer la legitimidad de las lenguas de señas. Sistemas educativos enteros se construyeron sobre la suposición de que la señalización era inferior al lenguaje hablado. Se castigaba a los niños Deaf por hacer señas. Se animaba a las familias a priorizar el habla sobre el acceso lingüístico. Los defensores pasaron décadas demostrando que las lenguas de señas poseen una gramática compleja, estructuras lingüísticas sofisticadas, importancia cultural y un enorme valor. Esa lucha no fue teórica. Moldeó los resultados educativos, las oportunidades de empleo, la participación social y los derechos civiles. Hoy, las mismas lenguas que alguna vez fueron marginadas se consideran cada vez más activos valiosos capaces de impulsar sistemas de inteligencia artificial. Si bien ese cambio representa un progreso, también crea nuevas responsabilidades. El reconocimiento sin protección no es suficiente. El valor sin gobernanza no es suficiente.
¿Quién asume la responsabilidad?
Quizás el aspecto más preocupante del entorno actual es la ausencia de respuestas claras respecto a la rendición de cuentas. Si un sistema de IA de lengua de señas causa daño, ¿quién asume la responsabilidad? Si una organización implementa una tecnología que no ha sido adecuadamente validada, ¿quién responde por las consecuencias? Si las comunidades Deaf plantean inquietudes sobre la precisión, la representación o los resultados de accesibilidad, ¿qué mecanismos existen para garantizar que dichas inquietudes se aborden? Si las empresas recopilan datos de lengua de señas, ¿qué obligaciones tienen con las comunidades cuya lengua hizo posibles esos sistemas? Estas preguntas aún no tienen respuestas universalmente aceptadas. Esta falta de claridad debería preocupar a todos los involucrados, incluidos proveedores, investigadores, defensores, responsables de políticas y profesionales de adquisiciones.
Las adquisiciones como herramienta de gobernanza
Por eso las adquisiciones pueden convertirse, en última instancia, en una de las herramientas de gobernanza más importantes disponibles. A menudo se considera que las adquisiciones son una función administrativa técnica que involucra contratos, presupuestos y decisiones de compra. En realidad, las adquisiciones moldean los mercados. Las adquisiciones determinan qué productos tienen éxito. Las adquisiciones influyen en el comportamiento de los proveedores. Las adquisiciones establecen expectativas respecto a la transparencia, la rendición de cuentas y el desempeño. Las organizaciones poseen un enorme poder para exigir divulgaciones significativas antes de adquirir tecnología. Pueden exigir una validación independiente. Pueden requerir evidencias en lugar de afirmaciones de marketing. Pueden insistir en pruebas de accesibilidad. Pueden buscar la participación de las partes interesadas. Pueden hacer preguntas difíciles antes de firmar contratos en lugar de después de que surjan los problemas. Cada decisión de adquisición envía un mensaje sobre qué estándares importan.
Quién moldeará el futuro
El futuro de la IA de lengua de señas no lo determinarán únicamente los desarrolladores de software, los investigadores o los inversores. También lo determinarán los estándares que la sociedad decida establecer en torno a estas tecnologías. Estará moldeado por los responsables de adquisiciones que decidan qué preguntas deben responderse antes de la implementación. Estará influenciado por los responsables de políticas que determinen qué aspecto tiene la rendición de cuentas. Estará guiado por defensores que insistan en que la accesibilidad no puede reducirse a un lenguaje de marketing. Y lo más importante, se verá afectado por si se trata a las comunidades Deaf como participantes activos en los debates de gobernanza, en lugar de sujetos pasivos de la experimentación tecnológica.
La ventana para una gobernanza proactiva
La tecnología seguirá avanzando independientemente de si la gobernanza logra alcanzarla. Eso parece cierto. La pregunta más importante es si estamos dispuestos a construir las estructuras de rendición de cuentas necesarias para garantizar que la innovación sirva a las comunidades en lugar de simplemente dejarlas atrás. La historia sugiere que esperar hasta después de que surjan los problemas rara vez es la mejor estrategia. La oportunidad existe justo ahora para crear estándares significativos, establecer marcos de evaluación transparentes y garantizar que las comunidades Deaf tengan un lugar en la mesa mientras estos sistemas todavía se están formando. La ventana para una gobernanza proactiva permanece abierta, pero la historia también enseña que esas ventanas no permanecen abiertas para siempre.
A medida que la IA de lengua de señas continúa su rápida evolución, quizás la pregunta más importante ya no sea si la tecnología puede construirse. Cada vez parece más claro que sí puede. La pregunta más apremiante es si las instituciones que rodean esa tecnología desarrollarán el mismo nivel de madurez, rendición de cuentas y transparencia. La innovación por sí sola nunca ha garantizado resultados equitativos. La gobernanza es lo que determina si la innovación finalmente beneficia a las comunidades a las que dice servir. Las decisiones que se tomen durante los próximos años podrían influir en la accesibilidad, los derechos lingüísticos, las prácticas de adquisición y la confianza de la comunidad Deaf durante décadas. Esa realidad merece mucha más atención de la que actualmente recibe.