Resumen ejecutivo
La inteligencia artificial de lengua de señas, ya sea diseñada para reconocimiento, traducción o generación basada en avatares, depende estructuralmente de la captura de video o datos biométricos de usuarios Deaf y con dificultades auditivas. Esta dependencia crea un problema de gobernanza de datos que ha recibido mucho menos escrutinio institucional que las fallas lingüísticas y de comprensión documentadas en números anteriores de esta serie. En el panorama de proveedores que NCG ha revisado bajo el marco SLAT (Sign Language Access Trust), la divulgación de qué se recopila, cuánto tiempo se conserva, si se usa para entrenar futuros modelos y si se comparte con terceros es, en el mejor de los casos, inconsistente y, en el peor, inexistente. Esto no es una afirmación de que algún proveedor específico haya actuado de mala fe. La evidencia pública aún no respalda la atribución de intención a ninguna empresa nombrada, y este número no hace esa atribución. Es una afirmación de que el mercado aún no ha desarrollado un estándar de divulgación adecuado a la sensibilidad de los datos involucrados, y que esta brecha es una falla de gobernanza independiente de la conducta de cualquier proveedor individual. La postura de política que se expone a continuación sostiene que la adecuación del consentimiento y la divulgación debe tratarse como un criterio excluyente en la contratación, y no como una consideración secundaria abordada después de la evaluación funcional.
Problema de política
La captura de lengua de señas es captura biométrica. El video de las manos de una persona que hace señas, su gramática facial y su posición corporal no es un insumo incidental, comparable a una oración escrita enviada a un sistema basado en texto. Es de identificación única, codifica por definición información sobre la condición de discapacidad, y en muchas jurisdicciones cumple con la definición legal de datos biométricos o de categoría especial sujetos a una protección reforzada. La Ley de Privacidad de la Información Biométrica de Illinois (BIPA), por ejemplo, exige notificación y consentimiento por escrito antes de recopilar identificadores biométricos, e impone responsabilidad independientemente de que se demuestre un daño real. El Reglamento General de Protección de Datos (GDPR) de la Unión Europea clasifica como datos de categoría especial, en virtud del Artículo 9, aquellos datos que revelan información relacionada con la discapacidad y ciertos datos biométricos utilizados para identificación, exigiendo una base jurídica explícita más allá del consentimiento ordinario. La CCPA (Ley de Privacidad del Consumidor de California) y la CPRA (Ley de Derechos de Privacidad de California) de California imponen sus propias obligaciones de divulgación y exclusión voluntaria para la información biométrica.
A pesar de este panorama regulatorio, los productos de IA de lengua de señas dirigidos al consumidor suelen basarse en términos de servicio genéricos que no fueron redactados pensando en usuarios Deaf ni en la captura biométrica. Se observan tres deficiencias recurrentes en los análisis de proveedores que NCG ha realizado: primero, no existe una divulgación separada o visible de que el video de entrada constituye datos biométricos sujetos a protecciones legales específicas; segundo, no hay una declaración clara sobre si el video capturado o las características derivadas se conservan para el entrenamiento de modelos, y en caso afirmativo, por cuánto tiempo y bajo qué derechos de eliminación; tercero, no existe divulgación en formato accesible, es decir, el propio lenguaje de consentimiento a menudo no se traduce a ASL ni se presenta en un formato utilizable por la población cuyos datos se están recopilando. Este último punto no es un tecnicismo. Un régimen de divulgación que exige alfabetización en un segundo idioma escrito para comprender qué se hace con los propios datos biométricos no funciona como consentimiento informado para una población cuya alfabetización en inglés varía ampliamente y para la cual el ASL es el idioma principal de comprensión.
La captura de lengua de señas es captura biométrica.
Análisis institucional
La dinámica institucional que produce esta brecha es estructural, no conspirativa. La IA de lengua de señas es una categoría de producto joven, y la mayoría de los proveedores son empresas pequeñas que operan bajo las mismas plantillas genéricas de políticas de privacidad utilizadas en toda la industria del software, adaptadas mínimamente, si acaso. Los procesos de contratación a nivel institucional, mientras tanto, históricamente han evaluado estos productos según criterios funcionales: si el avatar se renderiza de forma inteligible, si el sistema de reconocimiento alcanza una precisión aceptable, si el proveedor cuenta con personal Deaf involucrado en el desarrollo. La gobernanza de datos se ha tratado como una cuestión legal o de cumplimiento informático abordada después de la decisión sustantiva de contratación, si es que se aborda en absoluto. Esta secuenciación es la verdadera falla de gobernanza. Para cuando surge una deficiencia en la gobernanza de datos, ya sea por una filtración, una investigación regulatoria o la crítica pública de la comunidad Deaf cuyos datos estuvieron involucrados, la relación institucional y el compromiso financiero ya están establecidos, y la capacidad de exigir remediación es correspondientemente más débil.
También existe una cuestión de procedencia de los datos de entrenamiento que es adyacente al problema del consentimiento pero analíticamente distinta de él. Varios sistemas de IA de lengua de señas se han construido en parte con corpus de video extraídos de contenido publicado públicamente, incluido contenido creado por usuarios y educadores Deaf de ASL en plataformas sociales. Si ese uso está dentro del alcance de los propios términos de servicio de la plataforma, si constituye uso legítimo (fair use) según la ley de derechos de autor, y si las personas cuyas señas aparecen en ese material fueron informadas de manera significativa de que su contenido se usaría para entrenar un sistema comercial de IA, son preguntas abiertas que NCG no ha verificado de forma independiente para ningún proveedor específico y que no se afirman aquí como hechos establecidos. El punto, a efectos de gobernanza, es que los responsables de contratación que evalúan estos sistemas tienen casi ninguna visibilidad sobre la procedencia de los datos de entrenamiento, y las normas actuales de divulgación en la industria no exigen a los proveedores que la proporcionen.
Implicaciones de gobernanza
Una institución que contrata IA de lengua de señas no es simplemente compradora de una herramienta de traducción. Cuando el sistema opera sobre video en vivo de estudiantes, pacientes, empleados o miembros del público, la institución también es responsable o encargada del tratamiento de datos según la mayoría de los marcos de privacidad aplicables, y hereda la exposición de gobernanza derivada de las prácticas de datos de su proveedor, independientemente de si esa exposición se divulgó en el momento de la compra. Una institución que no ha verificado las prácticas de recopilación, retención y uso para entrenamiento de un proveedor antes de la implementación no puede afirmar ante sus propias partes interesadas, reguladores o las personas Deaf cuyos datos se están capturando, que ha cumplido con sus propias obligaciones de protección de datos. Esto es cierto independientemente de la conducta real del proveedor, porque la ausencia de una divulgación verificada es en sí misma el defecto de gobernanza, independiente de si un proveedor determinado resulta estar manejando los datos de manera responsable.
Postura política de NCG
La postura de NCG es que la adecuación de la gobernanza de datos y la divulgación de privacidad deben funcionar como un criterio excluyente en la contratación de IA de lengua de señas, evaluado antes del rendimiento funcional y no después. La incapacidad de un proveedor para presentar una divulgación clara, accesible en ASL y adecuada a la jurisdicción sobre qué datos biométricos se recopilan, cuánto tiempo se conservan, si y cómo se usan en el entrenamiento de modelos, y qué derechos de eliminación existen, debe tratarse como descalificante para la implementación institucional, independientemente del rendimiento lingüístico o técnico en otros aspectos de la evaluación. Esta postura ya está operacionalizada en los dominios de Gobernanza de Datos y Privacidad, y Transparencia y Divulgación del marco SLAT, y este número sostiene que esos dominios merecen una ponderación mayor en relación con la calibración actual del marco, dada la exposición legal que enfrentan las instituciones y la barrera de comprensión que crea un lenguaje de consentimiento no accesible para la población afectada.
Consideraciones de implementación
Los responsables de contratación que evalúen IA de lengua de señas deben exigir, como condición de la respuesta del proveedor, una divulgación escrita de gobernanza de datos que cubra los cuatro elementos mencionados anteriormente, solicitar que esta divulgación esté disponible en formato de video en ASL además de en inglés escrito, y tratar la negativa o incapacidad del proveedor para presentar esta divulgación como un hallazgo adverso independiente del rendimiento funcional del sistema. Las instituciones con implementaciones existentes deben realizar una revisión retrospectiva en lugar de esperar a la renovación del contrato, dado que la exposición de gobernanza se acumula desde la fecha de implementación y no desde la fecha de descubrimiento. Cuando no se pueda verificar la procedencia de los datos de entrenamiento de un proveedor, las instituciones deben solicitar garantías contractuales sobre el origen lícito de los datos, en lugar de tratar la ausencia de respuesta como una incógnita neutral.
Referencias
- Ley de Privacidad de la Información Biométrica, 740 ILCS 14 (Illinois).
- Ley de Privacidad del Consumidor de California de 2018, en su versión modificada por la Ley de Derechos de Privacidad de California, Cal. Civ. Code § 1798.100 y siguientes.
- Reglamento (UE) 2016/679 (Reglamento General de Protección de Datos), Art. 9.
- Ley de la Comisión Federal de Comercio, 15 U.S.C. § 45 (actos o prácticas desleales o engañosas).
- Novara Consulting Group, Marco Sign Language Access Trust (SLAT), 2026.