El registro le pertenece al firmante: una respuesta a Jeff Panasuik

En resumen

"The Second Language Condition" de Jeff Panasuik ^[7] sostiene que el SL2T de Google DeepMind eliminó el glosado pero conservó la lógica organizadora que el glosado solía exponer: un objetivo de salida en inglés escrito que decide qué cuenta como éxito y qué se convierte en el registro autorizado. Él lee mi "The Coordinates of Trust" ^[5] como preciso dentro de un marco de gobernanza y limitado por él, y termina preguntándole al SLAT Index qué salvaguarda le da a una institución algo que no puede reinterpretar, negociar o ignorar discretamente.

Acepto su corrección metodológica sin reservas, y acepto que la dirección es una propiedad de la arquitectura y no solo del despliegue. En lo que me aparto de él es en la afirmación de que la gobernanza y la arquitectura se sitúan en ejes separados. Cada condición que él nombra como capaz de cambiar su lectura es una condición de gobernanza, y el problema arquitectónico que identifica tiene respuesta a través de una: la fuente en señas, no la salida en inglés, debe ser el registro de lo que dijo una persona Deaf, y el derecho a un intérprete humano cualificado debe pertenecer a la persona Deaf en lugar de a la institución que compra el sistema.

Lo que Jeff acierta

El punto metodológico da en el blanco, y quiero reconocerlo con claridad en lugar de matizarlo. "The Coordinates of Trust" analizó una tecnología de acceso para personas Deaf usando dos documentos producidos mediante un proceso que el desarrollador convocó, facilitó y financió ^[4][1]. No documentó ningún paso de verificación por personas Deaf, no presentó ninguna evaluación independiente de la salida del modelo publicado, y no citó ninguna fuente en lengua de señas. Jeff tiene cuidado en decir que no afirma que esos pasos nunca ocurrieran, solo que mi análisis publicado no demuestra que ocurrieran. Esa es la misma distinción entre ausencia y falta de documentación que mi artículo le exigió a DeepMind, y me vincula a mí exactamente como les vincula a ellos. Mi hallazgo de que la evaluación orientada a la comunidad más sólida asociada a una versión previa al lanzamiento identificó un vacío en el registro del desarrollador; Jeff tiene razón en que mi artículo nombró el vacío sin cerrarlo.

También tiene razón sobre el lugar que ocupaba el glosado en la historia. Eliminar el glosado fue la decisión arquitectónica más contundente del lanzamiento, y una crítica que no pueda reconocer eso no está dialogando realmente con el sistema. Su lectura de los modos de falla divulgados como un patrón, en lugar de una lista, es lo más útil de su artículo. La gramática no manual, la profundidad y el contacto, los referentes ambientales, la lengua, y el discurso a través de turnos no son cinco vacíos de ingeniería no relacionados. Son las partes de una lengua de señas que un objetivo lineal escrito no tiene dónde colocar, y las manos, que un objetivo escrito sí puede recibir, son lo que el sistema capta mejor.

Donde los marcos se encuentran

Jeff escribe que la calidad de la gobernanza y la dirección arquitectónica son ejes separados, y que una lectura de cumplimiento puede medir el primero sin resolver el segundo. Como descripción de lo que puede hacer la revisión de un solo documento, eso es justo. Como descripción de cómo cambia realmente la arquitectura, creo que es incompleto, y su propia sección final muestra por qué.

Observe las cinco condiciones que él dice que cambiarían sustancialmente su lectura: que las personas sordas signantes posean la mayoría de los votos de gobernanza y la discrecionalidad presupuestaria; el consentimiento colectivo libre, previo e informado sobre el corpus; declaraciones de datos publicadas y fichas de modelo que cubran el consentimiento, la compensación y la cobertura no manual; una evaluación frente a una regulación vinculante; y un intérprete cualificado garantizado en el contrato de adquisición. Ni una sola de ellas es una especificación arquitectónica. Cada una es una afirmación sobre quién decide, quién consiente, qué debe divulgarse, qué ley se aplica y qué debe garantizar un contrato. Son condiciones de gobernanza, y son buenas.

Esa convergencia es el punto central. Un objetivo de salida no es una ley de la naturaleza; es una decisión de diseño tomada por personas con autoridad para tomarla, financiada por compradores que la aceptan, y mantenida en vigor por regímenes de evaluación que la recompensan. Jeff tiene razón en que una lista de verificación de cumplimiento no puede ver el corredor detrás de una puerta cerrada con llave. Pero los únicos instrumentos que alguna vez han redirigido un corredor son los que cambian quién tiene las llaves: la autoridad decisoria, las cláusulas contractuales exigibles, y los requisitos de evidencia que un proveedor no puede satisfacer simplemente describiendo sus intenciones. La gobernanza no es un eje diferente de la arquitectura. Es la palanca mediante la cual se disputa la arquitectura.

Dirección, revisitada

Mi argumento original fue que SL2T es un sistema de comprensión: la máquina lee a la persona Deaf y una parte oyente lee a la máquina. Cuando un avatar les signa mal a un espectador Deaf, el daño es un fallo de acceso. Cuando un modelo transcribe mal a una persona Deaf signante, el daño es la atribución errónea, porque palabras que la persona nunca produjo pueden entrar en un registro escrito bajo su nombre. Traté ese riesgo como algo que el marco de uso respaldado contiene mientras ese marco se mantenga.

La corrección de Jeff es que el confinamiento no cambia la dirección. Una puerta cerrada con llave puede detener la entrada, pero no cambia hacia dónde conduce el corredor, y los propios materiales de lanzamiento anticipan APIs en la nube, posibles pesos abiertos, más idiomas y eventualmente generación. Una vez que los integradores tienen la capacidad, el público objetivo del límite ya no es el usuario Deaf sino el empleador, la escuela, el servicio de policía o la oficina de beneficios que decide cómo incorporarlo. Acepto esto. La dirección es una propiedad del sistema, y mi artículo subestimó cuán temporal es probable que sea el marco.

Lo que yo añadiría es lo que esto implica para un evaluador. Si la dirección es arquitectónica, entonces todo despliegue de un sistema de señas a texto hereda por defecto el riesgo de atribución errónea, y la carga debería recaer sobre quien quiera introducir la salida de la máquina en un registro, no sobre la persona Deaf que tiene que detectar el error después. Eso replantea la pregunta de gobernanza. Ya no se trata de si el proveedor ha trazado un límite alrededor de usos peligrosos. Se trata de si algo impide que la salida se convierta en el registro desde el principio.

La precondición, y dónde debería residir la verificación

El pasaje más contundente del artículo de Jeff concierne a la propia suposición del lanzamiento de que los usuarios tienen suficiente alfabetización funcional en inglés para verificar el texto generado. Describí eso como un riesgo residual que recae con más fuerza sobre los usuarios a quienes una herramienta centrada en las señas podría servir mejor. Jeff argumenta que es más que una distribución de riesgo: es cómo funciona la salvaguarda principal, porque el signante permanece en el circuito como verificador pero debe verificar en inglés escrito. Cita un estudio de 2026 sobre adultos Deaf usuarios de ASL ^[6]. El estudio no evaluó la traducción por IA, y Jeff lo dice, pero es suficiente para mostrar que una salvaguarda que requiere que un signante audite un inglés fluido no puede asumirse igualmente disponible para todos los que el sistema afirma servir.

Estoy de acuerdo, y creo que el remedio se deriva directamente de su propio análisis de lo que el sistema trata como el registro autorizado. Si la salida en inglés es el registro, la verificación tiene que ocurrir en inglés, y la precondición es ineludible. Si la fuente en señas es el registro, no lo es. El video original en señas, conservado bajo el control del signante, se convierte en la evidencia de lo que dijo la persona, y el texto en inglés se convierte en lo que realmente es: una interpretación, atribuible a una máquina, sin ninguna validez como las palabras de la persona hasta que esta lo haya confirmado en su propio idioma. La confirmación puede entonces adoptar formas que no dependen en absoluto de la alfabetización en inglés, incluida la revisión de la interpretación por un intérprete cualificado o un intermediario Deaf elegido por el signante, y el derecho de la persona a impugnar la interpretación frente a la fuente.

Esto no es tanto un principio novedoso como uno familiar aplicado a un artefacto nuevo. Una transcripción no es testimonio; el testimonio lo es. Una declaración interpretada en un entorno legal se contrasta con quien habla, no al revés. Los sistemas de señas a texto invierten esa relación por defecto, y la inversión es exactamente la continuidad con Milán que Jeff identifica: la competencia en la lengua mayoritaria se convierte en la condición para ser correctamente representado con las propias palabras. Hacer que la fuente en señas sea el registro elimina esa condición de la salvaguarda, incluso mientras el inglés escrito sigue siendo el objetivo de salida del sistema.

Respondiendo a la pregunta

Jeff pregunta qué salvaguarda le da a una institución algo que no puede reinterpretar, negociar o ignorar discretamente. Mi respuesta es que ninguna salvaguarda en manos de la institución puede superar esa prueba, porque lo que sea que el comprador posea, el comprador puede renunciar a ello. Las salvaguardas que sobreviven a la adquisición son las que pertenecen a la persona Deaf y la acompañan a cada despliegue. Nombraría dos.

1. Un derecho invocable por el usuario a un intérprete humano cualificado. No una recomendación en una guía ni una opción de respaldo que la institución pueda ofrecer a su discreción, sino una cláusula contractual que la persona Deaf pueda invocar en cualquier momento de una interacción, con un remedio establecido si se le niega y sin poder de la institución para renunciar a ella en nombre de la persona. Esto responde a la preocupación de mayor rango del propio comité asesor, que Jeff señala que los materiales de lanzamiento no garantizan. También tiene un fundamento legal anterior a la IA: según el Título II de la ADA, una entidad pública debe dar consideración primordial a la ayuda auxiliar que solicite el individuo [ncg_citep key="cfr35160"], y el artículo 9(2)(e) de la CDPD nombra a los intérpretes profesionales de lengua de señas entre las formas de asistencia en vivo que los Estados parte deben proporcionar [ncg_citep key="crpd2006"]. La elección ya recae legalmente en la persona. La adquisición debería dejar de trasladarla discretamente al comprador.
2. La fuente en señas es el registro. El inglés generado por máquina nunca entra en un archivo como las palabras de una persona Deaf a menos que esa persona lo haya confirmado en su propio idioma, la fuente en señas se conserve bajo su control, y cualquier disputa se resuelva frente a la fuente y no frente al texto. Esta es la salvaguarda que responde a la precondición de Jeff, porque saca la alfabetización en inglés de la vía de verificación sin pretender que el objetivo de salida haya cambiado.

Ambas salvaguardas comparten una propiedad que un límite impuesto por el proveedor no tiene. No son afirmaciones sobre para qué no debería usarse el sistema. Son derechos que se adhieren a la persona, por lo que vinculan a cualquier integrador, agencia o empleador que termine teniendo la capacidad, incluidos los que llegan después de la API en la nube y los pesos abiertos.

Un límite escrito en un PDF aborda la intención del proveedor. Un derecho en manos de la persona Deaf aborda cada despliegue que viene después.

Heather M. Grizzle

Lo que esto cambia en SLAT

Jeff le planteó su pregunta a mi Index y a las cláusulas de adquisición en su propio trabajo, así que es justo decir qué cambia su artículo de mi lado. Tres cosas.

Primero, el vacío metodológico. Una lectura de gobernanza de una tecnología de acceso para personas Deaf que no documenta ningún paso de verificación por personas Deaf puede describir el registro de un proveedor pero no puede ponerlo a prueba de manera independiente. Estoy constituyendo un organismo de revisión Deaf para el Index, y hasta que esté instalado lo diré en cualquier cosa que publique en lugar de dejar la ausencia sin documentar. Mi trabajo posterior sobre SL2T llevará esa declaración hasta que se cierre el vacío.

Segundo, la validación de la salida. El hallazgo más profundo de las evaluaciones de SLAT hasta ahora ^[8] es que ningún proveedor ha publicado una evaluación independiente de su salida en señas. He redactado un protocolo de validación de salida que trata la participación de evaluadores Deaf como algo definitorio en lugar de adicional, excluye de la muestra el contenido demostrativo o suministrado por el proveedor, e informa la atribución errónea por separado de la precisión, de modo que la falla que Jeff y yo describimos no pueda diluirse mediante promedios. Es un borrador, y publico su existencia aquí para que se me pueda exigir que lo termine.

Tercero, la regla del registro. El Index ya pregunta si un usuario Deaf tiene una vía hacia un ser humano cualificado. Todavía no pregunta si la salida de la máquina puede entrar en un registro como las palabras de una persona sin la confirmación de esa persona en su propio idioma. El artículo de Jeff me convence de que debería hacerlo, y propondré eso como condición en la próxima revisión del Index. La pregunta con la que él cerró merece una mejor respuesta que una calificación de suficiencia, y la mejor respuesta que tengo es un derecho que posee la persona Deaf en lugar de una promesa que hace la institución.