El error más común en la innovación en accesibilidad
Los movimientos de accesibilidad han pasado generaciones luchando por la representación. La demanda ha sido tan simple como profunda: nada sobre nosotros sin nosotros. Las comunidades históricamente excluidas de la toma de decisiones no buscaban simplemente un lugar en la mesa, sino una influencia significativa sobre las políticas, tecnologías e instituciones que moldeaban sus vidas. En los espacios de accesibilidad, esta aspiración sigue siendo tan relevante hoy como lo era hace décadas. Las personas Deaf merecen representación en las conversaciones sobre acceso lingüístico. Las personas con discapacidad merecen representación en los debates sobre políticas de discapacidad. Las comunidades afectadas por la tecnología merecen representación en las decisiones relativas a su diseño e implementación. Sin embargo, en algún punto del camino ha surgido un malentendido sutil pero trascendente. La representación, aunque necesaria, se está confundiendo cada vez más con la gobernanza.
La distinción puede parecer académica, pero sus consecuencias son prácticas. La representación responde a la pregunta de quién está presente. La gobernanza responde a la pregunta de quién rinde cuentas. La representación concierne a la participación. La gobernanza concierne a la supervisión. La representación introduce perspectivas que de otro modo podrían estar ausentes. La gobernanza establece las estructuras mediante las cuales las decisiones se evalúan, se cuestionan, se monitorean y se corrigen. Ambos conceptos están relacionados, pero no son intercambiables. Un sistema puede ser representativo y, sin embargo, estar mal gobernado. Una tecnología puede incluir voces comunitarias y carecer de transparencia. Una organización puede ser culturalmente auténtica y operar sin mecanismos de rendición de cuentas significativos.
Esta confusión resulta especialmente visible durante los períodos de cambio tecnológico. Las nuevas tecnologías de accesibilidad a menudo buscan legitimidad a través de la representación. Se forman consejos consultivos. Se consulta a miembros de la comunidad. Se recluta a personas con experiencia vivida para ocupar funciones de liderazgo. Estos avances son, en general, positivos y a menudo largamente esperados. El problema surge cuando su existencia se convierte en el punto final, y no en el punto de partida, de la gobernanza. La representación pasa a considerarse prueba de que las cuestiones de gobernanza ya han sido abordadas. Las preguntas sobre supervisión, gestión de riesgos, transparencia, conflictos de interés, normas de contratación y rendición de cuentas se consideran menos urgentes porque parece que las personas adecuadas están presentes en la sala.
Tales suposiciones malinterpretan el propósito de la gobernanza. La gobernanza existe precisamente porque las buenas intenciones son insuficientes. A lo largo de la historia, los fracasos institucionales raramente se han producido porque todos los participantes carecieran de integridad. Con más frecuencia, los fracasos surgen de sistemas que carecían de salvaguardas, controles o mecanismos de corrección adecuados. Las comunidades depositan su confianza en los líderes. Las organizaciones depositan su confianza en los expertos. Los gobiernos depositan su confianza en los contratistas. Sin embargo, la confianza por sí sola no elimina la posibilidad de error. La gobernanza existe porque incluso los actores mejor intencionados pueden tomar decisiones erróneas, pasar por alto riesgos o verse influidos por incentivos que no son inmediatamente visibles.
El sector de la accesibilidad no es inmune a estas realidades. De hecho, puede ser particularmente vulnerable a ellas. El trabajo de accesibilidad suele estar impulsado por una misión. Con frecuencia, los participantes comparten un deseo genuino de mejorar los resultados para poblaciones históricamente desatendidas. Tales compromisos merecen reconocimiento. Sin embargo, los entornos impulsados por una misión pueden generar sus propios puntos ciegos. Los valores compartidos pueden reducir el escepticismo. Las relaciones comunitarias pueden desalentar las preguntas difíciles. Las críticas pueden interpretarse como oposición en lugar de indagación. Con el tiempo, las organizaciones pueden comenzar a depender de su reputación como prueba de rendición de cuentas. La confianza pasa a darse por sentada en lugar de ganarse continuamente.
La confianza debe fortalecer la gobernanza, no sustituirla.
La inteligencia artificial amplifica estos desafíos. A medida que las tecnologías de accesibilidad se vuelven más sofisticadas, las instituciones enfrentan una presión creciente para adoptar soluciones que prometen eficiencia, escalabilidad e innovación. Los proveedores buscan legitimidad. Los gobiernos buscan modernización. Las organizaciones comunitarias buscan influencia sobre los sistemas emergentes. En este entorno, la representación a menudo se convierte en una señal visible y atractiva de fiabilidad. Una tecnología asociada con la participación comunitaria parece más segura. Un proyecto que involucra a defensores respetados parece más creíble. Sin embargo, ninguno de estos indicadores responde a las preguntas de gobernanza que realmente importan. ¿Quién rinde cuentas cuando se produce un daño? ¿Qué mecanismos de supervisión existen? ¿Cómo se identifican y mitigan los riesgos? ¿Qué normas determinan la preparación para la implementación? ¿Cómo se informa a las comunidades afectadas cuando los sistemas fallan?
Estas preguntas suelen recibir menos atención que los debates sobre representación porque son menos visibles. La gobernanza rara vez genera entusiasmo. Los marcos de supervisión no inspiran discursos de apertura en conferencias. Las normas de contratación no atraen titulares. Los mecanismos de rendición de cuentas a menudo se consideran administrativos en lugar de transformadores. Sin embargo, la gobernanza determina si las innovaciones siguen siendo dignas de la confianza que reciben. Un sistema representativo sin rendición de cuentas puede volverse complaciente. Un sistema innovador sin supervisión puede volverse perjudicial. Un sistema confiable sin transparencia puede volverse vulnerable al uso indebido.
El desafío que enfrenta la innovación en accesibilidad no es, por tanto, si la representación importa. Importa. El desafío es si se le está pidiendo a la representación que cumpla tareas para las que nunca fue diseñada. La representación no puede sustituir a la supervisión. La representación no puede sustituir a la transparencia. La representación no puede sustituir a la rendición de cuentas. Las comunidades merecen líderes que comprendan sus experiencias, pero también merecen instituciones capaces de evaluar las decisiones de manera independiente de esos líderes. La confianza debería fortalecer la gobernanza, no sustituirla.
El futuro de la accesibilidad probablemente dependerá de nuestra capacidad para sostener estas dos ideas simultáneamente. Las comunidades deben estar representadas. Las comunidades también deben estar protegidas por estructuras de gobernanza que sigan siendo eficaces sin importar quién ocupe los puestos de autoridad. La representación garantiza que las voces sean escuchadas. La gobernanza garantiza que el poder rinda cuentas. Uno sin el otro produce un sistema incompleto.
Esta puede ser la lección más importante de la innovación en accesibilidad en la era de la inteligencia artificial. La pregunta ya no es si las comunidades tienen un lugar en la mesa. La pregunta es si la mesa misma ha sido diseñada para garantizar transparencia, rendición de cuentas y gestión responsable. La representación nos dice quién habla. La gobernanza nos dice si el sistema es digno de confianza cuando nadie está mirando.