Un modelo de preparación que llega demasiado tarde
La mayoría de los marcos organizacionales de preparación para la IA comparten una característica estructural que los socava. Ordenan la capacidad antes que el control. Primero se establecen los cimientos de datos, después se implementan las aplicaciones, y en tercer lugar se introduce una capa de ética o confianza, típicamente descrita en términos de directrices, principios y compromisos con la equidad y la transparencia. La secuencia es intuitiva, porque refleja cómo se financia realmente el trabajo, y es la secuencia que recomiendan la mayoría de los modelos de preparación en circulación.
También es la secuencia que produce los fallos ahora visibles en la IA aplicada al empleo. Para cuando se diseña una capa de ética, los sistemas que esta debería gobernar ya están en producción, la contratación se ha cerrado, los términos contractuales están fijados, la selección del proveedor es un hecho consumado, y las opciones prácticas de la organización se han reducido a la documentación y la divulgación. La gobernanza introducida en el paso tres no es gobernanza. Es una justificación retrospectiva de decisiones tomadas en el paso dos.
La gobernanza introducida en el paso tres no es gobernanza.
La corrección no consiste en añadir una etapa de ética más temprano. Consiste en reconocer que las directrices éticas no son el instrumento que la situación requiere, y que tratarlas como tal es en sí mismo el error.
Por qué los principios no son controles
La distinción entre un principio y un instrumento no es semántica, y se ha examinado con suficiente cuidado en la literatura sobre gobernanza como para que las organizaciones no necesiten redescubrirla.
El análisis de Salamon sobre las herramientas de gobierno establece que los objetivos de política se realizan mediante instrumentos con propiedades identificables: qué actividad autorizan, quién los administra, qué cumplimiento exigen y qué hacen observable. Un compromiso declarado no hace nada de esto. Expresa una intención sin especificar un actor, un desencadenante, un producto probatorio o una consecuencia por incumplimiento. Aplicado a la inteligencia artificial, el patrón se ha documentado directamente. El estudio de Jobin, Ienca y Vayena sobre el panorama global de las directrices de ética en IA encontró una convergencia sustancial en los principios de alto nivel, junto con una marcada divergencia en cómo se interpretaban esos principios y qué se entendía que requerían. La evaluación de Mittelstadt llegó a la conclusión más contundente de que los principios por sí solos no pueden garantizar una inteligencia artificial ética, en ausencia de las estructuras profesionales, los mecanismos de rendición de cuentas y las vías de cumplimiento que hacen operativos los principios en otros ámbitos.
Una organización que responde al riesgo de la IA en el empleo elaborando directrices éticas claras ha adoptado, por tanto, la intervención con el historial probatorio más débil. Esto no se debe a que la equidad y la transparencia sean objetivos indignos. Se debe a que una directriz no produce ningún artefacto, y toda obligación que la organización realmente enfrenta se cumple mediante artefactos.
Considérese el compromiso con la transparencia sobre el funcionamiento de los algoritmos, que aparece en casi todos los modelos de preparación. No es alcanzable en los términos planteados. Los proveedores no revelarán la arquitectura del modelo, la mayoría de los sistemas de esta categoría no son interpretables en el sentido que implica el compromiso, y una organización que ha prometido transparencia algorítmica ha prometido algo que no puede cumplir y sobre lo que se le pedirán cuentas. El compromiso alcanzable y más útil es de naturaleza distinta: evidencia documentada de resultados entre las clases protegidas, producida con una periodicidad declarada, por una parte que la organización pueda identificar. Eso es un instrumento. Especifica quién hace qué, cuándo, y qué registro resulta de ello.
La secuencia de preparación, invertida
Un modelo de preparación construido sobre instrumentos en lugar de principios ordena el trabajo de manera diferente, y la reordenación es la contribución sustantiva, no un mero cambio de presentación.
La determinación de cobertura viene primero. Antes de que cualquier sistema sea evaluado en cuanto a su capacidad, la organización debe poder responder si los resultados del sistema se usan para tomar, guiar o influir de manera material en decisiones sobre contratación, promoción, compensación, asignación, disciplina o continuidad del empleo. Esa formulación, y no la categoría de producto bajo la cual se comercializa un sistema, determina qué obligaciones se aplican en todos los regímenes que actualmente rigen la IA en el empleo. La determinación de cobertura es un instrumento porque produce un registro, asigna un responsable y activa un flujo de trabajo definido. También es económica, y es el único paso que se vuelve más costoso cuanto más se posponga.
La gobernanza de datos sigue, replanteada. Los modelos de preparación describen el objetivo de datos como una fuente única de verdad, lo cual es un objetivo de calidad de datos. El objetivo de gobernanza es diferente y más restringido: la organización debe poder establecer de qué datos se extrajo una inferencia dada, cuándo, y con qué procedencia. Los datos limpios e integrados favorecen mejores predicciones. La procedencia documentada de los datos favorece la capacidad de responder a un regulador o a un demandante sobre por qué una persona recibió el resultado que recibió. Solo lo segundo es una capacidad de gobernanza, y una organización puede poseer lo primero sin tener en absoluto lo segundo.
Los requisitos probatorios entran en la fase de contratación, no después. Este es el punto en el que la organización conserva capacidad de negociación. Documentación de auditoría de sesgo que identifique la metodología, las clases evaluadas y la población. Confirmación de que ninguna característica derivada de la ubicación geográfica, la educación o la antigüedad funciona como sustituto. Especificación del flujo de trabajo de notificación y acción adversa, y de qué parte lo ejecuta. Términos de retención y exportación suficientes para sobrevivir a una migración de plataforma durante el período de prescripción aplicable. Cada uno de estos elementos es negociable antes de la adjudicación y deja de serlo después, lo cual constituye todo el argumento a favor de esta secuenciación.
La implementación conlleva monitoreo, no afirmación. El compromiso que importa después de la implementación es la evaluación de resultados a intervalos declarados, porque bajo un estándar de impacto dispar, la creencia de una organización de que su herramienta es justa no responde a la pregunta de si los resultados difieren. Solo la medición responde a esa pregunta.
La capa de registro cierra el ciclo. Certificación vinculada a la persona, versión, fecha y vía autenticada. Retención diseñada desde la creación. La capacidad de la organización para demostrar lo que hizo es el producto de toda la secuencia, y es el único producto que una parte adversa llegará a ver.
El modelo es un ciclo más que una escalera porque la primera etapa se repite. Los sistemas ingresan a las organizaciones de manera continua, con frecuencia a través de funciones que no los clasifican como tecnología de decisión sobre el empleo, y por ello la determinación de cobertura es una condición monitoreada más que un proyecto concluido.
La inteligencia de talento como caso ilustrativo
Los modelos de preparación en circulación suelen situar la inteligencia de talento proactiva —el mapeo de las competencias existentes frente a los requisitos futuros y la generación de trayectorias profesionales basadas en datos— en la segunda etapa, antes de la capa de gobernanza. Esta ubicación es reveladora porque esa capacidad específica se encuentra entre las más fuertemente reguladas de toda la categoría de IA en el empleo, y casi nunca se reconoce como tal.
Un sistema que mapea la capacidad de los empleados y genera recomendaciones de trayectoria profesional está produciendo evaluaciones que influyen de manera material en la promoción y la asignación. La Ley Local 144 de la ciudad de Nueva York alcanza a las decisiones de promoción. La enmienda de Illinois a la Ley de Derechos Humanos, vigente desde enero de 2026, alcanza a la promoción, la disciplina y el despido, e impone obligaciones de notificación vinculadas al uso y no al resultado. El Anexo III de la Ley de Inteligencia Artificial de la UE enumera la promoción, la asignación de tareas y la evaluación del desempeño por función, no por categoría de producto. Una organización que despliega inteligencia de talento en la segunda etapa y llega a su marco de confianza en la tercera ha implementado un sistema regulado y luego ha escrito sus principios acerca de él.
Este es el costo práctico de la secuencia convencional, y no es hipotético. Es la vía ordinaria por la cual las organizaciones adquieren obligaciones que no evaluaron.
Lo que esto cambia respecto a la pregunta de consultoría
La pregunta que se plantean las organizaciones es qué herramientas de IA deberían adoptar. La pregunta que determina su exposición es cuáles de los sistemas que ya han adoptado son sistemas de decisión consecuentes, y qué evidencia poseen sobre cada uno.
Se trata de preguntas diferentes, y la segunda tiene respuesta inmediata, sin necesidad de una decisión tecnológica, a bajo costo, y con un artefacto duradero como resultado. Es también la pregunta que hace que las decisiones tecnológicas posteriores sean defendibles y no meramente entusiastas. Una organización que puede afirmar, para cada sistema que afecta a una decisión de empleo, qué hace, qué obligaciones se le aplican, qué evidencia existe y quién es responsable de la próxima revisión, ha construido algo. Una organización con un conjunto de principios éticos de IA ha escrito algo.
Integrar la inteligencia artificial en las operaciones de recursos humanos no es un proyecto tecnológico. En eso los modelos convencionales tienen razón. Es un proyecto de gobernanza, y la gobernanza se constituye mediante instrumentos, no mediante compromisos.
Referencias
- Salamon, L. M., ed. The Tools of Government: A Guide to the New Governance. Oxford University Press, 2002.
- Jobin, A., Ienca, M., y Vayena, E. “The global landscape of AI ethics guidelines.” Nature Machine Intelligence 1 (2019): 389–399.
- Mittelstadt, B. “Principles alone cannot guarantee ethical AI.” Nature Machine Intelligence 1 (2019): 501–507.
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), enero de 2023.
- ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system.
- New York City Administrative Code § 20-870 et seq. (Local Law 144 of 2021).
- Proyecto de Ley de la Cámara de Illinois 3773, 103.ª Asamblea General (2024), que modifica la Ley de Derechos Humanos de Illinois, en vigor desde el 1 de enero de 2026.
- Regulation (EU) 2024/1689, Annex III(4).
- Novara Consulting Group, «The Development Exception: Internal Mobility Platforms and the Perimeter of Employment AI Governance», mayo de 2025.