Skip to content
Ir directamente al texto

Riesgo Estratégico

Cuando el trabajo se delega a máquinas, la gobernanza se convierte en el trabajo

Encabezado de Novara Consulting Group Strategic Risk con un ordenador portátil holográfico seguro en un entorno de bosque.
Descargar PDF
Contenidos de audio
Escuchar también en Spotify

La conversación en torno a los agentes de IA avanza rápidamente y se está planteando de una manera que es operativamente incompleta.

La narrativa dominante se centra en la velocidad, la escala y la eficiencia. Las organizaciones se preguntan cuántas horas se pueden ahorrar, cuántos roles se pueden potenciar y con qué rapidez se pueden automatizar los flujos de trabajo. Esa línea de pensamiento trata a los agentes de IA como una capa de productividad. Asume que se colocan sobre los sistemas existentes y simplemente aceleran lo que ya existe. En la práctica, la IA agéntica hace algo más trascendental. Cambia dónde se toman las decisiones, cómo se activan las acciones y quién o qué ostenta la autoridad operativa dentro de una organización.

Un agente de IA no es una herramienta pasiva. Puede interpretar datos de entrada, aplicar lógica, generar resultados y, en muchos casos, iniciar acciones posteriores en distintos sistemas. Puede clasificar solicitudes de empleados, redactar respuestas para clientes, resumir documentación de cumplimiento normativo, evaluar candidatos, escalar incidencias e influir en cómo fluye la información entre departamentos. Una vez que esas capacidades se conectan a los sistemas empresariales, el agente ya no está apoyando el trabajo. Está participando en él. Esa distinción importa porque la participación introduce exposición. La exposición requiere control. El control requiere gobernanza.

Una vez que esas capacidades se conectan a los sistemas empresariales, el agente ya no está apoyando el trabajo. Está participando en él.

La mayoría de las organizaciones no se han adaptado a ese cambio. Están implementando herramientas agénticas dentro de entornos diseñados para responsables de decisiones humanos. Esos entornos asumen que la responsabilidad puede rastrearse hasta una persona. Asumen que la intención puede evaluarse. Asumen que los errores pueden investigarse mediante el razonamiento humano. Cuando se introduce un agente de IA sin una estructura de gobernanza correspondiente, esas suposiciones empiezan a desmoronarse. Las decisiones se ven influidas por sistemas que no asumen responsabilidad en el sentido tradicional. Las acciones se toman con base en resultados probabilísticos. Los registros se generan a una velocidad y un volumen que superan la capacidad de revisión. La organización sigue funcionando, pero la claridad en torno a la responsabilidad comienza a erosionarse.

Aquí es donde el riesgo empieza a acumularse silenciosamente. No se manifiesta de inmediato como un fallo. Se manifiesta como ambigüedad. Se envía una respuesta que nadie aprobó explícitamente. Se sigue una recomendación que nadie validó del todo. Un flujo de trabajo se ejecuta de una manera que se ajusta a la lógica del sistema, pero no a la intención organizacional. Cuando estos eventos ocurren de forma aislada, parecen manejables. Cuando ocurren en distintas áreas funcionales, como recursos humanos, cumplimiento normativo, finanzas y operaciones de atención al cliente, empiezan a formar patrones. Esos patrones son donde comienzan a surgir la exposición regulatoria, el riesgo reputacional y los fallos internos.

El problema de fondo no es que los agentes de IA sean intrínsecamente riesgosos. El problema es que se están implementando en vacíos de gobernanza. Las organizaciones se preguntan qué pueden hacer los agentes antes de definir qué se les permite hacer. Habilitan el acceso antes de establecer límites. Conectan sistemas antes de definir la supervisión. Al hacerlo, están delegando efectivamente autoridad sin documentar los términos de esa delegación.

Un enfoque centrado en la gobernanza invierte esa secuencia. Comienza definiendo el papel del agente dentro de la organización. Qué funciones respalda. A qué datos puede acceder. Qué acciones puede iniciar. Qué decisiones requieren validación humana. Qué vías de escalamiento existen cuando los resultados son inciertos o incorrectos. No se trata de consideraciones teóricas. Son requisitos operativos. Sin ellos, la organización no puede explicar de manera confiable cómo se está realizando el trabajo ni quién es responsable de los resultados.

En el contexto de las organizaciones pequeñas y medianas, lo que está en juego suele ser mayor de lo que parece. Estas organizaciones suelen tener recursos limitados. Adoptan la IA para ampliar su capacidad, reducir la carga de trabajo manual y mantenerse competitivas frente a empresas más grandes. Eso hace que la IA agéntica resulte muy atractiva. También genera un fuerte incentivo para implementarla rápidamente. La gobernanza se percibe como algo que puede abordarse más adelante, una vez que el sistema esté en marcha. En realidad, la gobernanza es lo que determina si el sistema puede sostenerse. Sin ella, las ganancias de eficiencia se ven contrarrestadas por la inestabilidad. El tiempo ahorrado en un área se pierde gestionando errores, inconsistencias e impactos posteriores en otra.

También existe una implicación estructural para la fuerza laboral que no se está abordando plenamente. A medida que los agentes de IA absorben tareas de nivel inicial y administrativas, alteran las trayectorias de desarrollo en las que las organizaciones se han apoyado históricamente. Los puestos de nivel júnior han funcionado tanto como apoyo laboral como terreno de formación. Permitían a las personas construir contexto, desarrollar criterio y avanzar hacia responsabilidades más complejas. Cuando esos puestos se reducen o se reconfiguran, la cantera de futura experiencia se vuelve menos estable. Las organizaciones pueden obtener eficiencia a corto plazo mientras debilitan simultáneamente su capacidad a largo plazo. Este no es un resultado hipotético. Es un efecto predecible de eliminar el trabajo fundamental sin rediseñar la forma en que se desarrollan las competencias.

La gobernanza, en este contexto, no se limita a la mitigación de riesgos. Se convierte en un mecanismo para preservar la continuidad organizacional. Asegura que, a medida que se automatizan las tareas, el conocimiento siga capturándose, revisándose y transfiriéndose. Define cómo evoluciona la supervisión humana en lugar de desaparecer. Crea una estructura en torno a cómo se toman las decisiones, incluso cuando esas decisiones están influenciadas por sistemas en lugar de por personas.

Un enfoque maduro hacia la IA agéntica reconoce que su implementación no es un hito técnico. Es una transición operativa. Requiere alineación entre la tecnología, las políticas y el liderazgo. Requiere una documentación clara de los procesos, estructuras de responsabilidad definidas y una evaluación continua de cómo se desempeñan los sistemas en condiciones reales. Requiere que las organizaciones traten a los agentes de IA como participantes en su modelo operativo, y no como herramientas invisibles que trabajan en segundo plano.

Las organizaciones que tengan éxito en este entorno no serán las que implementen la mayor cantidad de agentes con la mayor rapidez. Serán las que entiendan dónde reside la autoridad dentro de sus sistemas y se aseguren de que se gobierne con el mismo rigor que se aplica a los roles humanos. Sabrán cómo se toman las decisiones, cómo se activan las acciones y cómo se revisan los resultados. Podrán explicar sus sistemas a los reguladores, a los empleados y a sí mismas sin ambigüedad.

La trayectoria de los agentes de IA es clara. Su integración en las operaciones diarias seguirá expandiéndose. La pregunta no es si las organizaciones los usarán. La pregunta es si construirán las estructuras de gobernanza necesarias para respaldarlos.

Suscríbete a Novara Consulting Group

Nuevas publicaciones, directamente en tu bandeja de entrada.

Consult