Cómo gobernar la IA agéntica sin frenar la entrega
Los sistemas agénticos actúan, no solo responden. La gobernanza debe moverse a donde ocurre la acción, o se convierte en freno en lugar de control.
Por Emilio Bogantes · · 5 min de lectura
En el momento en que un sistema de IA puede tomar acciones y no solo producir texto, la gobernanza deja de ser un documento y se vuelve un asunto de ingeniería. La IA agéntica eleva el riesgo porque un error ya no es una respuesta equivocada que un humano revisa; puede ser una acción que ya ocurrió. El instinto es frenar todo con aprobaciones. Esa es la palanca equivocada.
Poné los controles en el sistema, no en la reunión
La gobernanza que vive en reuniones de revisión escala mal y frustra a los buenos equipos. La gobernanza que vive en el sistema escala con el trabajo. La meta es hacer que el camino seguro sea el camino por defecto, para que la velocidad de entrega y el control avancen en la misma dirección.
- Definí explícitamente la autoridad del agente: qué puede leer, qué puede escribir y dónde un humano debe confirmar.
- Instrumentá cada acción con trazabilidad para que el comportamiento sea observable y auditable después.
- Acotá la autonomía por reversibilidad: dejá que los agentes actúen libremente en pasos reversibles y exigí confirmación en los irreversibles.
- Evaluá de forma continua contra tareas reales, no una aceptación única, porque el comportamiento del agente se desvía cuando cambian las entradas.
La reversibilidad es la variable clave
Gran parte de la fricción en la entrega viene de tratar cada acción del agente como igualmente riesgosa. No lo es. Leer y redactar son baratos de deshacer; enviar, borrar y hacer commit no lo son. Cuando atás el nivel de confirmación humana a qué tan reversible es una acción, quitás aprobaciones a la mayoría de bajo riesgo y concentrás el juicio humano donde de verdad importa.
Anclado en entregas reales
En una herramienta de investigación legal asistida por IA, agentes en paralelo interpretaron y buscaron sobre un amplio cuerpo de protocolos legales usando OCR y generación aumentada por recuperación. La observabilidad y la validación humana eran parte del diseño, y eso permitió que el resultado apoyara de forma responsable trabajo legal vinculado a un reclamo superior a un millón de dólares. En una migración de contenido empresarial en quince sitios, el mismo patrón de IA más validación humana y pasos trazables permitió comprimir el trabajo a días en lugar de semanas sin perder control.
La IA responsable es una disciplina de ingeniería. Cuando los controles se construyen en cómo corre el sistema, la gobernanza deja de competir con la entrega y empieza a habilitarla.