AgentOps
Gobernanza de agentes de IA: ¿por dónde empezar y cuándo ampliar?
Gobernar agentes de inteligencia artificial puede parecer una tarea que exige, desde el primer día, una política corporativa completa, una arquitectura definitiva y controles preparados para todos los escenarios posibles.
Esta expectativa suele crear dos problemas. Algunas organizaciones postergan cualquier iniciativa hasta que todas las respuestas estén disponibles. Otras comienzan a experimentar sin definir responsables, límites o criterios para interrumpir la ejecución.
Existe un camino más práctico. La gobernanza puede comenzar con un flujo delimitado, reglas proporcionales al riesgo y evidencias suficientes para decidir si el agente debe permanecer restringido, ser ajustado o avanzar a una nueva etapa.
La implantación gradual no significa operar sin control. Significa aumentar autonomía, alcance e integración solo cuando la organización puede demostrar que aprendió a supervisar la etapa anterior.
Por qué empezar en pequeño
Los agentes de IA no producen solo respuestas. Según su configuración, pueden consultar datos, acceder a herramientas, iniciar tareas y alterar sistemas. Cuanto mayor sea su autonomía, más importante se vuelve definir quién responde por el agente, qué acciones están autorizadas y cómo se acompañará la operación.
Una investigación global de Deloitte con líderes de negocios y tecnología indicó que solo el 21% de las organizaciones participantes consideraba maduro su modelo de gobernanza para IA agéntica [1]. El dato no significa que todas deban esperar hasta alcanzar madurez plena. Muestra que ampliar rápidamente una iniciativa puede poner la escala por delante de la capacidad de supervisión.
Comenzar por un proceso de alcance conocido permite observar al agente en condiciones reales sin exponer a toda la organización al mismo tiempo. También facilita distinguir problemas del modelo, de los datos, de las integraciones, de los permisos y del propio diseño del proceso.
La implantación gradual comienza antes del piloto
El primer paso no es elegir la herramienta. Es seleccionar un flujo en el que objetivo, responsable y límites puedan describirse con claridad.
Un buen candidato inicial tiene entradas identificables, resultado verificable y consecuencia controlable. También debe permitir revisión humana cuando haya duda o excepción. Procesos con decisiones irreversibles, impacto elevado sobre personas o acceso amplio a sistemas críticos exigen mayor preparación y pueden no ser adecuados para la primera implantación.
Antes de iniciar el piloto, la organización necesita responder preguntas simples, pero decisivas. ¿Qué problema deberá resolver el agente? ¿Quién es responsable del resultado? ¿A qué datos y sistemas podrá acceder? ¿Qué acciones podrá ejecutar? ¿Cuándo deberá pedir aprobación? ¿Cómo se registrará su actividad? ¿Qué hará que el equipo interrumpa el uso?
Estas respuestas forman un contrato operacional inicial. No necesita anticipar toda la política corporativa, pero debe ser lo bastante específico para orientar configuración, prueba, supervisión y decisión.
Cinco etapas para ampliar con control
La implantación puede avanzar en cinco etapas, con criterios explícitos entre ellas.
-
Identificar y delimitar. Registrar el objetivo, el responsable, los usuarios, los datos, las integraciones, las acciones permitidas y las consecuencias de una falla. En esta etapa, la organización también define lo que no será delegado.
-
Probar en ambiente controlado. Evaluar al agente con casos representativos, incluyendo situaciones comunes, excepciones y entradas inadecuadas. El objetivo no es probar que nunca fallará. Es comprender cómo falla, qué evidencias produce y cuándo necesita intervención humana.
-
Operar con alcance restringido. Liberar al agente para un grupo, proceso o volumen limitado. Los permisos deben seguir el menor privilegio necesario. El equipo acompaña resultados, desvíos, intervenciones, accesos y efectos sobre los sistemas involucrados.
-
Revisar y decidir. Comparar el comportamiento observado con los criterios definidos antes del piloto. La decisión puede ser ampliar, mantener el alcance, reducir la autonomía, corregir el diseño o cerrar la iniciativa.
-
Expandir por capas. Aumentar usuarios, volumen, integraciones o autonomía por separado. Cada aumento modifica el riesgo y debe generar una nueva verificación, incluso cuando el agente ya demostró buen desempeño en la etapa anterior.
Esta lógica evita tratar el piloto como una autorización permanente. Una solución aprobada para sugerir una acción no está automáticamente aprobada para ejecutarla. Un agente validado en un área tampoco está automáticamente autorizado a operar en otra, con datos, reglas e impactos diferentes.
Gobernanza proporcional al riesgo y a la autonomía
El NIST organiza la gestión de riesgos de IA en cuatro funciones conectadas: gobernar, mapear, medir y gestionar [2]. En la práctica, esto significa que políticas y responsabilidades necesitan conectarse al contexto del uso, a las evaluaciones realizadas y a las decisiones tomadas durante la operación.
Para agentes, la intensidad de los controles debe acompañar al menos cuatro dimensiones: autonomía, acceso, consecuencia y reversibilidad.
Un agente que consulta información pública y prepara un borrador exige un nivel de supervisión distinto de aquel que accede a datos internos, actualiza registros o activa proveedores. La misma tecnología puede ocupar posiciones de riesgo muy distintas según la tarea y los permisos recibidos.
PwC recomienda tratar a los agentes como participantes de una fuerza laboral digital, con identidad, rol, permisos específicos y registros auditables. La supervisión humana debe aumentar conforme crecen la autonomía y la consecuencia de las acciones [3].
Esto ayuda a evitar dos extremos. El primero es aplicar el mismo proceso pesado a cualquier experimento, incluso de bajo riesgo. El segundo es usar la clasificación inicial como justificación para reducir controles mientras el agente gana nuevas capacidades.
Qué observar durante la operación
Una implantación gradual necesita producir evidencias para la próxima decisión. Evaluar solo la calidad de la respuesta final es insuficiente.
Es necesario acompañar qué tareas fueron ejecutadas, qué modelos y herramientas se utilizaron, qué permisos se activaron, dónde ocurrieron fallas y cuántas veces una persona necesitó revisar, corregir o asumir la actividad. También importa registrar costo, tiempo de ejecución y efectos sobre los sistemas que participan del proceso.
Los criterios no necesitan ser idénticos para todos los agentes. Un agente de apoyo puede evaluarse principalmente por utilidad y retrabajo. Un agente que ejecuta acciones necesita demostrar, además de calidad, que respeta límites, produce trazabilidad e interrumpe el flujo cuando encuentra condiciones no autorizadas.
Esta observación transforma la gobernanza en rutina operacional. Sin ella, la organización puede mantener políticas bien escritas y aun así no saber cómo se comporta el agente en producción.
Cuándo no ampliar
Ampliar no es la única medida de éxito. Mantener un agente en alcance restringido puede ser la decisión correcta cuando genera valor, pero aún depende de supervisión frecuente. Cerrar un piloto también puede evitar que un problema de diseño se transforme en riesgo operacional.
La ampliación debe interrumpirse cuando no hay responsable claro, cuando los permisos exceden la necesidad de la tarea, cuando los registros no permiten reconstruir una ejecución o cuando las excepciones dependen de improvisación. Lo mismo vale cuando el equipo no puede distinguir fallas del agente de problemas en los datos, integraciones o servicios que sostienen el proceso.
Un estudio de BCG sobre garantía de IA en el sector público destaca la importancia de criterios proporcionales, responsabilidades utilizables y evaluación a lo largo del ciclo de vida, en lugar de una aprobación estática concentrada al inicio [4]. Aunque el contexto de la investigación sea gubernamental, la idea es útil para empresas: cada cambio relevante en el uso debe renovar el análisis, y no heredar automáticamente la autorización anterior.
De la gobernanza definida a la supervisión operacional: ARGUS
A medida que la implantación avanza, la gobernanza necesita salir de los documentos y aparecer en la operación. ARGUS puede apoyar esta etapa como plataforma de AgentOps, concentrando información de los agentes integrados al ambiente y conectando identidad, versión, dependencias y contexto operacional.
Con monitoreo, orquestación y gobernanza, ARGUS puede contribuir a acompañar ejecuciones, interacciones con modelos y herramientas, consumo, fallas y otros indicadores disponibles en cada implementación. Esta visibilidad ayuda a comparar el comportamiento observado con los límites definidos para cada etapa de la implantación.
Los recursos de AI Gateway también pueden apoyar la aplicación de políticas de acceso a los modelos integrados y el registro de las interacciones. Las reglas de negocio, los criterios de riesgo y la decisión de ampliar la autonomía siguen siendo responsabilidades de la organización.
ARGUS no sustituye el diagnóstico organizacional, el diseño del proceso, la definición de responsables ni la preparación de la gobernanza. Su contribución comienza cuando los agentes se integran al ambiente monitoreado y la organización necesita transformar sus decisiones en supervisión operacional continua.
Sobre Target Solutions
Target Solutions actúa desde hace más de 15 años apoyando organizaciones en la evolución de sus operaciones de infraestructura, monitoreo, observabilidad, automatización e inteligencia operacional.
A lo largo de este recorrido, participó en proyectos en ambientes complejos de Telecom, Tecnología, Gobierno, Energía y grandes empresas, contribuyendo a aumentar la eficiencia operacional y la confiabilidad de los servicios.
Con el avance de los agentes de IA, esta experiencia también apoya la preparación de las organizaciones para adoptar, gobernar y operar esta nueva clase de tecnología.
Creemos que una implantación gradual necesita combinar decisión organizacional, preparación técnica y evidencia operacional. Aumentar el alcance de un agente sin aumentar la capacidad de supervisión puede transferir velocidad al proceso e incertidumbre a la operación.
Además de la plataforma, Target Solutions ofrece servicios que pueden abarcar diagnóstico del ambiente, inventario de iniciativas, evaluación de madurez, definición de gobernanza, estructuración de procesos, diseño de arquitectura, integraciones, observabilidad y modelo operacional. Cuando tenga sentido para el ambiente, Target Solutions también puede apoyar la implantación y la integración de una plataforma como ARGUS.
Conozca los servicios de Target Solutions para agentes de IA y converse con nosotros sobre cómo estructurar este recorrido en su organización.
Sobre el autor
Paulo Florêncio Santos de Menezes es socio y cofundador de Target Solutions, con actuación en infraestructura, monitoreo, observabilidad, automatización, operaciones de TI y gobernanza de agentes de IA.
Es graduado en Procesamiento de Datos por la Universidad Federal de Amazonas, posee MBA en Gestión Empresarial por la Fundação Dom Cabral y Máster Profesional en Economía por la Fundación Getulio Vargas.
En su investigación de Máster, desarrolló el IBEOP-IA (Índice Brasileño de Exposición Ocupacional Potencial a la Inteligencia Artificial), investigando la exposición potencial de las ocupaciones brasileñas a las capacidades de la IA mediante la combinación de datos ocupacionales, patentes de inteligencia artificial y técnicas de procesamiento del lenguaje natural.
Referencias
[1] Deloitte. Business and IT leaders report AI agents are scaling faster than their guardrails. 2026.
[2] NIST. Artificial Intelligence Risk Management Framework y Generative Artificial Intelligence Profile.
[3] PwC. AI agents as workforce counterparts: what governance should look like. 2026.
[4] Boston Consulting Group. Trust Imperative 5.0: Governing AI at Scale. 2026.
[5] Deloitte. Agentic AI: Design for scale or prepare to fail. 2026.
[6] PwC. As AI agents take on more work, trust should become operational. 2026.