Gobernanza de IA agéntica: más autonomía, más control

La adopción de agentes de inteligencia artificial avanza más rápido que la capacidad de muchas empresas de establecer cómo deben operar. En Brasil, esta diferencia ya aparece de forma bastante clara. Según el State of AI in the Enterprise 2026, de Deloitte, el 95% de los encuestados brasileños afirma que sus organizaciones planean adoptar IA agéntica en los próximos dos años, mientras que solo el 27% dice tener modelos maduros de gobernanza para esta tecnología [1]. En el resultado global de la encuesta, los porcentajes son, respectivamente, 97% y 21% [1].

Esta distancia importa porque los agentes introducen una característica que cambia la naturaleza del problema. En muchas aplicaciones tradicionales de inteligencia artificial, una persona todavía recibe una respuesta, evalúa el resultado y decide qué hacer. Un agente puede ir más allá: recibe un objetivo, accede a datos, utiliza herramientas, interactúa con sistemas y, según los permisos recibidos, ejecuta acciones.

Cuanto mayor es esa capacidad de actuar, mayores pueden ser las consecuencias de una decisión inadecuada. Al mismo tiempo, restringir excesivamente la actuación de todos los agentes puede eliminar justamente parte de las ganancias de velocidad y automatización que justifican su adopción.

Ya no basta con definir si un agente puede o no utilizarse. Hay que establecer cuánta autonomía puede recibir, en qué circunstancias y qué controles deben acompañar esa autonomía.

No todos los agentes representan el mismo riesgo

Un agente que consulta una base de conocimiento y prepara una recomendación no debería tratarse de la misma manera que otro capaz de alterar una configuración, modificar un registro, movilizar recursos o ejecutar una acción que afecte directamente a un cliente.

Esta diferencia parece simple, pero tiene implicaciones importantes. Durante los primeros años de adopción corporativa de la inteligencia artificial, gran parte de las políticas se construyó para una realidad en la que la persona permanecía claramente en el centro de la ejecución. Ya existían cuestiones relevantes de privacidad, seguridad, propiedad intelectual, calidad de las respuestas y uso de datos, pero la decisión final normalmente seguía bajo responsabilidad humana.

Con agentes, parte de esa ejecución puede delegarse a la propia IA. Un agente puede, por ejemplo, consultar información, llamar a una Application Programming Interface (API), interfaz que permite la comunicación programática entre sistemas, seleccionar una herramienta y realizar una secuencia de tareas sin que una persona deba determinar individualmente cada paso.

Por eso, aplicar el mismo modelo de control a todos puede llevar a errores en direcciones opuestas. Podemos conceder libertad excesiva a agentes capaces de producir consecuencias relevantes o imponer tantos controles a actividades de bajo riesgo que la automatización deja de tener sentido.

Gartner llama la atención justamente sobre este problema al defender modelos de gobernanza proporcionales al nivel de autonomía. La consultora prevé que, hasta 2027, el 40% de las empresas podrá degradar o desactivar agentes autónomos debido a fallos de gobernanza identificados solo después de incidentes en producción [2].

PwC llega a una conclusión similar al discutir la entrada de los agentes en la fuerza de trabajo: necesitan tener acceso suficiente para ser útiles, pero su autonomía debe seguir siendo compatible con los riesgos que la organización logra administrar. A medida que aumentan la independencia del agente y las consecuencias potenciales de sus decisiones, también deben evolucionar los mecanismos de supervisión [3].

El nivel de control debe acompañar no solo la tecnología utilizada, sino principalmente lo que el agente puede hacer y las consecuencias que sus acciones pueden producir.

En la práctica, esto significa sustituir una visión binaria, en la que el agente simplemente está autorizado o prohibido, por una evaluación más contextual. Importa comprender a qué puede acceder, qué herramientas logra utilizar, qué tipo de decisión está autorizado a tomar y cuál sería el impacto de una acción inadecuada.

La autonomía debe ir acompañada de gobernanza durante la ejecución

Esta lógica también sugiere que la autonomía no necesita concederse de una sola vez. Un agente puede comenzar analizando información y recomendando acciones. En otra etapa, ciertas tareas pueden ejecutarse mediante aprobación humana. Con mayor madurez operacional y mecanismos adecuados de control, algunas de esas acciones pueden ganar más independencia, mientras que las decisiones de mayor impacto siguen exigiendo la intervención de una persona.

Gartner trabaja con distintos niveles de autonomía y recomienda que los requisitos de gobernanza acompañen esa evolución [2]. Este enfoque permite que la organización aumente gradualmente la capacidad de actuación de los agentes a medida que desarrolla experiencia, confianza y controles suficientes para lidiar con los riesgos involucrados.

En este contexto, human-in-the-loop, expresión utilizada para describir situaciones en las que una persona participa en el proceso de decisión o ejecución de la IA, también deja de significar necesariamente aprobación humana en todas las etapas. Según la criticidad, la intervención puede exigirse solo en determinadas acciones, en situaciones excepcionales o cuando se supere algún límite definido previamente.

La supervisión humana debe contribuir a la seguridad y la responsabilidad sin eliminar las ganancias operacionales que llevaron a la empresa a utilizar agentes. Esto exige que el grado de intervención se defina de acuerdo con la criticidad de la actividad y no se aplique simplemente de forma uniforme a todas las situaciones.

La autonomía puede ampliarse progresivamente a medida que la organización desarrolla confianza, observabilidad y capacidad de intervenir cuando sea necesario.

Hay, sin embargo, otro cambio relevante. La gobernanza corporativa suele comenzar por políticas, que definen tecnologías permitidas, datos a los que se puede acceder, responsabilidades y situaciones en las que una aprobación es obligatoria. En entornos agénticos, esas reglas deben lograr llegar hasta el momento de la ejecución.

Una política escrita no impide, por sí sola, que un agente autorizado a utilizar determinado sistema realice una acción inadecuada. Gartner alerta sobre esta diferencia y prevé que, hasta 2029, al menos el 70% de las organizaciones con IA agéntica en producción en operaciones de infraestructura y tecnología podrá experimentar algún incidente material de servicio, seguridad o costo relacionado, en parte, con la insuficiencia de controles en tiempo de ejecución [4].

Esto exige transformar principios de gobernanza en mecanismos operacionales capaces de verificar identidades, aplicar permisos y límites, registrar actividades, acompañar comportamientos, controlar costos y solicitar aprobaciones cuando la situación lo exija. El objetivo es hacer que las reglas definidas por la organización sigan siendo válidas cuando el agente esté efectivamente trabajando, incluso a velocidades y volúmenes que hacen inviable un seguimiento manual permanente.

En entornos agénticos, la gobernanza debe dejar de existir solo en la política y pasar a funcionar también durante la ejecución.

Boston Consulting Group (BCG) añade otra dimensión a esta discusión. En su investigación, el 35% de las organizaciones ya tenía IA agéntica en producción, el 44% planeaba nuevos despliegues y más de un tercio esperaba conceder derechos independientes de decisión a los agentes dentro de tres años [5].

A medida que esa autonomía crece, controlar solo a qué recursos está autorizado a acceder un agente puede dejar lagunas. Un agente puede tener permisos legítimos para utilizar distintos sistemas y, aun así, elegir una secuencia inadecuada de acciones para alcanzar determinado objetivo. BCG llama a este problema authorization gap, o brecha de autorización, y destaca que la gobernanza debe considerar no solo el acceso concedido, sino también cómo se ejerce esa autonomía [5].

Este punto se vuelve particularmente importante cuando los agentes empiezan a planificar tareas, elegir herramientas e interactuar con otros agentes. La autorización deja de ser solo una verificación hecha antes de la ejecución y pasa a formar parte de un proceso continuo de gobernanza.

La gobernanza puede ser lo que permite ampliar la autonomía

Existe una aparente contradicción en la discusión sobre agentes. Cuanto mayor es la autonomía que buscamos, más mecanismos de control parecen necesarios. Vista solo como restricción, esta relación puede dar la impresión de que gobernanza e innovación caminan en sentidos opuestos.

En la práctica, una organización que no logra identificar a sus agentes, comprender sus accesos, acompañar sus acciones o intervenir ante un comportamiento inadecuado tendrá razones legítimas para limitar lo que pueden hacer. La ausencia de esos mecanismos termina estableciendo un techo para la propia autonomía que la empresa logra conceder con seguridad.

Por eso, el objetivo no debería ser maximizar la cantidad de controles ni aplicar el mismo conjunto de reglas a todos los agentes. El desafío está en establecer mecanismos proporcionales a la capacidad de actuación y a las consecuencias potenciales de cada caso, permitiendo que las actividades de menor riesgo tengan mayor fluidez mientras las decisiones más sensibles permanecen sujetas a límites y supervisión adecuados.

Este enfoque también cambia la forma de pensar la confianza. En lugar de asumir que un agente es confiable de manera permanente, la organización puede ampliar su autonomía conforme acumula evidencias sobre su comportamiento, mejora su observabilidad y desarrolla capacidad de detectar desvíos e intervenir cuando sea necesario.

La gobernanza pasa así a formar parte de la infraestructura que permite aumentar la autonomía de forma responsable, en lugar de funcionar solo como un mecanismo para restringirla.

Este quizá sea uno de los principales desafíos de la próxima etapa de adopción de la IA agéntica. Las empresas que deseen capturar las ganancias de productividad y escala que ofrecen los agentes tendrán que desarrollar, al mismo tiempo, la capacidad de conceder autonomía y los mecanismos necesarios para gobernarla.

De la visión a la práctica: ARGUS

Esta relación entre autonomía, contexto y control está directamente conectada con la propuesta de ARGUS como plataforma de Inteligencia Operacional y Agéntica.

Con capacidades de AgentOps (Agent Operations) y AI Gateway, ARGUS busca apoyar a las organizaciones en la aplicación de políticas y en el seguimiento de la actuación de los agentes a medida que pasan a acceder a modelos, herramientas y recursos corporativos. En este entorno, la gobernanza implica controlar permisos y formas de acceso, preservar la trazabilidad y acompañar aspectos como ejecuciones, decisiones, llamadas a herramientas, costos, latencia y resultados.

Esta estructura también favorece un enfoque incremental de la autonomía. Según el contexto y el riesgo, ciertas acciones pueden exigir aprobación humana, mientras que otras pueden ejecutarse dentro de límites establecidos previamente. A medida que la organización desarrolla confianza y madura sus controles, esos límites pueden evolucionar sin que se pierdan la supervisión ni la capacidad de auditoría.

Hay además una dimensión que consideramos particularmente importante en ARGUS: la actuación de un agente no ocurre de forma aislada. Una decisión puede estar relacionada con el estado de una aplicación, un cambio reciente, un evento de infraestructura, una acción humana o actividades realizadas anteriormente por otros agentes y automatizaciones.

Por eso, la inteligencia agéntica se conecta con el contexto operacional compartido. Al correlacionar información de múltiples fuentes, ARGUS busca permitir que lo que el agente hizo se comprenda junto con lo que estaba ocurriendo en el entorno cuando se tomó la decisión. Esta visión sistémica amplía la capacidad de investigar incidentes, reconstruir decisiones y comprender las relaciones entre personas, agentes, automatizaciones, aplicaciones e infraestructura.

A medida que los agentes ganan autonomía, gobernarlos exigirá más que acompañar su comportamiento individual. Será necesario comprender sus acciones dentro del entorno en el que producen consecuencias.

Conozca ARGUS y vea cómo funciona en la práctica.

Sobre el autor

Paulo Florêncio de Menezes es emprendedor, socio y cofundador de empresas como Target Solutions, BiPTT y ARGUS.

Es graduado en Procesamiento de Datos por la Universidad Federal de Amazonas (UFAM), tiene MBA en Gestión Empresarial por la Fundación Dom Cabral (FDC) y Máster Profesional en Economía por la Fundación Getulio Vargas (FGV).

En su investigación de máster desarrolló el IBEOP-IA (Índice Brasileño de Exposición Ocupacional Potencial a la Inteligencia Artificial), investigando la exposición potencial de las ocupaciones brasileñas a las capacidades de la IA mediante la combinación de datos ocupacionales, patentes de inteligencia artificial y técnicas de procesamiento de lenguaje natural.

Referencias

[1] Deloitte Brasil. State of AI in the Enterprise 2026. Resultados brasileños de la encuesta sobre adopción empresarial de inteligencia artificial e IA agéntica.

[2] Gartner. Gartner Says Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure. 26 mayo 2026.

[3] PwC. AI agents are joining the workforce. Is your governance ready?

[4] Gartner. Govern Agentic AI Infrastructure at Machine Speed. 2026.

[5] Boston Consulting Group. The Authorization Gap: Why AI Agent Governance Needs a New Approach. 2026.