Accountability na IA Agêntica: quem responde quando um agente toma uma decisão errada?

Durante muito tempo, a responsabilidade por uma decisão corporativa esteve associada, de alguma forma, a uma pessoa. Mesmo quando sistemas e algoritmos apoiavam o processo, normalmente era possível identificar quem analisou uma informação, aprovou uma operação ou autorizou determinada ação.

A IA Agêntica começa a alterar essa dinâmica. Um agente pode receber um objetivo, consultar informações, utilizar ferramentas, interagir com outros sistemas e executar ações sem que uma pessoa aprove individualmente cada passo. À medida que essa autonomia cresce, surge uma questão que as empresas precisarão responder de maneira muito concreta: se uma decisão do agente produzir uma consequência indesejada, quem responde por ela?

É nesse contexto que accountability ganha importância. O termo se refere, neste artigo, à existência de uma responsabilização clara pelas decisões, ações e consequências, incluindo a capacidade de identificar quem possuía autoridade, quem delegou essa autoridade e quem deveria supervisionar sua utilização.

A questão está se tornando mais urgente porque a autonomia avança mais rapidamente do que os controles. O Applied AI Index 2026, da Boston Consulting Group (BCG), baseado em uma pesquisa com 1.330 executivos e tomadores de decisão, mostra que as empresas esperam ampliar significativamente o poder de decisão concedido aos agentes nos próximos anos [1].

Até 2030, 42% das empresas esperam conceder aos agentes de IA autonomia real para tomar decisões sem aprovação humana, mas apenas 5% possuem hoje o conjunto completo de controles necessários para fazer isso com segurança [1].

Essa diferença não representa apenas um problema técnico. Quando uma organização delega autoridade a um agente, ela também precisa preservar a capacidade de explicar de onde veio essa autoridade e quem responde pelas condições sob as quais ela foi exercida.

Quando a decisão é delegada, a responsabilidade não pode desaparecer

A primeira tentação diante de um erro cometido por um agente pode ser procurar quem executou a ação. Em sistemas tradicionais, essa associação costuma funcionar porque o executor normalmente é também uma pessoa ou uma aplicação cujo comportamento foi previamente definido.

Com agentes, essa relação fica menos direta. O agente pode ter escolhido uma ferramenta, definido uma sequência de passos ou tomado uma decisão intermediária que ninguém determinou explicitamente. Ainda assim, alguém definiu o objetivo que ele deveria perseguir, estabeleceu seus limites, concedeu seus acessos e decidiu que aquela atividade poderia ser executada com determinado nível de autonomia.

A Deloitte sintetiza essa mudança ao argumentar que, quando agentes passam a realizar o trabalho, a responsabilidade não passa para o agente. Ela permanece com as pessoas que criaram as condições de operação, estabeleceram os limites e decidiram quanta autoridade seria concedida ao sistema [2].

Isso não significa que qualquer falha possa ser atribuída automaticamente a uma única pessoa. Um agente corporativo pode envolver uma área de negócio que definiu sua finalidade, uma equipe técnica que o implementou, responsáveis pelos dados utilizados, profissionais de segurança e risco que estabeleceram controles e, eventualmente, fornecedores externos que disponibilizaram modelos ou ferramentas.

A responsabilidade pode, portanto, ser distribuída. O problema aparece quando essa distribuição se transforma em indefinição.

Delegar uma decisão a um agente não significa delegar a responsabilidade pelas consequências. A empresa continua precisando saber quem definiu sua finalidade, quem estabeleceu seus limites e quem autorizou sua atuação.

A Deloitte Legal recomenda justamente que as organizações definam responsabilidades, processos de revisão, limites de aprovação e pontos de intervenção antes da implantação dos agentes, envolvendo de forma coordenada as áreas jurídica, tecnológica e de negócio [3].

Há uma consequência importante nessa mudança. Se a organização só começar a discutir responsabilidade depois que um agente causar um incidente, provavelmente estará tentando reconstruir decisões que deveriam ter sido definidas anteriormente.

Accountability depende de conseguir reconstruir a cadeia da decisão

Saber formalmente quem é o responsável por um agente é necessário, mas não suficiente. Quando algo dá errado, a empresa precisa conseguir reconstruir o que aconteceu.

Imagine um agente autorizado a analisar uma situação operacional e executar determinadas ações. Durante sua atuação, ele consulta dados, utiliza uma ferramenta, chama outro agente e toma uma sequência de decisões intermediárias antes de chegar ao resultado final. Se a consequência for inadequada, identificar apenas a última ação executada oferece uma visão incompleta do problema.

Será necessário compreender qual objetivo havia sido atribuído ao agente, quais permissões estavam disponíveis, que informações foram utilizadas, quais ferramentas foram acionadas, que decisões ocorreram ao longo do processo e de onde veio a autoridade para executá-las.

A BCG argumenta que os sistemas corporativos deveriam conseguir identificar não apenas o agente que realizou determinada ação, mas também a pessoa, processo ou instância de governança em nome da qual ele estava atuando. A delegação precisa permanecer rastreável ao longo da cadeia, inclusive quando um agente chama outras ferramentas ou agentes [4].

Essa rastreabilidade é especialmente importante porque os registros tradicionais nem sempre foram concebidos para esse tipo de operação. Um sistema pode registrar a credencial utilizada para realizar uma chamada e, ainda assim, não revelar que aquela ação correspondia a uma etapa de um workflow iniciado anteriormente, sob uma delegação específica.

Accountability exige mais do que saber qual agente executou a última ação. É preciso conseguir reconstruir a cadeia de autoridade, decisões, dados, ferramentas e delegações que levou até ela.

A PwC segue uma direção semelhante ao recomendar que cada agente tenha identidade verificável, função definida, permissões específicas para a tarefa e registros auditáveis de suas atividades [5]. Esses elementos ajudam a preservar uma relação entre autonomia e responsabilidade à medida que os agentes passam a operar em processos cada vez mais complexos.

O tema também começa a mudar a própria função dos gestores. Segundo o Gartner, eles deixam de supervisionar apenas pessoas e tarefas e passam progressivamente a responder também pelo comportamento, pelos resultados e pelos riscos dos agentes autônomos que atuam com suas equipes [6].

Nesse mesmo estudo, 75% dos Chief Human Resources Officers (CHROs), ou diretores de Recursos Humanos, afirmam que os gestores estão mais sobrecarregados do que nunca, indicando que a introdução de agentes pode aumentar, e não simplesmente eliminar, parte da complexidade de supervisão [6].

Isso ajuda a explicar por que accountability não pode ser resolvida apenas adicionando uma aprovação humana a cada etapa. O desafio está em definir onde o julgamento humano precisa permanecer, quais decisões podem ser delegadas e quais evidências precisam ser preservadas para que a organização continue capaz de responder pelas consequências.

Responsabilidade distribuída não pode significar responsabilidade indefinida

À medida que agentes atravessam diferentes áreas e sistemas, dificilmente uma única função conseguirá controlar todos os aspectos envolvidos. Negócio, tecnologia, segurança, dados, risco, jurídico e fornecedores podem participar de maneiras diferentes do mesmo processo.

A Deloitte observa que a responsabilidade pelos resultados da IA já está distribuída entre diferentes funções corporativas e que essa característica tende a permanecer. A recomendação é estabelecer direitos de decisão claros e identificar responsáveis pelas dimensões de negócio, tecnologia e supervisão de risco, preservando também uma responsabilidade final pelos resultados relevantes [7].

Essa distinção é importante porque colaboração entre áreas não elimina a necessidade de accountability. Várias funções podem participar da gestão de um agente, mas a organização precisa evitar uma situação em que, diante de um incidente, cada uma consiga apontar para outra.

A BCG coloca o problema de maneira bastante prática: a empresa deveria conseguir identificar quem aprovou a implantação do agente, quem definiu seu propósito e seus limites, quem concedeu seus acessos e quem possui autoridade para interromper sua atuação [4].

Esse último ponto merece atenção. Mecanismos de interrupção, revogação de acesso ou escalonamento têm pouco valor se não estiver claro quem pode utilizá-los e em quais circunstâncias. Accountability envolve, portanto, tanto responder por aquilo que aconteceu quanto possuir autoridade para agir quando o comportamento do agente deixa de ser aceitável.

Quanto mais distribuída se torna a execução entre pessoas, sistemas e agentes, mais explícita precisa ser a cadeia de responsabilidade que conecta a autonomia concedida às consequências produzidas.

Essa talvez seja uma das mudanças menos visíveis trazidas pela IA Agêntica. A tecnologia permite distribuir execução e decisão em uma escala inédita, mas as organizações não podem permitir que a responsabilidade se fragmente na mesma velocidade.

O desafio não é tentar atribuir personalidade ou culpa ao agente. É construir um modelo no qual a empresa consiga demonstrar quem concedeu autoridade, quais limites estavam definidos, como a atuação foi acompanhada e quem tinha responsabilidade pelas decisões que permitiram aquela autonomia.

Accountability, nesse sentido, precisa ser desenhada antes da autonomia. Tentar reconstruí-la somente depois de um incidente é um sinal de que a governança chegou tarde.

Da visão à prática: ARGUS

Essa necessidade de relacionar autonomia, autoridade e evidências está diretamente conectada à proposta do ARGUS como plataforma de Inteligência Operacional e Agêntica.

Com capacidades de AgentOps (Agent Operations) e AI Gateway, o ARGUS busca permitir que a atuação dos agentes seja acompanhada dentro de um ambiente em que identidades, políticas, permissões, chamadas de ferramentas, decisões, custos e resultados possam ser observados e relacionados.

Essa rastreabilidade ganha valor quando deixa de mostrar apenas o comportamento interno do agente e passa a incorporar o contexto no qual sua atuação ocorreu. Uma decisão pode ter sido influenciada pelo estado de uma aplicação, por uma mudança recente, por informações recebidas de outro agente, por uma ação humana ou por eventos ocorridos na infraestrutura.

É por isso que a inteligência agêntica se conecta ao contexto operacional compartilhado. Ao correlacionar informações de múltiplas fontes, o ARGUS busca ajudar a reconstruir não apenas o que um agente fez, mas também o que estava acontecendo no ambiente quando aquela decisão foi tomada e quais outros elementos participaram daquela cadeia.

Em operações que combinam pessoas, agentes, automações, aplicações e infraestrutura, essa visão sistêmica pode contribuir para investigação de incidentes, auditoria e compreensão das consequências de uma decisão. À medida que a autonomia aumenta, preservar esse contexto deixa de ser apenas uma questão de observabilidade e passa a fazer parte da própria capacidade de responsabilização.

Conheça o ARGUS e veja como funciona na prática.

Sobre a Target Solutions

A Target Solutions é uma empresa brasileira de tecnologia especializada em soluções para ambientes críticos de TI e Telecom.

Ao longo de mais de 15 anos, participamos de projetos envolvendo infraestrutura, monitoramento, observabilidade, automação, integração de plataformas e operações de redes e serviços, trabalhando com grandes organizações e ambientes de alta complexidade.

Essa experiência nos permitiu acompanhar de perto a evolução das operações, do monitoramento tradicional à observabilidade, da automação à inteligência artificial e, agora, a ambientes nos quais agentes de IA começam a participar de processos, decisões e operações corporativas.

É nesse contexto que desenvolvemos o ARGUS, nossa plataforma de Inteligência Operacional e Agêntica, que combina capacidades de AgentOps, AI Gateway e AIOps para integrar o contexto da operação à atuação dos agentes de IA, ampliando visibilidade, governança, rastreabilidade e controle à medida que pessoas, automações, sistemas e agentes passam a compartilhar o ambiente operacional.

Sobre o autor

Paulo Florêncio de Menezes é cofundador da Target Solutions e atua há mais de 15 anos em projetos relacionados a infraestrutura, monitoramento, observabilidade, automação e operações de TI e Telecom.

É graduado em Processamento de Dados pela Universidade Federal do Amazonas (UFAM), possui MBA em Gestão Empresarial pela Fundação Dom Cabral (FDC) e Mestrado Profissional em Economia pela Fundação Getulio Vargas (FGV).

Em sua pesquisa de Mestrado, desenvolveu o IBEOP-IA (Índice Brasileiro de Exposição Ocupacional Potencial à Inteligência Artificial), investigando a exposição potencial das ocupações brasileiras às capacidades da IA por meio da combinação de dados ocupacionais, patentes de inteligência artificial e técnicas de processamento de linguagem natural.

Referências

[1] Boston Consulting Group. The Formula for Agentic AI Value --- Applied AI Index 2026. 30 set. 2026.

[2] Deloitte. How AI Is Making Engineering the New Enterprise Core. 2026.

[3] Deloitte Legal. When AI acts on its own, who is responsible for mistakes? 25 jun. 2026.

[4] Boston Consulting Group. The Authorization Gap: Why Yesterday’s Controls Won’t Work with Today’s Agents. 22 set. 2026.

[5] PwC. AI agents as workforce counterparts---what governance should look like. 17 jul. 2026.

[6] Gartner. How Agentic AI Is Reshaping Manager Oversight. 6 maio 2026.

[7] Deloitte. Rethinking the CISO role for an AI-saturated enterprise. 3 set. 2026.