Gartner aponta que a aplicação de governança uniforme aos agentes de Inteligência Artificial levará ao fracasso desses agentes nas empresas

Até 2027, 40% das empresas irão rebaixar ou desativar agentes de IA autônomos devido a falhas de governança

SAO PAULO, 5 de junho de 2026 /PRNewswire/ -- A aplicação de governança uniforme a todos os agentes de Inteligência Artificial (IA), independentemente de seu nível de autonomia e escopo, pode levar à falha desses agentes nas empresas, de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia. As falhas são mais prováveis de ocorrer quando as organizações não conseguem distinguir entre a capacidade de um agente de agir e o escopo de acesso que lhe é concedido.

O Gartner prevê que, até 2027, 40% das empresas irão rebaixar ou desativar agentes de IA autônomos devido a lacunas de governança identificadas somente após a ocorrência de incidentes em produção.

"As organizações estão tratando a governança de agentes de IA como binária, ou totalmente restrita ou totalmente confiável, e essa é a causa principal do fracasso", diz Shiva Varma, Diretor Analista Sênior do Gartner. "Os agentes operam em diferentes níveis de autonomia e em diferentes limites de confiança. Quando os mesmos controles são aplicados indiscriminadamente, as organizações enfrentam dois modos comuns de falha: restrição excessiva de agentes simples, o que retarda a entrega e estimula o desenvolvimento paralelo, ou restrição insuficiente de agentes mais autônomos, o que aumenta os riscos operacionais, de segurança e de conformidade."

Para mitigar esses riscos, o Gartner recomenda a aplicação de uma abordagem de governança proporcional que classifique os agentes de IA em níveis distintos de autonomia, com cada nível representando um limite de confiança diferente e requisitos de governança correspondentes.

Temas como esses e outros relacionados a agentes de IA, segurança cibernética, gestão de riscos e resiliência digital serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 4 e 5 de agosto em São Paulo. 

Nível 1: Observação

No Nível 1, os agentes de observação têm acesso somente à leitura de fontes de dados definidas, sendo que os resultados são visíveis apenas para o usuário solicitante. Casos de uso comuns incluem resumo de documentos, recuperação de dados ou conhecimento e explicação de código.

"Nesse nível, a governança deve se concentrar em controles básicos, como acesso a dados com escopo definido, autenticação de usuário, registro de uso e testes básicos de funcionalidade e segurança", afirma Varma. "Como o risco se limita principalmente à exposição de dados e à precisão dos resultados, os controles devem permanecer leves e direcionados."

Nível 2: Aconselhamento

Os agentes de aconselhamento geram recomendações, rascunhos ou ações propostas, enquanto os humanos revisam todos os resultados e executam as ações manualmente. Esses agentes mantêm acesso somente de leitura, sem permissão de gravação em qualquer sistema, e são comumente usados para elaboração de e-mails, geração de relatórios ou códigos e apoio à tomada de decisões.

Embora os seres humanos executem as decisões, os agentes de aconselhamento podem influenciar o julgamento, criando riscos subsequentes quando resultados imprecisos são considerados confiáveis devido ao viés da automação.

"A governança para agentes de aconselhamento deve incluir todos os controles do Nível 1 e se estender para abordar a qualidade dos resultados e a influência nas decisões por meio de testes de precisão e alucinação, avaliações de qualidade específicas do domínio e treinamento de usuários sobre níveis adequados de confiança", diz Varma.

Nível 3: Agir com aprovação

No Nível 3, os agentes podem executar ações como gravar dados, enviar comunicações ou modificar configurações, mas somente após aprovação humana explícita para cada ação.

"Nesse nível, a revisão humana só é eficaz se continuar sendo um controle significativo", diz Varma. "Sem testes de segurança robustos, fluxos de trabalho de aprovação claros com trilhas de auditoria e procedimentos de resposta a incidentes específicos para cada agente, as aprovações podem se deteriorar sob pressão de tempo ou fadiga de aprovação, criando uma falsa sensação de segurança enquanto ampliam a superfície de ataque."

Nível 4: Agir de forma autônoma

No nível mais alto de autonomia, os agentes executam ações de forma independente, dentro de controles definidos, com humanos revisando exceções, registros de auditoria e resultados agregados, em vez de decisões individuais.

"Quando os agentes operam de forma autônoma, as ações são executadas em uma escala e velocidade que podem ultrapassar a supervisão humana", diz Varma. "Como a responsabilidade pelos resultados permanece com a organização, esse nível exige a governança mais rigorosa, incluindo monitoramento contínuo, controles aplicados, mecanismos de reversão rápida, dispositivos que interrompem a operação do agente em caso de violações de limites e definição clara de responsabilidade pelo comportamento do agente."

Os clientes da Gartner podem ler mais em "Avoid Governance Mismatch: Classify AI Agents by Autonomy Level".

Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA. Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA. Mais informações podem ser encontradas aqui.

Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão os últimos insights para os líderes de segurança e gestão de risco durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada de 1 a 3 de junho em National Harbor (Estados Unidos), de 22 a 24 de julho em Tóquio (Japão), em 4 e 5 de agosto em São Paulo (Brasil) e de 22 a 24 de setembro em Londres (Reino Unido). Acompanhe as notícias e atualizações das conferências no X e no LinkedIn usando #GartnerSEC.

Sobre o Gartner for Software Engineering Leaders
O Gartner for Software Engineering Leaders ajuda líderes a se alinharem com stakeholders, reterem e otimizarem equipes e desenvolverem produtos inovadores que apoiem e atendam toda a organização, seus parceiros e clientes. Informações adicionais estão disponíveis em: https://www.gartner.com/en/software-engineering.

Siga as notícias e atualizações do Gartner for Software Engineering Leaders no X e LinkedIn. Visite a Sala de Imprensa do Gartner para obter mais informações e insights.

Sobre o Gartner
O Gartner, Inc. fornece insights objetivos e acionáveis que impulsionam decisões mais inteligentes e um melhor desempenho para as prioridades de missão crítica das empresas. Para saber mais, visite www.gartner.com. 

FONTE Gartner