A rápida adoção de agentes de Inteligência Artificial nas empresas enfrenta um desafio significativo: a governança. Segundo um relatório da consultoria Gartner, a aplicação uniforme de controles e políticas a todos os agentes de IA, independentemente do seu grau de autonomia, pode prejudicar os resultados dessas iniciativas.

Risco de Desativação de Agentes de IA

O Gartner projeta que, até 2027, cerca de 40% das organizações podem optar por reduzir a autonomia ou até mesmo desativar agentes de IA autônomos, após identificarem falhas na governança somente após incidentes em ambientes produtivos.

De acordo com a análise, muitas empresas ainda tratam a governança dos agentes de IA de maneira muito simplista, dividindo entre modelos excessivamente restritivos ou muito permissivos. Essa abordagem pode dificultar a obtenção de benefícios da tecnologia e aumentar os riscos operacionais, de segurança e de conformidade.

Níveis de Autonomia e Governança

Shiva Varma, diretor analista sênior do Gartner, destaca que os agentes de IA operam em diferentes níveis de autonomia e dentro de variados limites de confiança. Aplicar os mesmos controles indiscriminadamente pode levar a restrições desnecessárias em agentes menos complexos ou a uma liberdade excessiva para agentes mais avançados.

Para mitigar esses riscos, o Gartner recomenda a adoção de modelos de governança que sejam proporcionais ao grau de autonomia de cada agente. A proposta inclui a classificação das soluções em quatro níveis distintos de autonomia.

Classificação dos Agentes de IA

No primeiro nível, os agentes atuam apenas como observadores, acessando informações em modo leitura para tarefas como recuperação de dados e resumo de documentos. Neste caso, os controles devem focar em autenticação, rastreabilidade e proteção de dados.

O segundo nível abrange agentes que oferecem recomendações aos usuários humanos, sem executar ações diretamente. Embora a decisão final permaneça com as pessoas, há o risco de viés de automação, onde usuários confiam excessivamente nas sugestões geradas pela IA.

No terceiro nível, os agentes podem realizar ações operacionais mediante aprovação humana. Para esse cenário, o Gartner enfatiza a importância de auditorias, trilhas de aprovação e mecanismos de resposta a incidentes. Por fim, o quarto nível consiste em agentes totalmente autônomos, que realizam tarefas sem validação humana, exigindo supervisão contínua e controles rigorosos, como mecanismos de interrupção e definição clara de responsabilidades.