Apresentado por EDB À medida que as empresas dão mais autonomia aos agentes de IA — a capacidade de planejar, decidir e agir entre sistemas sem que um humano aprove cada passo — uma questão difícil se move para o centro de cada revisão de arquitetura: Quando um agente tenta completar uma ação que nunca foi autorizado a fazer, o que realmente o impede? Estes são seus agentes, rodando em seus modelos, tocando seus dados em sua infraestrutura — e a responsabilidade pelo que eles fazem recai sobre você. Essa responsabilidade não pode ser cumprida em retrospectiva ou com um conjunto de políticas abstratas que existem no papel, mas não na prática. Os agentes precisam de regras no contexto do momento, porque eles não exercem julgamento próprio sobre suas ações. Considere uma regra simples: Nunca abra a porta do carro. Seguida literalmente, um agente nunca poderia entrar ou sair do carro. Mas se você mudar o contexto (o carro acabou de bater, há um incêndio, alguém está ferido e precisa sair), então a regra que você realmente quer é o oposto. O contexto no momento é tudo. Estamos pedindo aos agentes que façam coisas inteligentes; isso requer regras inteligentes. O instinto é adicionar "guardrails" (medidas de segurança) ao redor do agente: instruções, políticas e monitoramento em camadas acima do modelo. Esses mecanismos são importantes, mas compartilham um limite estrutural: A regra da porta do carro é plausível até o momento em que você realmente precisa decidir se deve abrir a porta. Controles na camada do agente são tão confiáveis quanto a previsibilidade da saída do agente, e a autonomia é precisamente a propriedade que torna essa saída difícil de prever. A governança que depende da revisão de uma ação antes que ela aconteça não consegue acompanhar um sistema que age em milissegundos, em muitos sistemas ao mesmo tempo. A governança precisa se tornar executável e ser imposta onde os agentes realmente realizam seu trabalho: na camada de dados operacionais, no contexto e exatamente no momento em que está acontecendo. A camada de dados é o ponto de imposição. Agentes criam valor tocando dados. Eles os consultam, os recuperam, os transformam.
Fonte: VentureBeat AI
Publicado em 2026-08-27