Google DeepMind Propõe Novo Framework Para Delegação Inteligente de IA Para Proteger a Emergente We…

A indústria de IA está atualmente obcecada com 'agentes'—programas autônomos que fazem mais do que apenas conversar. No entanto, a maioria dos sistemas multi-agentes atuais depende de heurísticas frágeis e codificadas que falham quando o ambiente muda. Pesquisadores do Google DeepMind propuseram uma nova solução. A equipe de pesquisa argumentou que, para que a 'web agente' fosse escalável, os agentes deveriam ir além da simples divisão de tarefas e adotar princípios organizacionais semelhantes aos humanos, como autoridade, responsabilidade e prestação de contas. Definindo Delegação 'Inteligente'. Em software padrão, uma sub-rotina é apenas 'terceirizada'. A delegação inteligente é diferente. É uma sequência de decisões onde um delegador transfere autoridade e responsabilidade para um delegado. Esse processo envolve avaliação de risco, correspondência de capacidade e estabelecimento de confiança. Os 5 Pilares do Framework. Para construir isso, a equipe de pesquisa identificou 5 requisitos principais mapeados para protocolos técnicos específicos: Pilar do Framework Implementação Técnica Função Principal Avaliação Dinâmica Decomposição e Atribuição de Tarefas Inferir granularmente o estado e a capacidade do agente. Execução Adaptativa Coordenação Adaptativa Lidar com mudanças de contexto e falhas de tempo de execução. Transparência Estrutural Monitoramento e Conclusão Verificável Auditar tanto o processo quanto o resultado final. Mercado Escalável Confiança e Reputação e Otimização Multi-objetiva Coordenação eficiente e confiável em mercados abertos. Resiliência Sistêmica Segurança e Manipulação de Permissões Prevenir falhas em cascata e uso malicioso. Estratégia de Engenharia: Decomposição 'Contract-First'. A mudança mais significativa é a decomposição contract-first. Sob este princípio, um delegador só atribui uma tarefa se o resultado puder ser precisamente verificado. Se uma tarefa é muito subjetiva ou complexa para verificar—como 'escrever um artigo de pesquisa convincente'—o sistema deve decompô-la recursivamente. Isso continua até que as subtarefas correspondam às ferramentas de verificação disponíveis, como testes de unidade ou provas matemáticas formais. Verificação Recursiva: A Cadeia de Custódia. Em uma cadeia de delegação, como 𝐴 → 𝐵 → 𝐶 , a prestação de contas é transitiva. O Agente B é responsável por verificar o trabalho de C . Quando o Agente B retorna o resultado para A , ele deve fornecer uma cadeia completa de atestações criptograficamente assinadas. O Agente A, então, realiza uma verificação em duas etapas: verificando o trabalho direto de B e verificando se B verificou corretamente C . Segurança: Tokens e Tunéis Escalando estas

Fonte: MarkTechPost

Publicado em 2026-02-16

Notícias relacionadas

Continue explorando