Uma equipe de pesquisadores da Microsoft Research e da UC Berkeley lançou o TokenEconomizer, um controlador de custos de código aberto para agentes de codificação. O TokenEconomizer é um plugin que aprende com sessões anteriores em um repositório para reduzir desperdícios nas subsequentes. Ele funciona com Claude Code, Codex, GitHub Copilot CLI e Pi. Não altera os pesos do modelo nem o código do agente. Em 277 tarefas do SWE‑Bench, reduziu o custo médio em 18,4% a 30,9% em 5 configurações de agente‑modelo.
TL;DR Pacote: um pacote Python da biblioteca padrão e plugins de agente, com 3 mecanismos comutáveis. Executa em: qualquer máquina rodando Claude Code, Codex, Copilot CLI ou Pi com Python 3.10+. Não requer GPU nem chave de API própria.
Desempenho: 18,4% a 30,9% de redução no custo médio do SWE‑Bench, e mais barato em todas as 30 células de configuração de repositório. Melhor: 30,9% de redução de custo no Claude Code com Opus 4.8 (33,2% quando combinado com RTK). Pior: apenas 6,4% a 9,3% de economia nas auditorias ReposVul; Pass@1 cai 1,0 ponto no Opus 4.8.
Por que os agentes de codificação desperdiçam tokens? Cada turno do agente refatura o prompt do sistema, cada esquema de ferramenta carregado e todo o histórico. A equipe de pesquisa analisou 60 tarefas do SWE‑Bench em 6 repositórios usando Claude Code com Opus 4.8. Eles identificaram 3 fontes recorrentes de desperdício:
- Descoberta repetida: quando 5 tarefas precedem a atual, 30% das chamadas de ferramenta repetem uma ação anterior.
- Ferramentas não utilizadas: 23 esquemas de ferramenta são carregados a cada turno. 16 nunca são chamadas, e 3 concentram 98% das chamadas.
- Loops de falha: 10 execuções falhas representaram 17% das tarefas, mas 32% do gasto total.
Eles também testaram 3 estratégias fixas de código aberto: RTK, Serena e RepoMap do Aider. Nenhuma foi mais barata em todos os casos. Todas as 3 reduziram o custo no Django e o aumentaram no SymPy.
Como o TokenEconomizer funciona? O TokenEconomizer é um controlador externo que trata o agente como uma caixa preta. Ele mantém um estado por repositório, construído a partir de rastros concluídos. Antes de cada tarefa, define 3 políticas por meio do prompt, das configurações de ferramenta e do fluxo de eventos.
1. Micro-habilidades: um proponente LLM converte resumos de rastros em fatos de 1 linha, como o
Fonte: MarkTechPost
Publicado em 2026-10-30