A Samaya AI lançou o Sterling, um modelo pós-treinado para pesquisa financeira agente. O Sterling é construído sobre o Nemotron 3.5 Lightning da NVIDIA, um modelo de mistura de especialistas de 30 B com 3 B de parâmetros ativos. No benchmark FrontierFinance da Samaya, ele obtém 58,9 %. O Claude Fable 5.1 alcança 55,9 %. Cada pergunta no Sterling custa US$ 0,61, contra US$ 6,89 para o Fable 5.1. Para desenvolvedores, a lição é uma receita concreta: co‑treine um modelo pequeno com sua harness, e ele pode vencer em um domínio estreito. TL;DR Tamanho: 30 B total, 3 B ativos (MoE). Contexto do modelo base: até 1 M de tokens. Contexto de serviço do Sterling: não divulgado. Executa em: o modelo base cabe em um único H100 80 GB em BF16 (256K de contexto). Hardware de serviço do Sterling: não divulgado. Desempenho: vence todos os sistemas de alta qualidade no leaderboard FrontierFinance em qualidade por dólar (auto‑relatado). Melhor: 58,9 % no FrontierFinance (60,6 % em modo de alto esforço), contra 55,9 % para o Claude Fable 5.1. Pior: 45,2 % na parte mais difícil do terceiro do FrontierFinance. O que é o Samaya Sterling? O Sterling é uma versão pós‑treinada em LoRA do Nemotron 3.5 Lightning, ajustada para funcionar como agente de pesquisa financeira. Ele planeja pesquisas, chama ferramentas financeiras, coleta evidências e entrega descobertas a um escritor de relatórios separado. Segundo o anúncio no X de Maithra Raghu, começou como um esforço de 2 pessoas para eficiência de orquestração agente. Como a harness apoia um modelo 3B‑active? A equipe Samaya adaptou sua harness de finanças de produção para um modelo pequeno. Orientações detalhadas foram removidas do prompt do sistema e das descrições de ferramentas. As ferramentas foram mescladas para encurtar o prompt. Dois modelos auxiliares gerenciam o contexto. Um condensador encurta os resultados longos das ferramentas. Um compactador resume a trilha conforme ela cresce. Um orçamento de pesquisa limita quanto tempo o agente trabalha. Depois disso, o escritor de relatórios responde com base no que foi encontrado. Como o Sterling foi treinado? O treinamento usou LoRA no Tinker, API de treinamento do Thinking Machines Lab. Foi executado em 4 fases: SFT em traços sintéticos.
Fonte: MarkTechPost
Publicado em 2026-10-30