Baseten lança Bison-1 e Groundhog-1, liderando o Índice de Modelos de Decisão

Baseten lançou bison-1 e groundhog-1, dois modelos de decisão de peso aberto construídos sobre o Gemma 4 da Google. Modelos de decisão não geram texto; eles retornam probabilidades calibradas para perguntas de sim/não, escolha e pontuação. O modelo de decisão bison-1 da Baseten obtém 76 no Artificial Analysis Decision Index v2.1, ficando em #1 entre 19. Ambos os modelos ampliam o contexto de 16k para 128k tokens e aceitam imagens. Para roteamento, triagem e pipelines de guarda, isso significa políticas e históricos completos em uma única chamada.

TL;DR Tamanho: bison-1 tem 31B dense. groundhog-1 é um MoE de 26B com cerca de 4B ativos. Ambos suportam 128k tokens (131.072). Executam nas APIs de Modelo Baseten, além de pesos BF16 abertos no Hugging Face. Não há builds de GPU de inferência ou quantizados listados. Os pesos BF16 sozinhos ocupam cerca de 62 GB (bison-1) e 52 GB (groundhog-1), segundo nossos cálculos.

Desempenho: bison-1 marca 76 no AA Decision Index v2.1, 1 ponto acima do d1.2-ultra da Liquid AI (75). Melhor: When2Call, 98 (rank #1). Pior: AA-Omniscience-Decision v1.1, 60 (rank #11).

Conclusão: Melhor: decisões top‑ranked, melhor calibradas (Brier 0.14) em até 128k tokens por $0.10 por 1M tokens de entrada. Pior: groundhog-1 ainda não tem pontuação oficial no índice, e todos os números são auto‑declarados.

O que são bison-1 e groundhog-1? bison-1 é um modelo de decisão de 31B da Baseten que pós‑treina o Gemma 4 de 31B para retornar probabilidades calibradas. groundhog-1 é o irmão mais barato; ele ajusta o Gemma 4 de 26B‑A4B, um modelo mixture‑of‑experts com cerca de 4B de parâmetros ativos por token. Ambos se juntam ao portfólio existente da Baseten: mammoth-1 (27B), elephant-1 (9B) e joey-1 (2B), que rodam em backbones Qwen. O novo par é o primeiro da Baseten em um backbone que ela chama de americano.

Como funciona um modelo de decisão? Uma requisição contém 1 estado e qualquer número de perguntas. O estado é texto, opcionalmente com imagens. Cada pergunta tem um tipo: noul (sim/não), choice (opções nomeadas) ou score (níveis ordenados). O modelo responde a todas as perguntas em um único pré‑preenchimento, retornando P(sim), …

Fonte: MarkTechPost

Publicado em 2026-11-21

Notícias relacionadas

Continue explorando