A AWS Strands Labs lança o Strands Decider 2B, um modelo de decisão open source. Ele não gera texto. Ele lê um estado e perguntas digitadas, então retorna uma escolha, uma probabilidade de sim/não, ou uma pontuação com uma confiança calibrada. O modelo tem 1.9 bilhão de parâmetros e roda localmente em uma CPU, uma GPU de consumidor, ou um Mac com chip Apple. Ele é implantável? Sim, para uso local e auto-hospedado. Os pesos estão no Hugging Face sob a licença Apache-2.0, e `pip install strands-decider` fornece uma CLI e um servidor HTTP. O servidor empacotado se liga a 127.0.0.1 sem autenticação, então a produção exige sua própria camada de autenticação. Nenhum provedor de inferência hospedado o serve ainda. O que um modelo de decisão faz: Modelos de decisão, também chamados de modelos Sistema Um, tornaram-se uma categoria depois que a TypeSafe AI lançou o Jev no mês passado. Um LLM pode produzir uma saída arbitrária. Um modelo de decisão apenas escolhe entre opções ou avalia em uma escala. O Strands Decider suporta 3 tipos de perguntas: choice: escolher 1 de N opções. noul: uma probabilidade de sim/não entre 0 e 1. score: um nível em uma rubrica ordenada. Cada resposta vem das opções permitidas e carrega uma confiança. A equipe afirma que o modelo é pior que os modelos de raciocínio em problemas complexos. É inadequado para codificação, chat ou sumarização. Arquitetura: um LLM com sua 'boca' removida: A equipe começa com o Qwen3.5-2B-Base e descarta a 'cabeça' de modelagem de linguagem. Uma pequena 'cabeça' de ponteiro de cerca de 1 milhão de parâmetros a substitui. Essa 'cabeça' compara o estado oculto na posição com o estado oculto no último token de cada opção. Uma única passagem direta produz o resultado, sem loop de decodificação. O 'tronco' usa um LoRA rank-16, e a 'cabeça' roda em fp32. Os conjuntos de rótulos vêm da solicitação, então nada limita a contagem de opções. O checkpoint lançado é o v19. Fazer várias perguntas sobre um texto é barato. O estado é lido uma vez, e cada pergunta extra adiciona apenas seus próprios tokens. window.addEventListener("message",function(e){if(e.data&&e.data.sdH){var f=document.getElementById("mtp-sd-"
Fonte: MarkTechPost
Publicado em 2026-10-02