Perplexity Lança Decider v1.3: Modelos de Decisão de Peso Aberto Adicionam Locate

Perplexity lançou pplx-decider-v1.3 e pplx-decider-flash-v1.3, as versões mais recentes de seus modelos de decisão de peso aberto. Perplexity Decider v1.3 é um modelo de decisão que retorna probabilidades, não texto gerado. Ele responde a perguntas de sim/não, múltipla escolha e pontuação sobre uma entrada de texto ou imagem. A principal adição é o Locate, que extrai spans de texto exatos por tipo ou instrução. Os pesos são distribuídos sob a licença Apache 2.0 no Hugging Face. Ambos os modelos também são executados na API Perplexity Decisions e no OpenRouter. Você pode verificar as opções de implantação e especificações aqui através de nossa extensão do Chrome GPULeaderboard.com. TL;DR (Resumo): Tamanho: 27B no Qwen3.8-27B; Flash é 4B no Qwen3.5-4B. O Hugging Face lista 26B e 5B parâmetros. Entrada da API: abaixo de 256K tokens. Padrão local: 32.768. Executa em: uma GPU CUDA que suporte ~49 GiB de pesos BF16 (v1.3) ou ~8.5 GiB (Flash). Sem variantes quantizadas. Desempenho: supera o Jev 1.14 da TypeSafe na maioria das avaliações auto-relatadas da Perplexity. Melhor: 91.6% de precisão média em 63 tarefas de classificação de consultas. Pior: Locate tem uma média de 69.0, sua menor pontuação absoluta. Flash fica atrás do Jev 1.14 em finanças, programação e direito. Conclusão: Melhor: uma taxa de inversão de resposta de 0.27% e US$ 26.47 por 1M de requisições de produção. Pior: todos os números são auto-relatados. O que é Perplexity Decider v1.3? Decider é a família de modelos de decisão da Perplexity, inspirada no Jev da TypeSafe. Cada requisição tem um 'estado' compartilhado mais uma ou mais perguntas com opções rotuladas. O modelo retorna uma probabilidade por opção em vez de escrever uma resposta. A v1.3 sucede a v1.2 e a Flash v1.2. O Flash v1.3 é destilado do modelo grande. Como o Decider v1.3 funciona? A Perplexity adapta um backbone de LLM generativo em um classificador. A camada de saída começa do LM head do modelo base, podada para tokens de opção (A, B, C). Um 'decision head' linear lê o estado oculto em um token e produz probabilidades de opção. As camadas de atenção completa são tornadas bidirecionais, o que a Perplexity

Fonte: MarkTechPost

Publicado em 2026-11-13

Notícias relacionadas

Continue explorando