O Thinking Machines Lab lançou o Inkling 2 Small, o primeiro modelo da segunda geração Inkling. O modelo Inkling 2 Small é uma Mixture‑of‑Experts (MoE) esparsa com 594B parâmetros totais e 17B parâmetros ativos. Ele aceita texto e imagens, e suporta esforço de raciocínio variável. No Índice de Inteligência Artificial, ele obtém 31. Seu predecessor, Inkling Small, obtém 13 no mesmo índice. O modelo está disponível na Tinker para ajuste fino e inferência. TL;DR Tamanho: 594B total, 17B ativos em MoE; contexto de 1M‑token. Executa apenas na API Tinker no momento. Hardware para self‑hosting não divulgado. Os pesos suportam MXFP8 e NVFP4. Desempenho: 31 no Índice de Inteligência AA, classificado #4 de 29 em sua faixa de preço. Melhor: 86,3 % no SWE‑Bench Pro v2 (Hard), segundo apenas ao Kimi K3 na tabela do laboratório. Pior: 13,1 % no Terminal‑Bench 4.0, em comparação com 32,8 % para o GLM‑5.3‑Flash. O que é o Inkling 2 Small? O Inkling 2 Small é um modelo MoE multimodal do Thinking Machines Lab para codificação agencial, visão e trabalho de conhecimento. Ele aceita entrada de texto e imagem e retorna texto. Importante notar que atualmente não suporta áudio. Os pesos são fechados no lançamento. O Thinking Machines Lab planeja um lançamento sob Apache 2.0 na próxima semana, após testes de segurança externos e red‑team. Isso segue sua política de caminho seguro para pesos abertos. Como o Inkling 2 Small é construído? Ele inclui um transformador decoder‑only de 48 camadas. Cada token é encaminhado para 8 de 384 especialistas. A atenção mistura camadas locais e globais. Um codificador de visão de 292M parâmetros, baseado no Perception Encoder, usa patches de 20×20 pixels com agrupamento espacial 2×2. Patches de imagem são intercalados com tokens de texto. O pré‑treino ocorreu em 4 fases: H1: 8,4T tokens em 68 horas em racks NVIDIA GB300 NVL72, treinado nativamente em NVFP4. H2: 3,8T tokens de dados mais novos e de maior qualidade em contexto de 512K. H3: cerca de 320B tokens de raciocínio e trajetórias de agentes em contexto de 1M. H4: cerca de 34B tokens das trajetórias de agente de maior qualidade. Uma única corrida conjunta de RL seguiu. Levou 1 075 etapas,
Fonte: MarkTechPost
Publicado em 2026-11-06