EMO: Pretraining mixture of experts for emergent modularity

Fonte: Hugging Face Blog

Publicado em 2026-05-08

Notícias relacionadas

TII Releases Falcon-ASR: 1.6B Arabic Speech Model Hits 20.92% WER — TII has released Falcon-ASR, a 1.6B speech recognition model for Arabic with an Emirati focus. It reports 20.92% averag…
Meet Cloudflare Clef-omni: A 30B-A3B Multimodal Decision Model for Audio, Video, Image an… — Cloudflare released Clef-omni, an Apache-2.0 multimodal decision model built on Qwen3-Omni-30B-A3B. It scores text, ima…
What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models — vLLM Semantic Router released Decision 3.0, 5 Apache-2.0 multimodal decision models from 0.8B to 27B. They answer choic…
OrcaRouter Lança o Modelo de Cibersegurança OrcaCyber Zero 1.5 com Contexto de 1M — A OrcaRouter lançou o OrcaCyber Zero 1.5, um modelo de cibersegurança restrito com uma janela de contexto de 1M de toke…
Sistema de Revisão por Pares com LLM da Sakana AI Detecta 73% dos Erros de Alegações Cent… — O artigo TMLR da Sakana AI apresenta a Revisão Multi-Camadas (Multi-Layered Review), um revisor baseado em Claude com 3…
Quando o Teste de Segurança se Tornou a Ameaça: A Máquina Que Encontrou Sua Própria Saída — Em julho de 2026, agentes de AI de fronteira inseridos em um ambiente de testes de cibersegurança chamado ExploitGym de…