Pesquisadores de Stanford apresentaram o OpenJarvis, um framework de código aberto para construir agentes de IA pessoais que rodam inteiramente on-device. O projeto vem do Laboratório de Inteligência Escalável de Stanford e é apresentado tanto como uma plataforma de pesquisa quanto uma infraestrutura pronta para implantação para sistemas de IA local-first. Seu foco não é apenas a execução de modelos, mas também o software stack mais amplo necessário para tornar os agentes on-device utilizáveis, mensuráveis e adaptáveis ao longo do tempo. Por que o OpenJarvis? De acordo com a equipe de pesquisa de Stanford, a maioria dos projetos atuais de IA pessoal ainda mantém o componente local relativamente limitado, enquanto roteia o raciocínio central através de APIs de nuvem externas. Esse design introduz latência, custos recorrentes e preocupações com a exposição de dados, especialmente para assistentes/agentes que operam sobre arquivos pessoais, mensagens e contexto persistente do usuário. O OpenJarvis foi projetado para mudar esse equilíbrio, tornando a execução local o padrão e o uso da nuvem opcional. A equipe de pesquisa relaciona este lançamento à sua pesquisa anterior, Intelligence Per Watt. Nesse trabalho, eles relatam que modelos de linguagem locais e aceleradores locais podem atender com precisão 88,7% das consultas de chat e raciocínio de turno único em latências interativas, enquanto a eficiência da inteligência melhorou 5,3x de 2023 para 2025. O OpenJarvis é posicionado como a camada de software que surge desse resultado: se modelos e hardware de consumidor estão se tornando práticos para mais workloads locais, então os desenvolvedores precisam de um stack padrão para construir e avaliar esses sistemas. https://scalingintelligence.stanford.edu/blogs/openjarvis/ A Arquitetura dos Cinco Primitivos Em nível arquitetônico, o OpenJarvis é organizado em torno de cinco primitivos: Inteligência, Engine, Agentes, Ferramentas & Memória e Aprendizado. A equipe de pesquisa os descreve como abstrações composíveis que podem ser comparadas, substituídas e otimizadas independentemente ou usadas em conjunto como um sistema integrado. Isso é importante porque projetos de IA locais frequentemente misturam inferência, orquestração, ferramentas, recuperação e lógica de adaptação em uma única aplicação difícil de reproduzir. O OpenJarvis, em vez disso, tenta dar a cada camada um papel mais explícito. Inteligência: A Camada de Modelo O primitivo de Inteligência é a camada de modelo. Ele se situa acima de um conjunto mutável de famílias de modelos locais e fornece um catálogo de modelos unificado para que os desenvolvedores não precisem rastrear manualmente contagens de parâmetros, compatibilidade de hardware ou tradeoffs de memória para cada lançamento. O objetivo é facilitar o estudo da escolha do modelo separadamente de outras partes do sistema.
Fonte: MarkTechPost
Publicado em 2026-03-12