A Frontier Red Team da Anthropic lançou o FlashProve, um protótipo de pesquisa de código aberto para inferência comprovável. O FlashProve é um sistema zkSNARK da Anthropic que demonstra que uma resposta veio de um modelo comprometido. A prova não revela nada sobre os pesos do modelo. No Llama 4 Maverick, um modelo Mixture-of-Experts de 400 B, ele demonstra cerca de 110 tokens/segundo em 1 H100. Para desenvolvedores, isso preenche uma lacuna real: hoje não é possível verificar qual modelo realmente respondeu à sua chamada de API. TL;DR Tamanho: Comprova um modelo MoE de 400 B (~17 B ativos por token); contexto limitado a 1.024 tokens por requisição. Execução: O provedor precisa de 1 H100 80 GB, 24 núcleos de CPU e ~290 GB de RAM host. O verificador roda em CPU, sem GPU. Desempenho: Ordens de magnitude mais rápido que sistemas zkML de código aberto anteriores no mesmo modelo de 400 B. Melhor: 110 tokens/segundo provando em 1 H100, com provas de 18,78 MB verificadas em 17 segundos. Pior: Provar custa ~70 a 95× o tempo de GPU da inferência vLLM padrão. Que problema a inferência comprovável resolve? Um usuário que consulta um modelo não pode verificar qual modelo produziu a resposta. Um serviço de roteamento poderia substituir por um modelo mais barato. Um atacante poderia adulterar o fluxo de tokens. Julgar apenas pela qualidade da saída é pouco confiável. A Anthropic lista 4 casos de uso: Reguladores poderiam confirmar que o hardware executa a inferência, apoiando regras de ritmo de AI. Laboratórios poderiam detectar servidores de inferência adulterados. Usuários poderiam verificar a proveniência do texto. Reguladores poderiam impor o serviço apenas de modelos aprovados. Como o FlashProve funciona? O FlashProve tem um provador (o provedor do modelo) e um verificador (o usuário). Ele opera em 2 fases: Offline: O provedor publica um compromisso, uma impressão digital curta que vincula um conjunto exato de pesos. Isso leva cerca de 39 minutos e cobre cerca de 16 milhões de requisições. Online: Para cada requisição, a GPU produz uma prova de que o modelo comprometido gerou aqueles tokens. O sistema de provas compila uma prova de oráculo interativa em uma prova criptográfica usando funções hash. A Anthropic afirma que isso oferece segurança pós-quântica.
Fonte: MarkTechPost
Publicado em 2026-11-03