Large Language Models (LLMs) são os melhores imitadores do mundo, mas quando se trata da lógica fria e dura de atualizar crenças com base em novas evidências, eles são surpreendentemente teimosos. Uma equipe de pesquisadores do Google argumenta que a safra atual de agentes de IA fica muito aquém do ‘raciocínio probabilístico’ – a capacidade de manter e atualizar um ‘modelo de mundo’ à medida que novas informações chegam. A solução? Parar de tentar dar as respostas certas e começar a ensiná-los a adivinhar como um matemático. O Problema: O Platô do ‘Uma e Feito’ Embora LLMs como Gemini-1.5 Pro e GPT-4.1 Mini possam escrever código ou resumir e-mails, eles têm dificuldade como agentes interativos. Imagine um assistente de reserva de voos: ele precisa inferir suas preferências (preço vs. duração) observando quais voos você escolhe ao longo dezenas de rodadas. A equipe de pesquisa descobriu que LLMs prontos para uso – incluindo pesos pesados como Llama-3-70B e Qwen-2.5-32B – mostraram ‘pouca ou nenhuma melhoria’ após a primeira rodada de interação. Enquanto um ‘Assistente Bayesiano’ (um modelo simbólico usando a regra de Bayes) se torna mais preciso a cada ponto de dados, os LLMs padrão estagnaram quase imediatamente, falhando em adaptar suas ‘crenças’ internas à função de recompensa específica do usuário. Conheça o Ensino Bayesiano A equipe de pesquisa introduziu uma técnica chamada Ensino Bayesiano. Em vez de ajustar um modelo com dados ‘corretos’ (o que eles chamam de Professor Oráculo), eles o ajustaram para imitar um Assistente Bayesiano – um modelo que usa explicitamente a regra de Bayes para atualizar uma distribuição de probabilidade sobre possíveis preferências do usuário. Aqui está o detalhe técnico: A Tarefa: Uma interação de recomendação de voos de cinco rodadas. Os voos são definidos por características como preço, duração e paradas. A Função de Recompensa: Um vetor representando as preferências do usuário (por exemplo, uma forte preferência por preços baixos). A Atualização Posterior: Após cada rodada, o Assistente Bayesiano atualiza sua distribuição posterior com base no prévio (suposições iniciais) e na verossimilhança (a probabilidade de o usuário escolher um determinado voo dada uma função de recompensa específica). Usando Supervised Fine-Tuning (SFT) nessas interações Bayesianas, a equipe de pesquisa forçou os LLMs aP adotar o processo de raciocínio sob incerteza, não apenas o resultado final. Por Que ‘Chutes Educados’ Superam Respostas Corretas A descoberta mais contraintuitiva da pesquisa é que o Ensino Bayesiano superou consistentemente o Ensino Oráculo.
Fonte: MarkTechPost
Publicado em 2026-03-09