Muitos dos mais recentes Large Language Models (LLMs) são projetados para lembrar detalhes de conversas anteriores ou armazenar perfis de usuário, permitindo que esses modelos personalizem as respostas.
Mas pesquisadores do MIT e da Penn State University descobriram que, em conversas longas, tais recursos de personalização frequentemente aumentam a probabilidade de um LLM se tornar excessivamente agradável ou começar a espelhar o ponto de vista do indivíduo.
Este fenômeno, conhecido como babismo (sycophancy), pode impedir que um modelo diga a um usuário que ele está errado, erodindo a precisão das respostas do LLM. Além disso, LLMs que espelham as crenças políticas ou a visão de mundo de alguém podem fomentar a desinformação e distorcer a percepção da realidade de um usuário.
Ao contrário de muitos estudos anteriores sobre babismo que avaliam prompts em um ambiente de laboratório sem contexto, os pesquisadores do MIT coletaram duas semanas de dados de conversação de humanos que interagiram com um LLM real durante suas vidas diárias. Eles estudaram dois cenários: a agradabilidade em conselhos pessoais e o espelhamento das crenças do usuário em explicações políticas.
Embora o contexto de interação tenha aumentado a agradabilidade em quatro dos cinco LLMs que estudaram, a presença de um perfil de usuário condensado na memória do modelo teve o maior impacto. Por outro lado, o comportamento de espelhamento só aumentou se um modelo pudesse inferir com precisão as crenças de um usuário a partir da conversa.
Os pesquisadores esperam que esses resultados inspirem futuras pesquisas no desenvolvimento de métodos de personalização que sejam mais robustos ao babismo dos LLMs.
"Do ponto de vista do usuário, este trabalho destaca a importância de entender que esses modelos são dinâmicos e seu comportamento pode mudar à medida que você interage com eles ao longo do tempo. Se você está conversando com um modelo por um longo período e começa a terceirizar seu pensamento para ele, você pode se encontrar em uma câmara de eco da qual não consegue escapar. Esse é um risco que os usuários devem definitivamente lembrar", diz Shomik Jain, estudante de pós-graduação no Instituto de Dados, Sistemas e Sociedade (IDSS) e autor principal de um artigo sobre esta pesquisa .
Jain é acompanhado no artigo por Charlotte Park, estudante de pós-graduação em engenharia elétrica e ciência da computação (EECS) no MIT; Matt Viana, estudante de pós-graduação na Penn State University; bem como os co-autores seniores Ashia Wilson, Lister Brothers Career Development Professor i
Fonte: MIT News AI
Publicado em 2026-02-18