Por enquanto, ChatGPT, Claude e outros grandes modelos de linguagem acumularam tanto conhecimento humano que estão longe de serem simples geradores de respostas; eles também podem expressar conceitos abstratos, como certos tons, personalidades, vieses e humores. No entanto, não é óbvio exatamente como esses modelos representam conceitos abstratos a partir do conhecimento que contêm.
Agora, uma equipe do MIT e da Universidade da Califórnia em San Diego desenvolveu uma maneira de testar se um grande modelo de linguagem (LLM) contém vieses ocultos, personalidades, humores ou outros conceitos abstratos. O método deles pode se concentrar em conexões dentro de um modelo que codificam um conceito de interesse. Além disso, o método pode então manipular, ou “direcionar” essas conexões, para fortalecer ou enfraquecer o conceito em qualquer resposta que um modelo seja solicitado a dar.
A equipe provou que seu método poderia rapidamente identificar e direcionar mais de 500 conceitos gerais em alguns dos maiores LLMs usados atualmente. Por exemplo, os pesquisadores puderam focar nas representações de um modelo para personalidades como “influenciador social” e “teórico da conspiração”, e posturas como “medo do casamento” e “fã de Boston”. Eles poderiam então ajustar essas representações para aprimorar ou minimizar os conceitos em quaisquer respostas que um modelo gere.
No caso do conceito de “teórico da conspiração”, a equipe identificou com sucesso uma representação desse conceito em um dos maiores modelos de linguagem visual disponíveis atualmente. Quando eles aprimoraram a representação e, em seguida, solicitaram ao modelo que explicasse as origens da famosa imagem “Blue Marble” da Terra tirada do Apollo 17, o modelo gerou uma resposta com o tom e a perspectiva de um teórico da conspiração.
A equipe reconhece que existem riscos na extração de certos conceitos, que eles também ilustram (e alertam contra). No geral, no entanto, eles veem a nova abordagem como uma forma de iluminar conceitos ocultos e vulnerabilidades potenciais em LLMs, que poderiam então ser aumentadas ou diminuídas para melhorar a segurança de um modelo ou aprimorar seu desempenho.
“O que isso realmente diz sobre os LLMs é que eles têm esses conceitos, mas nem todos estão ativamente expostos”, diz Adityanarayanan “Adit” Radhakrishnan, professor assistente de matemática no MIT. “Com o nosso método, há maneiras de extrair esses diferentes conceitos e ativá-los de maneiras que a solicitação de prompt não pode fornecer respostas.”
Fonte: MIT News AI
Publicado em 2026-02-19