Nos hospitais e clínicas de hoje, um dermatologista pode usar um modelo de inteligência artificial para classificar lesões de pele para avaliar se a lesão apresenta risco de desenvolver um câncer ou se é benigna. Mas se o modelo for viesado para certos tons de pele, ele pode falhar em identificar um paciente de alto risco.
Talvez um dos desafios mais conhecidos e persistentes com que a pesquisa em IA continua a lidar seja o viés. O viés é frequentemente discutido em relação aos dados de treinamento, mas a arquitetura do modelo também pode conter e amplificar o viés, influenciando negativamente o desempenho do modelo em ambientes do mundo real. Em cenários médicos de alto risco, as consequências muito reais do baixo desempenho transformaram o viés em uma questão de segurança essencial.
Um novo artigo de pesquisadores do MIT, Worcester Polytechnic Institute e Google, que foi aceito na Conferência Internacional de Representações de Aprendizagem de 2026, propõe uma nova abordagem de desenviesamento chamada “Weighted Rotational Debiasing” (ou seja, WRING) que pode ser aplicada a modelos de linguagem visual (VLMs), como o OpenCLIP da OpenAI.
VLMs são modelos multimodais que podem entender e interpretar diferentes modalidades de dados, como vídeo, imagem e texto simultaneamente. Embora existam abordagens de desenviesamento para VLMs, a abordagem mais comumente usada é conhecida como “desenviesamento por projeção”, que leva ao que foi chamado de “dilema Whac-A-Mole” , uma observação empírica que foi formalmente introduzida na pesquisa em IA em 2023.
O desenviesamento por projeção é uma abordagem de pós-processamento que remove a informação indesejável e viesada dos embeddings do modelo, “projetando” o subespaço para fora de um espaço de representação de relações, cortando assim o viés. Mas essa abordagem tem suas desvantagens.
“Quando você faz isso, você inadvertidamente esmaga tudo ao redor”, diz Walter Gerych, o primeiro autor do artigo, que realizou esta pesquisa no ano passado como pós-doutoramento no MIT. “Todas as outras relações que o modelo aprende mudam quando você faz isso.”
Gerych, que agora é professor assistente de ciência da computação no Worcester Polytechnic Institute, é acompanhado no artigo pelos estudantes de pós-graduação do MIT Cassandra Parent e Quinn Perian; Rafiya Javed do Google;
Fonte: MIT News AI
Publicado em 2026-04-29