Em cenários de alto risco, como diagnósticos médicos, os usuários frequentemente querem saber o que levou um modelo de visão computacional a fazer uma determinada previsão, para que possam determinar se devem confiar em sua saída.
A modelagem de gargalo de conceito (concept bottleneck modeling) é um método que permite que sistemas de inteligência artificial expliquem seu processo de tomada de decisão. Esses métodos forçam um modelo de deep learning a usar um conjunto de conceitos, que podem ser compreendidos por humanos, para fazer uma previsão. Em uma nova pesquisa, cientistas da computação do MIT desenvolveram um método que convence o modelo a obter melhor precisão e explicações mais claras e concisas.
Os conceitos que o modelo usa são geralmente definidos antecipadamente por especialistas humanos. Por exemplo, um médico poderia sugerir o uso de conceitos como “pontos marrons agrupados” e “pigmentação variegada” para prever que uma imagem médica mostra melanoma.
Mas conceitos previamente definidos podem ser irrelevantes ou carecer de detalhes suficientes para uma tarefa específica, reduzindo a precisão do modelo. O novo método extrai conceitos que o modelo já aprendeu enquanto era treinado para realizar aquela tarefa particular, e força o modelo a usar esses, produzindo melhores explicações do que os modelos padrão de gargalo de conceito.
A abordagem utiliza um par de modelos de machine learning especializados que extraem automaticamente conhecimento de um modelo alvo e o traduzem em conceitos em linguagem simples. No final, sua técnica pode converter qualquer modelo de visão computacional pré-treinado em um que possa usar conceitos para explicar seu raciocínio.
“De certo modo, queremos ser capazes de ler a mente desses modelos de visão computacional. Um modelo de gargalo de conceito é uma maneira para os usuários dizerem o que o modelo está pensando e por que fez uma determinada previsão. Como nosso método usa conceitos melhores, ele pode levar a maior precisão e, em última análise, melhorar a responsabilidade dos modelos de IA de caixa preta”, diz o autor principal Antonio De Santis, um estudante de pós-graduação da Universidade Politécnica de Milão que realizou esta pesquisa enquanto era estudante de pós-graduação visitante no Computer Science and Artificial Intelligence Laboratory (CSAIL) do MIT.
Ele é acompanhado em um artigo sobre o trabalho por Schrasing Tong SM ’20, PhD ’26; Marco Brambilla, professor de ciência da computação e engenharia na Universidade Politécnica de Milão; e a autora sênior Lalana Kagal, uma pesquisadora principal.
Fonte: MIT News AI
Publicado em 2026-03-09