Uma abordagem única provavelmente não é a melhor estratégia ao projetar sistemas de inteligência artificial que auxiliam os usuários no diagnóstico de doenças.
Um novo estudo realizado por pesquisadores do MIT e de outras instituições descobriu que, embora a assistência de IA geralmente melhorasse a precisão de não especialistas e clínicos no diagnóstico de doenças de pele, os métodos de explicabilidade de IA tiveram impactos diferentes dependendo do nível de conhecimento dos usuários.
Os métodos de IA explicável ajudam os usuários a saber quando confiar nas previsões de um modelo, descrevendo ou validando o processo de tomada de decisão do modelo. Por exemplo, um modelo pode usar um mapa de calor para destacar regiões da imagem que foram mais importantes em seu diagnóstico ou um grande modelo de linguagem (LLM) para explicar a previsão em linguagem simples.
Neste estudo, os pesquisadores testaram não especialistas e médicos de atenção primária no diagnóstico de doenças de pele, com e sem a ajuda de diferentes sistemas de IA explicável.
Eles descobriram que a precisão diagnóstica de não especialistas melhorou, mas isso se deveu em grande parte à submissão ao sistema de IA. Não especialistas confiaram nas explicações baseadas em LLM, estivessem elas certas ou erradas, e acharam as explicações mais convincentes quando eram vagas ou genéricas.
Em contraste, os clínicos não foram enganados pela assistência incorreta da IA e tiveram o melhor desempenho quando receberam apenas a previsão de um modelo, sem nenhuma explicação acompanhante.
“Bons sistemas de IA podem melhorar o desempenho em alguns ambientes de saúde, mas isso deve ser cuidadosamente equilibrado com a submissão algorítmica que pode levar a mais erros. Sabemos que tanto a IA quanto os métodos de explicabilidade podem engajar o viés de automação em humanos, e esse efeito de ancoragem é algo que deve ser levado em consideração ao projetarmos sistemas de IA”, diz Marzyeh Ghassemi, professora associada do Departamento de Engenharia Elétrica e Ciência da Computação (EECS) do MIT, membro do Instituto de Engenharia Médica e Ciência, e principal pesquisadora.
Fonte: MIT News - AI
Publicado em 2026-08-04