<p>Carros autônomos são frequentemente controlados por modelos de deep learning que, por vezes, falham em situações inesperadas. Por exemplo, o carro pode inexplicavelmente frear e bloquear o caminho de um veículo de emergência que se aproxima. Um motorista ou passageiro humano pode precisar reagir rapidamente para evitar uma colisão.</p><p>Para ajudar os humanos a antecipar melhor os erros de um veículo, pesquisadores do MIT e da empresa de tecnologia de veículos autônomos <a href="https://motional.com/" target="_blank">Motional</a> desenvolveram um novo método que fornece explicações claras das decisões do modelo subjacente.</p><p>Geralmente, o processo de raciocínio interno de um modelo de deep learning é opaco e difícil de entender. Mas o novo método, chamado Concept-Wrapper Network (CW-Net), traduz esse processo de raciocínio em conceitos que descrevem fielmente as decisões do veículo autônomo sem alterar seu desempenho de condução.</p><p>O CW-Net explica as decisões de planejadores baseados em ML usando conceitos compreensíveis, como "aproximando-se de veículo parado" ou "perto de ciclista". Essas explicações podem corrigir equívocos que motoristas e passageiros têm sobre o comportamento do veículo e melhorar sua consciência situacional.</p><p>Em testes de estrada em uma pista privada, as explicações do CW-Net ajudaram os motoristas de segurança a prever com mais precisão o comportamento do veículo; um estudo de simulação maior com usuários não especialistas produziu resultados semelhantes. Esses experimentos mostram como o CW-Net pode fornecer feedback importante para engenheiros enquanto eles solucionam problemas em sistemas de inteligência artificial veiculares. A longo prazo, esta técnica poderá aumentar a segurança e a transparência dos veículos autônomos, ao mesmo tempo em que constrói uma confiança adequada em motoristas e passageiros.</p><p>“Este trabalho mostra como as explicações são de apoio ao modelo mental humano e à compreensão do comportamento de um sistema, e como isso pode ser usado na engenharia e no desenvolvimento para melhorar a tecnologia”, diz Juli</p>
Fonte: MIT News - AI
Publicado em 2026-09-02