Milhões de pessoas estão agora projetando seus próprios companheiros de inteligência artificial personalizados, mas a maioria tem pouca ideia de como essas criações realmente se comportarão. Em um novo artigo , o Professor Assistente do MIT Media Lab Pat Pataranutaporn e seus pesquisadores de pós-graduação Anthony Baez e Sheer Karny introduzem a “transparência neural”, uma ferramenta que permite que usuários comuns vislumbrem a rede neural de uma IA antes mesmo de seu chatbot dizer uma palavra. O trabalho está sendo apresentado esta semana na ACM Conference on Intelligent User Interfaces.
Nesta entrevista, Pataranutaporn, que é o Professor CD de Artes e Ciências da Mídia da Asahi Broadcasting Corporation, explica o que eles encontraram, por que os riscos são maiores do que a maioria dos usuários percebe e como a IA genuinamente transparente pode se parecer no futuro.
P: Seu artigo introduz a “transparência neural”, uma forma de permitir que usuários comuns espiem as redes neurais de uma IA antes que seu chatbot diga uma palavra. Você pode descrever como isso realmente funciona e por que você se concentrou no momento do design, em vez de detectar problemas depois que um chatbot já está em uso?
R: Milhões de pessoas estão agora criando chatbots e agentes de IA personalizados alimentados por Large Language Models (LLM), transformando-os em colaboradores, tutores, coaches, parceiros criativos e companheiros por meio de prompts de texto simples. No entanto, a maioria das pessoas tem muito pouca ideia de como esses prompts moldarão o comportamento da IA até que comecem a interagir com ela. Queríamos mudar isso.
“Transparência neural” significa dar às pessoas algo como uma "tomografia cerebral" para a IA. Não porque a IA tenha um cérebro humano, mas porque sua rede neural contém padrões internos que podem indicar
Fonte: MIT News - AI
Publicado em 2026-07-15