Um professor que acredita que o trabalho de conclusão de curso de um aluno pode ter sido escrito por um modelo de linguagem grande (LLM) pode usar uma ferramenta para detectar texto gerado por inteligência artificial para ajudar a confirmar suas suspeitas. Mas o professor talvez queira pensar duas vezes antes de depositar toda a sua confiança no detector.
Pesquisadores do MIT e da Universidade Cornell mostraram que tais ferramentas de detecção, que são modelos de AI por si só, podem ser enganadas por texto gerado por AI disfarçado para parecer como se tivesse sido escrito por um humano. Os detectores também podem falhar em identificar texto de AI devido a mudanças naturais nos hábitos de escrita ao longo do tempo ou ao surgimento de novos LLMs.
Em um novo artigo , os pesquisadores demonstraram como uma técnica de treinamento especial torna um detector de AI mais preciso e resiliente à enganação, mesmo com a escrita humana e de AI mudando constantemente.
Eles empregaram um método chamado adaptação em tempo de teste (test-time adaptation), que permite que um modelo de detecção implantado aprenda a partir de novos dados não rotulados, ajustando seu funcionamento interno em tempo real. Dessa forma, o modelo se adapta a entradas não vistas sem ser retreinado do zero.
Em experimentos, um detector comercial conseguiu identificar apenas cerca de 27% do texto gerado por AI que havia sido disfarçado, enquanto a nova abordagem alcançou 93% de precisão.
Este método poderia ajudar educadores, editores, publicadores e gerentes de contratação a sinalizar textos gerados por LLM que as pessoas tentam fazer passar por escritos por humanos. Também poderia ser usado por especialistas em cibersegurança para prevenir golpes de phishing por e-mail ou identificar fraudes de otimização de mecanismos de busca.
“Existem muitos contextos de alta importância onde as pessoas realmente se preocupam com a identidade do autor, desde publicações científicas até concursos de contos. Mostramos que a adaptação em tempo de teste permite que seu detector de AI seja muito mais robusto, mesmo com o comportamento adverso contínuo por parte dos usuários de AI,”
Fonte: MIT News - AI
Publicado em 2026-11-18