Alucinações
Quando a IA responde com toda a confiança… e está a inventar.
A analogia
Todos temos aquele amigo que nunca diz “não sei”: se lhe perguntares algo que desconhece, improvisa uma resposta convincente sem pestanejar. Os modelos fazem o mesmo: foram desenhados para continuar o texto de forma plausível, não para se calarem quando têm dúvidas.
Em detalhe
Uma alucinação é uma resposta falsa mas verosímil: o modelo gera o texto mais provável segundo os seus padrões, sem verificar os factos em nenhuma fonte. Acontece mais com dados concretos (datas, números, citações, URLs) e temas pouco representados no treino. Mitiga-se com RAG, com instruções como “se não tiveres a certeza, di-lo” e verificando o que é importante.
Um exemplo
Pedes cinco artigos científicos sobre um tema e o modelo devolve títulos, autores e anos perfeitamente formatados… de artigos que não existem. Verifica sempre as referências.