Alucinaciones
Cuando la IA responde con total seguridad… y se lo está inventando.
La analogía
Todos tenemos un amigo que jamás dice “no lo sé”: si le preguntas algo que ignora, improvisa una respuesta convincente sin pestañear. Los modelos hacen lo mismo: están diseñados para continuar el texto de forma plausible, no para callarse cuando dudan.
En detalle
Una alucinación es una salida falsa pero verosímil: el modelo genera el texto más probable según sus patrones, sin verificar los hechos contra ninguna fuente. Ocurre más con datos concretos (fechas, cifras, citas, URLs) y temas poco representados en el entrenamiento. Se mitiga con RAG, con instrucciones como “si no estás seguro, dilo” y verificando lo importante.
Un ejemplo
Pides cinco artículos científicos sobre un tema y el modelo te devuelve títulos, autores y años perfectamente formateados… de artículos que no existen. Verifica siempre las referencias.