Une hallucination est une sortie d'un modèle de langage qui paraît plausible et assurée mais qui est fausse ou inventée : une fonction inexistante, une source fictive, un fait erroné. Elle vient du fonctionnement par prédiction de texte. Toute information importante doit donc être vérifiée.
Exemple
Le modèle cite une bibliothèque pandas.magic_clean() qui n'existe pas.