Hallucination

Une sortie confiante et plausible, mais fausse. Le modèle optimise la plausibilité, pas la vérité : quand il ne sait pas, il produit quand même la suite la plus vraisemblable.

La forme reste impeccable. Signature de méthode crédible, nom de paramètre logique, exemple d’usage bien tourné. Sauf que la méthode n’a jamais existé.

Deux choses se font passer pour des hallucinations sans en être. L’obsolescence d’abord : un modèle qui vous donne l’API d’il y a deux ans restitue ce qu’il a vu, sa date de coupure fait le reste. L’erreur de raisonnement ensuite : un calcul faux reste un calcul faux, ce n’est pas une invention.

Le mot est discutable, d’ailleurs. Il prête au modèle une perception qu’il n’a pas, et « fabrication » serait plus juste. Mais « hallucination » est le mot du métier, alors on le définit plutôt que de le combattre.

À éviter

L’employer pour toute erreur du modèle. Une réponse périmée, un calcul faux, un refus : trois autres choses, avec trois autres remèdes.