Entraînement

Le processus, en amont et hors ligne, qui a produit les poids du modèle à partir d’un corpus. Il a eu lieu une fois, avant vous, et il coûte des mois de calcul.

Quand vous ouvrez une session, tout est déjà figé. Le modèle que vous utilisez ne bouge pas d’un poids pendant que vous travaillez.

D’où la conséquence qui surprend le plus : ce que vous lui apprenez ne reste nulle part. Vous pouvez le corriger dix fois dans la même session, il aura tout oublié à la suivante. L’entraînement et l’inférence sont deux moments qui ne communiquent pas.

À éviter

Dire « je l’ai entraîné à respecter nos conventions » après une session de corrections. Vous n’avez rien entraîné : vous avez rempli un contexte, qui part à la poubelle en fermant la fenêtre. Ce qui persiste, c’est ce que vous écrivez dans le fichier d’instructions.