Un jeton est la petite unité qu’un modèle de langage lit, écrit et facture. Ce peut être un mot court, une partie de mot ou un signe de ponctuation.
Pourquoi les jetons décident de la facture
Les fournisseurs comptent l’entrée et la sortie en jetons, pas en mots. La même tâche peut coûter plus ou moins selon la langue et le modèle, et la sortie est souvent plus chère que l’entrée.
Ce qu’il faut vérifier avant d’envoyer
Estimez le coût avec le prix au jeton du fournisseur et vérifiez la fenêtre de contexte avant d’envoyer un long document. La version anglaise de ce sujet porte le même nom d’article.
