Lotook
Un token è la piccola unità con cui un modello linguistico legge e scrive il testo e ne calcola il costo. Può essere una parola breve, una parte di parola o un segno di punteggiatura.
Perché i token determinano il costo
I fornitori contano input e output in token, non in parole. La stessa operazione può consumare un numero diverso di token a seconda della lingua e del modello, e l’output costa spesso più dell’input.
Cosa controllare prima di inviare
Stima il costo usando il prezzo per token del fornitore e controlla la finestra di contesto prima di inviare documenti lunghi. La versione inglese di questo argomento usa lo stesso nome dell’articolo.