Aller au contenu

Token

Un token est un petit morceau de texte qu'un modèle de langage lit et écrit. L'IA dans le cloud se paie souvent par million de tokens, donc leur nombre fixe le prix.

Un token est un petit morceau de texte. Un modèle de langage découpe tout en tokens avant de le lire. Un token peut être un mot entier, une partie d'un long mot ou un signe comme un point.

Pourquoi les tokens comptent

Prix : l'IA dans le cloud se paie souvent par million de tokens. Cela vaut pour ce que vous envoyez et pour ce que vous recevez. Un agent qui fait plusieurs essais peut utiliser beaucoup de tokens. Il est donc difficile de prévoir le prix. Regardez plutôt ce que coûte la résolution d'une seule tâche.

Place : un modèle ne peut retenir qu'un certain nombre de tokens à la fois. On appelle cela la fenêtre de contexte.

Les tokens et Domino IQ

Si Domino IQ fait tourner le modèle sur votre propre serveur, vous ne payez pas par token. Vous payez le matériel et l'électricité. Cela peut coûter bien moins cher si vous utilisez beaucoup l'IA.

Tous les termes du glossaire