Les fournisseurs facturent les modèles au nombre de tokens, des fragments de texte, comptés en entrée et en sortie, souvent à des tarifs différents. Le coût d'une requête dépend donc de la taille du prompt, du contexte envoyé et de la longueur de la réponse.
Exemple
coût = tokens_entrée × tarif_entrée + tokens_sortie × tarif_sortie