Coût des LLM par token : comment comparer les tarifs API sans se tromper

Le coût d’un modèle de langage peut sembler dérisoire à l’échelle d’une question. Quelques fractions de centime pour résumer un document, extraire une information ou rédiger une réponse client ne paraissent pas de nature à bouleverser un budget. Mais une application qui traite des milliers de conversations, injecte de longs documents dans chaque requête ou génère des textes détaillés consomme vite des millions de tokens. À cette échelle, la grille tarifaire choisie devient une décision opérationnelle.

Le marché des grands modèles de langage, ou LLM, propose en novembre 2024 une offre particulièrement éclatée. OpenAI, Anthropic, Google, Meta, Cohere et Mistral AI ne vendent pas seulement des niveaux de qualité différents : ils appliquent aussi des tarifs, des fenêtres de contexte et des conditions d’usage distinctes. Comparer les prix exige donc de savoir ce qui est réellement facturé, puis de relier cette facture à un cas d’usage concret.

Un token, qu’est-ce que cela représente ?

Un token est une unité de texte manipulée par un modèle de langage. Il ne correspond pas exactement à un mot. Un mot courant peut représenter un token, tandis qu’un mot long, une ponctuation, un nombre ou une expression peuvent être découpés en plusieurs unités. Le découpage varie en outre selon le modèle et la langue traitée.

Dans une API, on distingue habituellement deux catégories :

• les tokens d’entrée, c’est-à-dire les instructions, la question de l’utilisateur, l’historique de la conversation et les documents transmis au modèle ;
• les tokens de sortie, c’est-à-dire le texte généré par le modèle en réponse.

Les tokens de sortie coûtent fréquemment davantage que les tokens d’entrée. Générer une réponse nécessite en effet de produire le texte pas à pas, alors qu’analyser le prompt revient principalement à le traiter en une seule phase. Cette différence a une conséquence très pratique : demander des réponses trop longues peut peser davantage dans la facture que l’instruction initiale elle-même.

La fenêtre de contexte est un second indicateur important. Elle désigne le volume maximal de tokens qu’un modèle peut prendre en compte dans une même requête, en additionnant généralement l’entrée et la sortie. Une grande fenêtre est utile pour interroger un dossier volumineux, analyser un contrat ou conserver l’historique d’un assistant. Elle ne signifie pas, à elle seule, que chaque requête sera plus chère : seul le volume effectivement envoyé et généré est facturé.

Les tarifs des principaux LLM au 14 novembre 2024

Le tableau suivant rassemble des tarifs publics d’API représentatifs au 14 novembre 2024, exprimés en dollars par million de tokens. Il s’agit de prix catalogue : les offres professionnelles, les plateformes d’hébergement tierces, les remises sur volume et les options comme le traitement par lots peuvent différer.

Ces chiffres illustrent l’ampleur des écarts. Pour les tokens d’entrée, Claude 3 Haiku est affiché à 0,25 dollar par million, quand GPT-4 est à 30 dollars. La différence atteint un facteur de 120. Elle ne signifie toutefois pas que le premier est automatiquement le meilleur achat. Les modèles ne rendent pas le même niveau de service sur le raisonnement, la rédaction, le respect d’instructions complexes, les langues prises en charge ou les tâches multimodales.

Chez Google, Gemini 1.5 Pro introduit également une tarification qui dépend de la taille du contexte : au-delà de 128 000 tokens, le prix augmente. Cette structure rappelle qu’un comparatif limité à un seul prix d’entrée ne suffit pas. Il faut savoir combien de texte l’application transmet réellement à chaque appel.

Cohere occupe aussi une place dans ce paysage avec ses modèles Command. Command R+ est notamment facturé à partir de 3 dollars par million de tokens d’entrée et 15 dollars en sortie, avec un positionnement orienté vers des usages professionnels et l’analyse de connaissances.

Combien coûte une requête en pratique ?

Le calcul de base est simple : il faut multiplier le volume de tokens d’entrée par le tarif d’entrée, puis le volume de sortie par le tarif de sortie. Le total dépend donc autant de la longueur des réponses que du volume de documents injectés dans le prompt.

Prenons un scénario volontairement lisible : une application envoie 1 million de tokens à un modèle sur un mois et reçoit 250 000 tokens en retour. À tarifs catalogue, l’ordre de grandeur est le suivant :

Ce cas de figure n’est qu’une méthode de calcul. Une base documentaire utilisée par un assistant interne peut mobiliser beaucoup plus de tokens d’entrée que de sortie. À l’inverse, un outil de rédaction automatisée qui produit fiches produit, comptes rendus ou traductions détaillées sera particulièrement sensible au tarif de sortie.

Les appels techniques ne sont pas les seuls éléments à intégrer. Une entreprise peut aussi supporter le coût de l’infrastructure qui entoure le modèle, du stockage de documents, de la supervision, de l’évaluation des réponses et du travail humain nécessaire pour corriger les erreurs. Le prix par token est fondamental, mais il ne décrit pas à lui seul le coût total d’un projet d’IA générative.

Le modèle le moins cher est-il toujours le plus rentable ?

Non. Un modèle à bas coût convient très bien à certaines tâches répétitives et bien délimitées : classement de messages, extraction de champs dans un texte structuré, reformulation courte, routage d’une demande ou première ébauche de réponse. Dans ces situations, la rapidité et le volume peuvent compter plus qu’une capacité de raisonnement avancée.

En revanche, une requête difficile peut exiger un modèle plus capable. Si un modèle moins cher produit une réponse inutilisable, impose plusieurs relances ou génère une erreur qui doit être détectée puis corrigée, son avantage tarifaire peut disparaître. Cette réalité est particulièrement importante pour les cas impliquant des documents juridiques, financiers, médicaux ou des décisions ayant un impact concret sur des personnes.

La bonne question n’est donc pas seulement « quel modèle coûte le moins par million de tokens ? », mais « quel est le coût d’une réponse fiable et exploitable pour cette tâche ? ». Pour y répondre, il faut tester les modèles sur un échantillon de requêtes représentatives, mesurer les taux de réussite et observer les volumes de tokens réellement consommés.

Comment réduire la facture sans dégrader l’usage

Une maîtrise des coûts commence par l’observation. Avant de choisir un modèle, une équipe a intérêt à enregistrer le nombre de tokens d’entrée et de sortie par fonctionnalité. Cette mesure permet de repérer les requêtes anormalement longues, les conversations qui accumulent trop d’historique ou les réponses inutilement verbeuses.

Plusieurs pratiques peuvent ensuite réduire la consommation :

• donner des consignes précises et courtes, plutôt que répéter un long contexte à chaque appel ;
• fixer une longueur de réponse adaptée, par exemple une synthèse en quelques points plutôt qu’un rapport lorsque le besoin est simple ;
• ne transmettre que les extraits utiles d’un document, au lieu d’envoyer systématiquement son intégralité ;
• réserver les modèles avancés aux demandes complexes et employer un modèle plus économique pour le tri, le classement ou les brouillons ;
• réutiliser les résultats stables lorsqu’un même prompt est sollicité à plusieurs reprises, via un mécanisme de cache adapté.

Le découpage d’un service entre plusieurs modèles est souvent plus pertinent qu’un choix unique. Un assistant peut utiliser un petit modèle pour identifier l’intention de l’utilisateur, puis confier seulement les demandes complexes à un modèle plus coûteux. Cette architecture demande des tests sérieux, car une mauvaise étape de tri peut nuire à la qualité finale, mais elle permet d’aligner plus finement les dépenses sur la valeur créée.

Les limites d’un comparatif de prix

Les tarifs évoluent rapidement sous l’effet de la concurrence, des nouvelles générations de modèles et des changements de politique commerciale des fournisseurs. Une analyse publiée le 14 novembre 2024 doit donc être lue comme une photographie du marché à cette date, non comme une promesse de prix durable.

Les noms peuvent également recouvrir des réalités différentes. Llama est une famille de modèles dont les conditions et le coût changent selon que l’organisation l’auto-héberge ou l’utilise via une plateforme telle qu’Amazon Bedrock. Dans le premier cas, la licence du modèle peut permettre de ne pas payer de token à un fournisseur de modèle, mais il reste alors à financer les processeurs graphiques, le déploiement, la sécurité, la maintenance et l’énergie. Le calcul économique ne disparaît pas : il se déplace.

Il faut aussi vérifier ce que couvre précisément une offre. Certaines plateformes proposent des capacités supplémentaires, comme la recherche dans des fichiers, la génération d’images, l’appel d’outils ou le traitement par lots. Ces fonctions peuvent obéir à des règles tarifaires séparées. Les contrats professionnels peuvent, eux, intégrer des engagements de disponibilité, de confidentialité ou de localisation des données qui modifient la comparaison.

Ce qu’il faut surveiller avant de choisir un LLM

Le prix par token restera un repère central à mesure que les LLM s’installent dans les logiciels professionnels et les produits grand public. Mais les acheteurs devront suivre simultanément quatre paramètres : le tarif d’entrée, le tarif de sortie, la taille du contexte et la performance effective sur leurs propres données.

La baisse des prix favorise l’adoption de l’IA générative pour des tâches auparavant trop coûteuses à automatiser. Elle peut aussi conduire à multiplier les appels sans les mesurer, jusqu’à ce que la facture surprenne. La démarche la plus robuste consiste à démarrer avec un périmètre clair, un budget plafond et des indicateurs de qualité, puis à ajuster le modèle et les prompts à partir des usages observés.

En novembre 2024, le marché montre déjà qu’il n’existe pas de champion universel. GPT-4o, Claude 3, Gemini, Llama, Command et Mixtral répondent à des besoins différents. Le bon choix est celui qui fournit le niveau de qualité nécessaire, dans un délai acceptable et à un coût prévisible pour le volume réel de l’application.