Chain of Draft : comment les modèles d’IA peuvent raisonner avec moins de ressources

Une réponse produite par une intelligence artificielle générative paraît instantanée. Pourtant, derrière quelques lignes de texte se cachent parfois de très nombreuses opérations de calcul. Plus un modèle reçoit de contexte, génère de mots et déroule d’étapes de raisonnement, plus il mobilise de ressources informatiques. À grande échelle, cette dépense se traduit par des temps de réponse plus longs, des serveurs davantage sollicités et une facture plus élevée pour les organisations qui déploient ces outils.

C’est à ce problème que s’attaque l’approche Chain of Draft, littéralement une « chaîne de brouillon ». Présentée au début de l’année 2025, elle propose de préserver l’intérêt d’un raisonnement décomposé en étapes, tout en remplaçant les longues explications intermédiaires par des notes très courtes. L’ambition est simple : aider les modèles de langage à arriver à une réponse pertinente sans produire une quantité de texte inutile.

Pourquoi le raisonnement des IA peut-il être coûteux ?

Les grands modèles de langage, ou LLM, ne manipulent pas les phrases exactement comme un lecteur humain. Ils découpent le texte en unités appelées tokens. Un token peut correspondre à un mot, à une partie de mot, à un signe de ponctuation ou à plusieurs caractères selon la langue et le système de découpage employé.

Lorsqu’un utilisateur pose une question, le modèle doit traiter les tokens de la requête, ceux du contexte éventuel, puis ceux qu’il génère dans sa réponse. Une demande qui semble courte peut donc devenir lourde si elle s’accompagne d’un long document, d’instructions détaillées ou d’une démonstration complète étape par étape.

Les techniques de raisonnement explicite ont montré leur intérêt pour certaines tâches logiques, arithmétiques ou décisionnelles. Elles invitent le modèle à fractionner le problème avant de livrer sa réponse finale. Cette méthode, souvent désignée sous le nom de Chain-of-Thought, peut aider à mieux structurer une résolution. Mais une chaîne de raisonnement très détaillée présente un revers : elle produit beaucoup de tokens additionnels.

Réduire les tokens n’est donc pas un détail technique. Dans les services facturés à l’usage, le volume de texte traité ou généré peut peser directement sur le coût. Pour un assistant employé par des milliers de personnes, une économie réalisée sur chaque requête peut prendre une ampleur importante. Elle peut aussi contribuer à limiter la charge informatique associée à l’inférence, c’est-à-dire au moment où le modèle répond réellement à une demande.

Chain of Draft, l’idée d’un raisonnement sous forme de notes

Le principe de Chain of Draft n’est pas de demander au modèle de répondre sans réfléchir, ni de créer nécessairement un nouveau modèle. Il s’agit avant tout d’une manière de formuler et d’organiser la résolution d’une tâche. Au lieu d’encourager une explication exhaustive à chaque étape, l’approche privilégie un brouillon minimal : des éléments de raisonnement brefs, strictement utiles pour passer d’une étape à la suivante.

L’image du brouillon est parlante. Face à un problème, une personne peut noter quelques chiffres, une relation logique ou un mot-clé, puis parvenir à la bonne conclusion sans rédiger une dissertation. Chain of Draft cherche à faire émerger ce type de trace concise chez un modèle de langage.

Dans la pratique, le processus peut être compris en trois mouvements :

1. Identifier les données utiles dans la question et isoler ce qui doit être résolu.
2. Produire des étapes intermédiaires brèves, plutôt qu’une justification longue et répétitive.
3. Générer la réponse finale à partir de ces éléments, en vérifiant qu’elle répond bien à la demande initiale.

La distinction est importante. Une réponse concise ne suffit pas, à elle seule, à rendre un raisonnement efficace. Un modèle peut être bref et se tromper. À l’inverse, une longue explication peut être correcte, mais aussi contenir des détours inutiles. Chain of Draft s’intéresse précisément à cette zone de compromis : conserver les informations qui aident à résoudre le problème, supprimer celles qui n’ajoutent pas de valeur à la décision finale.

L’approche s’inscrit ainsi dans la continuité des méthodes de raisonnement guidé. Elle ne promet pas qu’un modèle reproduise la pensée humaine, expression souvent trompeuse lorsqu’elle est appliquée à des systèmes statistiques. Elle vise plus concrètement à organiser la génération de texte de façon plus sobre pour certaines catégories de problèmes.

En quoi diffère-t-elle du Chain-of-Thought ?

Le Chain-of-Thought et le Chain of Draft partagent une même intuition : un problème complexe peut être plus facile à traiter lorsqu’il est décomposé. Leur différence porte sur le niveau de détail attendu dans les étapes intermédiaires.

Un raisonnement très développé peut être utile pour expliquer une démarche à un élève, documenter une procédure ou examiner une erreur. En revanche, lorsque l’objectif est seulement d’obtenir une réponse fiable dans un délai court, un déroulé trop verbeux peut devenir contre-productif. Chain of Draft cherche donc à limiter la longueur de la trace produite, sans abandonner l’organisation logique de la tâche.

Cette comparaison ne doit pas être interprétée comme une hiérarchie absolue. Une méthode détaillée peut rester préférable lorsqu’une explication pédagogique est demandée ou quand un humain doit pouvoir suivre les étapes. À l’inverse, un brouillon trop comprimé risque d’omettre un élément déterminant. La bonne méthode dépend du niveau de transparence attendu, de la difficulté du problème et du coût acceptable pour l’usage envisagé.

Quels bénéfices espérer pour les utilisateurs et les entreprises ?

Le premier bénéfice recherché est la réduction du volume de tokens générés. Si les étapes intermédiaires deviennent plus compactes, le modèle a moins de texte à produire. Cette économie peut contribuer à réduire le temps nécessaire à la génération de la réponse, souvent appelé latence, ainsi que les ressources de calcul engagées.

Le deuxième avantage potentiel concerne la fluidité des applications. Un assistant virtuel, un outil de recherche dans des documents ou un service d’analyse de sentiment doit souvent répondre à de nombreuses requêtes. Dans ces contextes, éviter les calculs redondants et les explications inutilement longues peut améliorer l’expérience sans demander systématiquement des infrastructures plus importantes.

L’approche peut intéresser plusieurs familles d’usages :

• les assistants qui doivent traiter des questions nécessitant une logique simple ou plusieurs conditions ;
• les outils d’analyse qui synthétisent des informations à partir d’un ensemble de données textuelles ;
• les systèmes chargés d’aider à une décision en tenant compte de critères définis ;
• les applications où le coût et le délai de réponse comptent autant que la qualité du résultat.

Il faut toutefois distinguer une promesse de méthode d’un résultat garanti. Le fait de générer moins de texte ne signifie pas automatiquement que le modèle devient plus précis. La qualité dépend du modèle, de son entraînement, de la formulation de l’invite, de la nature des données et de la difficulté de la tâche. Une évaluation sérieuse doit comparer les réponses obtenues, les erreurs commises, la rapidité et les ressources mobilisées.

Les limites d’un raisonnement plus compact

Chain of Draft répond à une question concrète, celle de la sobriété du raisonnement généré. Mais elle ne résout pas tous les problèmes des modèles de langage. Un modèle peut encore donner une information inexacte, mal comprendre une consigne ambiguë ou fonder une réponse plausible sur un raisonnement erroné. Raccourcir les étapes ne corrige pas, à lui seul, ces difficultés.

La concision peut même devenir une limite si elle est poussée trop loin. Dans un problème complexe, certaines étapes sont indispensables : une hypothèse oubliée, un calcul non vérifié ou une contrainte mal interprétée peuvent suffire à fausser la conclusion. La méthode doit donc être calibrée selon le niveau de risque. Pour une tâche à fort enjeu, notamment lorsqu’elle influence une décision importante, l’économie de tokens ne peut pas primer sur la vérification humaine et la traçabilité.

L’adaptation constitue un autre défi. Les modèles ne réagissent pas tous de la même manière à des consignes structurées. Une formulation efficace pour un système donné peut être moins pertinente pour un autre. Les équipes qui souhaitent employer cette approche doivent tester différents formats d’invites et mesurer les résultats sur leurs propres cas d’usage, plutôt que supposer un gain universel.

Enfin, un raisonnement intermédiaire ne doit pas être confondu avec une preuve. Même lorsqu’un modèle présente des étapes cohérentes, celles-ci peuvent masquer une erreur initiale ou une information absente. Les utilisateurs doivent conserver les mêmes réflexes qu’avec toute IA générative : vérifier les faits importants, recouper les sources et ne pas déléguer aveuglément une décision sensible.

L’efficacité ne dispense pas du cadre réglementaire

La recherche de modèles plus sobres ne se limite pas à un enjeu de performance. Elle pose aussi des questions de gouvernance. Une IA plus rapide ou moins coûteuse peut être déployée plus largement, ce qui rend d’autant plus nécessaire l’encadrement de ses usages, de ses données et de ses décisions.

Dans l’Union européenne, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son application est progressive. Au 5 mars 2025, il fixe déjà un cadre qui repose notamment sur une approche par les risques. Certaines obligations concernent plus particulièrement les systèmes utilisés dans des domaines sensibles, tandis que les pratiques interdites et les exigences de culture de l’IA ont commencé à s’appliquer en février 2025.

Chain of Draft n’est pas, en lui-même, une catégorie réglementaire. Une méthode de raisonnement compact ne rend pas un système conforme par nature. Les exigences dépendent de l’usage réel de l’outil : un assistant de rédaction, un système d’analyse de candidatures ou une application employée dans un service essentiel ne soulèvent pas les mêmes obligations ni les mêmes risques.

Pour les concepteurs, le point clé reste donc de documenter les performances, de tester les limites et de prévoir une supervision adaptée. L’efficacité technique peut renforcer la confiance si elle s’accompagne de preuves sur la fiabilité. Elle peut l’affaiblir si la recherche d’économies conduit à rendre les erreurs plus difficiles à détecter.

Ce qu’il faut surveiller

L’intérêt de Chain of Draft se mesurera moins à la formule elle-même qu’aux évaluations qui l’accompagneront. Trois questions seront particulièrement importantes : la méthode permet-elle de réduire effectivement les tokens sur des tâches variées, conserve-t-elle la qualité des réponses et fonctionne-t-elle de façon cohérente avec différents modèles de langage ?

Il faudra aussi observer les conditions dans lesquelles un raisonnement court est préférable à une explication détaillée. Pour un calcul élémentaire ou une classification bien définie, des notes succinctes peuvent suffire. Pour un diagnostic complexe, une aide à la décision ou une tâche qui exige de justifier clairement un résultat, la compacité devra être mise en balance avec le besoin d’explication et de contrôle.

À l’heure où les usages de l’IA générative se multiplient, la capacité à faire mieux avec moins de calcul devient un axe de recherche essentiel. Chain of Draft illustre cette évolution : l’avenir des modèles ne dépend pas uniquement de leur taille ou de leur puissance brute, mais aussi de leur capacité à mobiliser la bonne quantité de ressources pour chaque problème.