L’essentiel en trois points :
- Le Chain-of-Thought (CoT) force l’IA à décomposer ses calculs avant de donner sa réponse finale.
- Cette méthode réduit les erreurs de logique sur les tâches mathématiques et symboliques complexes.
- Les modèles de raisonnement récents intègrent désormais cette mécanique directement dans leur architecture.
Imaginez un instant un horloger qui tente de réparer un mécanisme complexe d’un seul coup d’œil, sans démonter les rouages un par un. C’est exactement ce que nous demandons à une intelligence artificielle lorsque nous lui posons une question complexe sans lui donner le temps de réfléchir. *(Les engrenages s’activent !)*
Le Chain-of-Thought (CoT), ou chaîne de pensée, est une technique d’ingénierie de prompt. Elle consiste à ordonner aux grands modèles de langage (LLM) de découper les problèmes complexes en étapes intermédiaires de raisonnement. Au lieu de sauter directement vers une conclusion hâtive, la machine détaille son travail. Elle imite ainsi la réflexion humaine.
Cette approche provient d’un article de recherche publié en 2022 par Google Brain. Elle améliore la précision des modèles sur les tâches arithmétiques, la logique symbolique et le bon sens.
Les Deux Piliers du Chain-of-Thought
Il existe deux méthodes principales pour activer cette chaîne de pensée chez un modèle de langage :
- Le Zero-Shot CoT : Vous ajoutez simplement une phrase déclencheuse à la fin de votre consigne. La formulation la plus célèbre est “Pensons étape par étape”. Cela pousse le modèle à générer sa propre progression logique sans aucune aide extérieure.
- Le Few-Shot CoT : Vous fournissez au modèle quelques exemples de questions-réponses. Dans ces exemples, la solution détaille explicitement la logique intermédiaire. Le modèle reproduit ensuite cette structure logique pour résoudre votre véritable problème.
Pourquoi cette méthode transforme-t-elle les résultats ?
Les LLM prédisent le texte mot par mot (ou jeton par jeton). En générant des étapes de raisonnement intermédiaires, le modèle s’accorde plus de temps de calcul pour traiter chaque facette du problème avant de s’engager sur une réponse finale.
Cette décomposition limite l’effet domino des erreurs intuitives. Analyser une équation étape par étape permet de détecter les erreurs de calcul ou de récupération de faits très tôt dans le processus.
De plus, cette technique rend les décisions de l’IA transparentes. Elle transforme une boîte noire en un cheminement logique vérifiable. L’utilisateur peut auditer le texte pour identifier précisément l’endroit où le raisonnement a déraillé.
Comparaison : Prompt Standard vs. Chain-of-Thought
| Style de Prompt | Exemple de Consigne | Structure de la Réponse |
|---|---|---|
| Prompt Standard | “Roger a 5 balles de tennis. Il achète 2 boîtes supplémentaires, contenant chacune 3 balles. Combien en a-t-il ?” | “La réponse est 11.” |
| Chain-of-Thought | “Roger a 5 balles de tennis. Il achète 2 boîtes… Pensons étape par étape.” | “1. Roger commence avec 5 balles. 2. 2 boîtes de 3 balles font 2 × 3 = 6 balles. 3. 5 + 6 = 11. La réponse est 11.” |
Les Variantes Avancées
Les chercheurs ont développé des structures plus complexes autour de cette idée :
La Self-Consistency (cohérence interne) demande au modèle de générer plusieurs chaînes de raisonnement indépendantes. Un vote majoritaire détermine ensuite la réponse finale.
Le Tree-of-Thoughts (ToT) permet à l’IA d’explorer plusieurs branches de réflexion à chaque étape, d’évaluer sa propre progression et de revenir en arrière si elle rencontre une impasse.
L’Auto-CoT, proposé par Zhang et al. (2022), utilise le LLM pour générer automatiquement des exemples de raisonnement diversifiés, éliminant ainsi la création manuelle de scripts de prompts.
Aujourd’hui, les modèles de raisonnement natifs (comme la série o d’OpenAI) intègrent directement ces mécanismes dans leur architecture de base.
Écrire un Prompt Few-Shot CoT
Le Few-Shot Chain-of-Thought montre à l’IA comment décomposer un problème en lui fournissant des exemples concrets. Voici un modèle à copier-coller :
[Exemple 1]
Question : Une cantine dispose de 23 pommes. S'ils en utilisent 20 pour préparer le déjeuner et en achètent 6 de plus, combien de pommes ont-ils ?
Raisonnement : La cantine commence avec 23 pommes. Ils en utilisent 20, il leur reste donc 23 - 20 = 3 pommes. Ils achètent ensuite 6 pommes de plus, ils ont donc 3 + 6 = 9 pommes.
Réponse : 9
[Exemple 2]
Question : Léa a 32 chocolats et sa sœur en a 42. Si elles en mangent 35, combien de chocolats leur reste-t-il au total ?
Raisonnement : Léa a 32 chocolats et sa sœur en a 42, ce qui fait un total de 32 + 42 = 74 chocolats. Elles en mangent 35, il leur reste donc 74 - 35 = 39 chocolats.
Réponse : 39
[Tâche Réelle]
Question : Michael possède 58 cartes de baseball. Il en perd 12, en donne 15 à un ami, puis achète un paquet de 10. Combien de cartes de baseball a-t-il maintenant ?
Raisonnement :
Limites et Pièges à Éviter
Cette technique n’est pas une solution miracle. Elle comporte des vulnérabilités spécifiques.
Le modèle peut rédiger des étapes à l’apparence logique mais y insérer un calcul mathématique erroné ou un fait faux. C’est le problème de la logique hallucinatoire.
De plus, détailler chaque pensée consomme un volume important de jetons. Cela augmente vos coûts d’API ainsi que le temps de réponse du modèle.
Forcer une chaîne de pensée pour des tâches simples (comme demander la capitale de la France) génère une surcharge inutile sans améliorer la pertinence de la réponse.
Enfin, si vos exemples contiennent une erreur de logique, le modèle reproduira cette structure défaillante pour la tâche finale.
Le CoT appliqué au Code et à l’Analyse de Données
En programmation, cette méthode séduit car elle sépare la conception architecturale de la syntaxe.
Exemple de prompt pour le développement :
“Écris une fonction Python pour trouver le plus long sous-palindrome dans une chaîne. Tout d’abord, rédige ta stratégie algorithmique en français sous forme de puces. Deuxièmement, liste les cas limites à gérer. Troisièmement, écris le code propre et commenté.”
Exemple de prompt pour l’analyse de données :
“Analyse ce jeu de données de ventes mensuelles. Avant de lancer le moindre calcul global, explique étape par étape comment tu prévois de gérer les valeurs manquantes, quelles mesures statistiques tu vas privilégier, et pourquoi.”
La Self-Consistency : Voter pour la meilleure réponse
La cohérence interne corrige les erreurs de calcul ponctuelles. Au lieu de demander un seul cheminement, vous générez plusieurs voies de raisonnement en parallèle.
Pour cela, augmentez la température du modèle (par exemple à 0,7) afin d’introduire de la variété. L’IA produit alors 5 ou 10 réponses différentes pour la même question.
Vous comparez ensuite les résultats finaux de chaque chemin et sélectionnez celui qui apparaît le plus souvent. C’est le principe du vote majoritaire. Si le modèle fait une erreur de calcul dans l’option A, les options B, C et D parviendront probablement au bon résultat de manière indépendante.
Le CoT invisible des modèles modernes
De nombreuses intelligences artificielles actuelles (comme OpenAI o1, o3-mini ou Claude 3.7 Sonnet) intègrent la chaîne de pensée directement dans leur architecture neuronale.
À chaque question, le modèle lance une boucle de raisonnement interne. Il teste des hypothèses, corrige ses erreurs et ajuste sa trajectoire de manière autonome. Dans l’interface utilisateur, ce processus est masqué sous un volet déroulant du type *”Réflexion pendant 12 secondes”*. Vous ne lisez et ne payez que pour la réponse finale épurée.
Grâce à cette intégration, l’ajout manuel de la phrase “Pensons étape par étape” devient superflu pour les requêtes complexes.
Débugger un Prompt pas à pas
Un échec de CoT s’explique souvent par des instructions trop vagues. Vous pouvez corriger un prompt défaillant en lui imposant des contraintes strictes.
Prompt imparfait :"Résous ce problème mathématique et montre ton travail : [Insérer le problème]"
Le modèle risque de s’égarer dans un bloc de texte confus et de perdre le fil de ses variables.
Prompt corrigé :
"Résous ce problème mathématique en respectant scrupuleusement cette structure :
Variables : Liste tous les chiffres connus et leur signification.
Formule : Indique la formule algébrique nécessaire.
Calcul : Montre le détail des calculs.
Réponse : Donne le résultat final de manière claire.
Problème : [Insérer le problème]"
Un Exemple Concret de Chain-of-Thought
Voici comment un modèle décompose un problème complexe pour éviter les erreurs d’inattention.
Le Prompt soumis à l’IA :
“Une boutique de vêtements possède 40 t-shirts. Elle en vend la moitié lundi. Mardi, elle reçoit une livraison qui augmente son stock de 50 %. Mercredi, un client achète 4 t-shirts, mais en rapporte 2 plus tard dans la journée. Combien de t-shirts reste-t-il dans la boutique ? Pensons étape par étape.”
La réponse générée par le modèle :
Analyse des changements du lundi :
- La boutique commence avec 40 t-shirts.
- Elle en vend la moitié : \(40 \div 2 = 20\) t-shirts vendus.
- Stock restant après lundi : \(40 – 20 = 20\) t-shirts.
Analyse des changements du mardi :
- Le stock actuel est de 20 t-shirts.
- Une livraison augmente ce stock de 50 %.
- 50 % de 20 représente \(20 \times 0,50 = 10\) t-shirts.
- Stock total après la livraison : \(20 + 10 = 30\) t-shirts.
Analyse des changements du mercredi :
- Le stock commence à 30 t-shirts.
- Un client achète 4 t-shirts : \(30 – 4 = 26\) t-shirts.
- Le client retourne 2 t-shirts : \(26 + 2 = 28\) t-shirts.
Vérification Finale :
- Départ : 40
- Lundi : \(40 – 20 = 20\)
- Mardi : \(20 + 10 = 30\)
- Mercredi : \(30 – 4 + 2 = 28\)
Réponse : La boutique dispose actuellement de 28 t-shirts.
Sans cette décomposition, le système tenterait de calculer l’ensemble de la formule d’un coup. Les LLM subissent alors des micro-bugs internes et proposent souvent un chiffre incorrect comme 26 ou 32.
Le Chain-of-Thought est-il encore nécessaire ?
La nécessité de cette technique dépend désormais du type de modèle que vous utilisez.
Si vous utilisez des modèles de raisonnement récents (comme la série o d’OpenAI, Claude Extended Thinking ou DeepSeek R1), évitez d’ajouter des formules comme “pensons étape par étape”. Ces modèles s’entraînent par apprentissage par renforcement à générer leur propre réflexion interne.
Leur imposer un CoT manuel crée une redondance inutile. Les recherches démontrent que cela n’apporte aucun gain de performance significatif tout en augmentant la latence et le coût en jetons.
Le CoT reste toutefois indispensable pour les modèles standards rapides (comme GPT-4o ou Claude Haiku) qui peinent encore avec la logique brute immédiate. Il s’avère aussi précieux pour structurer des systèmes d’agents autonomes ou pour conserver un journal d’audit transparent des décisions de l’IA.
Tableau Récapitulatif
| Type de Modèle | Faut-il demander une réflexion étape par étape ? | Meilleure Approche |
|---|---|---|
| Modèles de Raisonnement (o3, R1, Claude Thinking) | ❌ Non | Décrivez vos objectifs, vos règles et vos contraintes de manière directe. |
| Modèles Standards (GPT-4o, Claude Haiku) | Oui (pour les tâches complexes) | Utilisez des exemples Few-Shot ou des gabarits de structure. |
Chain-of-Thought vs. Few-Shot Prompting
Ces deux méthodes ne s’opposent pas. Elles s’associent pour guider l’IA.
Le Few-Shot Prompting montre au modèle le style ou le format à adopter via des exemples. Le Chain-of-Thought lui montre comment raisonner en découpant les étapes logiques.
| Caractéristique | Few-Shot Prompting | Chain-of-Thought (CoT) |
|---|---|---|
| Objectif Principal | Enseigner un format, un ton, un style ou des règles de classification. | Résoudre des énigmes logiques, des calculs ou des problèmes de code complexes. |
| Mécanisme | Fournir 2 à 5 paires d’exemples de questions et de réponses. | Demander la création de démonstrations intermédiaires. |
| Déclencheurs | Exemples concrets rédigés par l’utilisateur. | Phrases clés comme “Pensons étape par étape”. |
| Usage Idéal | Analyse de sentiment, formatage de texte, extraction de données. | Problèmes mathématiques, énigmes, développement logiciel. |
Exemple de Few-Shot Prompting pur (focus sur le format) :
Consigne :
Avis : "J'ai adoré le film, les acteurs étaient incroyables !" -> Sentiment : Positif
Avis : "La nourriture était froide et le service trop lent." -> Sentiment : Négatif
Avis : "Le livre est arrivé à l'heure. C'était correct." -> Sentiment :
Réponse de l'IA :
Neutre
Exemple de Chain-of-Thought pur (focus sur la logique) :
Consigne :
Si Jean a 5 pommes, en donne 2 à Marie, et en achète 3 de plus, combien en a-t-il ?
Pensons étape par étape.
Réponse de l'IA :
1. Jean commence avec 5 pommes.
2. Il en donne 2, il lui reste donc 5 - 2 = 3 pommes.
3. Il en achète 3 de plus, ce qui fait 3 + 3 = 6 pommes.
Réponse : 6
La combinaison des deux approches représente l’une des techniques les plus robustes de l’ingénierie de prompt. En fournissant des exemples qui contiennent eux-mêmes une chaîne de pensée, vous indiquez à la fois la forme attendue et la profondeur de réflexion requise pour y parvenir.