Comment ChatGPT écrit-il vraiment ses réponses?
ChatGPT écrit sa réponse un petit morceau à la fois. Il prédit un prochain token probable, l'ajoute et recommence, et rien dans cette boucle ne vérifie si le résultat est vrai.

Prédiction du token suivant
ChatGPT, Gemini et Claude sont des chatbots construits sur un LLM (large language model, grand modèle de langage). Un LLM écrit sa réponse un petit morceau à la fois, et chaque morceau est une prédiction. Google décrit ces modèles comme des mécanismes d’autocomplétion, pour l’essentiel. Le petit morceau s’appelle un token, et la méthode s’appelle la prédiction du token suivant (next-token prediction).
Un modèle qui ne fait que prédire du texte n’est pas encore un assistant utile. Après son premier entraînement, il passe donc par une seconde étape appelée affinage (fine-tuning). Des personnes écrivent des exemples de conversations qui montrent de bonnes réponses. Puis des personnes classent les réponses du modèle, et le modèle est entraîné sur ces classements. Cette étape s’appelle RLHF (reinforcement learning from human feedback, apprentissage par renforcement à partir de retours humains). C’est elle qui fait répondre le modèle comme un assistant.
Ce que fait vraiment la prédiction du token suivant
D’abord, vos mots sont découpés en tokens. Un token peut être un mot entier, une partie de mot ou un caractère isolé. Le découpage exact dépend du tokenizer de chaque modèle. Chaque token est transformé en nombre, parce que le modèle ne travaille qu’avec des nombres.
Bien avant que vous discutiez avec lui, le modèle s’est entraîné sur d’énormes quantités de texte en devinant le token suivant. Chaque essai était comparé au vrai token suivant dans ce texte. Une méthode appelée descente de gradient poussait ensuite les nombres internes du modèle, ses paramètres, vers la bonne réponse. GPT-3 avait 175 milliards de paramètres. Remarquez à quoi l’entraînement compare ses essais: au texte, pas à la vérité.
Comment le modèle écrit une réponse
- Votre message devient des tokens. Votre question est découpée en tokens et transformée en nombres.
- L’attention pèse les tokens précédents. Chaque token pèse les précédents, une étape appelée attention. Les modèles de chatbot ne regardent qu’en arrière, et c’est ainsi que le modèle comprend ce que désigne un mot comme « il », une fois qu’assez de la phrase est apparu.
- Chaque token possible reçoit une note. Le modèle donne à chaque prochain token possible une probabilité, une note qui dit à quel point il est probable qu’il vienne ensuite.
- Choisir, ajouter et recommencer. L’application choisit le token le plus probable, ou un token au hasard au-dessus d’un seuil. Elle ajoute ce token à la réponse et relance toute la boucle pour le suivant.
Cette boucle, c’est tout le processus d’écriture. Et voici le piège: aucune étape ne vérifie si la réponse est vraie. Un chatbot prédit ce qui sonne juste. Il ne vérifie pas ce qui est vrai. Quand une prédiction sonne juste mais qu’elle est fausse, on parle d’hallucination.
Un chatbot n’est pas un moteur de recherche
Beaucoup de gens pensent qu’un chatbot cherche ses réponses. Le modèle lui-même ne cherche pas les faits. ChatGPT, Gemini et Claude peuvent ajouter la recherche sur le web, mais même alors, la réponse reste prédite token par token. En 2023, dans l’affaire Mata v. Avianca, des avocats devant un tribunal fédéral de New York ont cité des décisions de justice inventées par ChatGPT. Le 22 juin 2023, le tribunal a infligé une amende de 5000 dollars au cabinet et aux avocats. La documentation d’Anthropic elle-même dit que les techniques pour réduire les hallucinations ne les éliminent pas entièrement, et elle conseille de toujours valider les informations critiques, surtout pour les décisions à fort enjeu.
Que faire
- Avant d’agir sur une réponse à propos d’argent, de santé ou de droit, demandez au chatbot ses sources.
- Ouvrez vous-même chaque source et trouvez la phrase exacte qui appuie l’affirmation.
- Dites au chatbot qu’il peut répondre « Je ne sais pas » au lieu de deviner, et demandez-lui de citer le passage sur lequel il s’appuie.
- Voyez une formulation assurée comme un style, pas comme une preuve. La réponse a été prédite, pas vérifiée.
À voir en 60 secondes
