Comment fonctionne vraiment une IA comme ChatGPT ?

La réponse courte

Un LLM (grand modèle de langage) comme celui de ChatGPT ne tire pas sa réponse d'une base de données. Il découpe ton texte en tokens et prédit la suite probable, un token à la fois.

Schéma animé: Comment fonctionne vraiment une IA comme ChatGPT ?

Grand modèle de langage (LLM)

Un LLM (grand modèle de langage) est le moteur qui produit le texte d’assistants comme ChatGPT. Google le compare à une saisie automatique géante. À partir de ce que tu écris, il prédit la suite, et il peut enchaîner des milliers de tokens. Un token, c’est un morceau de texte. Ça peut être un mot, un bout de mot, ou même un seul caractère.

Le point important, c’est l’origine de la réponse. Le modèle lui-même ne va pas la chercher dans une base de données de faits. Il la calcule, morceau par morceau, avec des probabilités. Certains produits ajoutent une recherche web autour du modèle. Mais ce calcul de prédiction, lui, ne vérifie rien : il produit une suite probable.

Ce qu’un LLM fait vraiment

D’abord, ta question est découpée en tokens. Ensuite, chaque token est traduit en nombres, et le modèle ne travaille qu’avec ces nombres. Puis vient l’attention, qu’on appelle aussi auto-attention. Pour chaque token, le modèle se pose une question : à quel point chacun des autres tokens influence-t-il l’interprétation de celui-ci ?

C’est ce qui permet à « avocat » de devenir un fruit dans « une salade à l’avocat », ou un juriste dans « mon avocat a appelé ». Le mot est le même. Ce sont les tokens autour qui changent son sens dans le calcul. Ces exemples sont des illustrations : le découpage réel en tokens dépend de chaque modèle.

Comment une réponse se construit token par token

  1. Ta question devient des tokens. Le texte est découpé en mots ou bouts de mots. Ces morceaux sont ensuite traduits en nombres.
  2. L’attention pèse le contexte. Pour chaque token, le modèle mesure l’influence de tous les autres tokens.
  3. Le modèle calcule des probabilités. Il donne une probabilité à chaque token suivant possible. Puis il en choisit un.
  4. Le token s’ajoute, ça recommence. Le token choisi rejoint le texte. Tout le calcul repart alors pour le token d’après.

Le résultat, c’est un texte probable, pas forcément un texte vrai. Google le dit clairement : les LLM hallucinent, et leurs prédictions contiennent souvent des erreurs. Une étude d’OpenAI de septembre 2025 explique une partie du problème. L’entraînement et l’évaluation récompensent le fait de deviner plutôt que d’admettre l’incertitude. Sans la bonne info, le modèle devine quand même. C’est ça, une hallucination.

Un ton sûr n’est pas une preuve

Beaucoup de gens pensent qu’une réponse donnée avec assurance est forcément juste. C’est faux, car rien dans ce calcul ne vérifie les faits. Le cas d’Air Canada le montre. En novembre 2022, le chatbot de la compagnie a dit à un client qu’il pouvait demander un tarif deuil après coup, dans les 90 jours. C’était faux. La compagnie a soutenu que le chatbot était responsable de ses propres réponses. Un tribunal de la Colombie-Britannique, au Canada, a rejeté cette défense. Il a jugé la compagnie responsable.

Ce que tu peux faire

  • Pour le droit, la santé ou l’argent, vérifie à la source officielle avant d’agir. Pour une question de bail, par exemple, lis le texte de loi sur Fedlex.
  • Ne prends pas un ton sûr pour une preuve : une réponse claire et assurée peut être une hallucination.
  • Demande-toi d’où vient l’info. Le modèle seul prédit du texte, il ne consulte pas une base de faits.
  • Si ton entreprise utilise un chatbot, garde en tête qu’elle reste responsable de ce qu’il dit à ses clients.

#IAgenerative#LLM#ChatGPT#Hallucinations#IntelligenceArtificielle#Cybersecurite#SecuriteInformatique#SuisseRomande#IA

À voir en 60 secondes