Qu'est-ce que l'injection indirecte de prompt ?

La réponse courte

L'injection indirecte de prompt, c'est un texte caché dans une page web qui donne des ordres à ton agent IA (intelligence artificielle). S'il obéit, il agit avec tes droits.

Schéma animé: Qu'est-ce que l'injection indirecte de prompt ?

Injection indirecte de prompt

Un agent IA, c’est un assistant d’intelligence artificielle (IA) qui ne se contente plus de répondre : il agit à ta place. Il lit une page, va chercher un code dans tes e-mails, publie un message. Dans un navigateur IA, il travaille avec les sessions que tu as déjà ouvertes. C’est pratique. Mais ça pose une question simple : à qui obéit-il vraiment ?

L’injection indirecte de prompt est la réponse qui inquiète. Le prompt, c’est le texte que reçoit le modèle d’IA pour savoir quoi faire. Ici, ce n’est pas toi qui écris l’ordre piégé. C’est un escroc qui le cache dans une page web ou dans un commentaire qu’il poste. D’où le mot « indirecte » : la consigne arrive par le contenu que l’agent lit, pas par ta demande. L’OWASP, une communauté de référence en sécurité des applications, classe l’injection de prompt comme le risque n° 1 des applications de grands modèles de langage (LLM01:2025).

Ce que l’agent envoie vraiment au modèle

Quand tu demandes à l’agent de résumer une page, il ne transmet pas seulement ta demande au modèle d’IA. Il envoie aussi le texte de la page, y compris ce que tu ne vois pas : du texte blanc sur fond blanc, un commentaire caché dans le code de la page, une balise spoiler dans un commentaire Reddit. Ta demande et la page arrivent ensemble.

Les fournisseurs entraînent leurs modèles à suivre une hiérarchie d’instructions et ajoutent des délimiteurs autour du contenu lu. Mais selon le NCSC, le centre national de cybersécurité britannique, les grands modèles de langage actuels n’imposent aucune frontière de sécurité entre les instructions et les données. Rien n’oblige vraiment le modèle à séparer un ordre d’une donnée. Il peut prendre l’un pour l’autre.

Comment l’attaque fonctionne

  1. L’escroc cache une consigne. Il la glisse dans une page ou dans un commentaire public, sous une forme que tu ne remarques pas.
  2. Tu demandes un résumé. Tu fais confiance à l’agent et tu lui demandes de lire la page à ta place.
  3. Le modèle confond les deux. La consigne cachée arrive avec ta demande, et le modèle peut la traiter comme un ordre.
  4. L’agent agit avec tes droits. S’il obéit, il agit dans tes sessions ouvertes, avec tous les droits que tu as toi-même.

En 2025, Brave l’a montré sur le navigateur Comet de Perplexity. Une consigne cachée sous une balise spoiler dans un commentaire Reddit a poussé l’agent à demander un code de connexion Perplexity, à le lire dans Gmail, puis à le poster sur Reddit avec l’adresse e-mail de la victime. De quoi voler son compte Perplexity.

L’injection de prompt n’est pas l’injection SQL

Beaucoup pensent qu’un correctif va régler le problème, comme pour l’injection SQL (langage structuré de requêtes). Contre l’injection SQL, il existe une parade connue : les requêtes paramétrées, qui séparent les ordres des données. Dans un modèle d’IA, cette séparation n’est pas imposée. Le NCSC estime donc que l’injection de prompt ne sera peut-être jamais complètement maîtrisée comme l’injection SQL. L’OWASP ajoute qu’on ne sait pas s’il existe une méthode de prévention infaillible. Brave a d’ailleurs constaté que le correctif de Comet restait incomplet.

Ce qu’il faut faire

  • Utilise ton agent IA dans un profil de navigateur séparé, sans e-banking ni e-mails connectés.
  • Laisse-lui seulement les clés de sa tâche : les accès dont il a vraiment besoin, rien de plus.
  • Garde en tête qu’un résumé fait par l’agent peut encore être truqué par la page qu’il lit.
  • Ne compte pas sur un correctif miracle : on réduit le risque, on ne le supprime pas.

#InjectionDePrompt#AgentsIA#IAagentique#PromptInjection#SecuriteIA#Cybersecurite#SecuriteInformatique#SuisseRomande#Suisse

À voir en 60 secondes