Intelligence artificielle
Ce que font vraiment l’IA et les grands modèles de langage, où ils échouent, et les nouveaux risques de sécurité qu’ils apportent.
4 explications, les plus faciles d'abord
Qu'est-ce que l'injection indirecte de prompt ?
L'injection indirecte de prompt, c'est un texte caché dans une page web qui donne des ordres à ton agent IA (intelligence artificielle). S'il obéit, il agit avec tes droits.
Comment fonctionne vraiment une IA comme ChatGPT ?
Un LLM (grand modèle de langage) comme celui de ChatGPT ne tire pas sa réponse d'une base de données. Il découpe ton texte en tokens et prédit la suite probable, un token à la fois.
Quelle différence entre un LLM, le RAG et un agent IA?
Un LLM (grand modèle de langage) prédit du texte, le RAG (génération augmentée par récupération) colle des extraits trouvés dans son prompt, et un agent IA est une boucle où le modèle choisit chaque étape et le logiciel autour de lui agit.
Comment ChatGPT écrit-il vraiment ses réponses?
ChatGPT écrit sa réponse un petit morceau à la fois. Il prédit un prochain token probable, l'ajoute et recommence, et rien dans cette boucle ne vérifie si le résultat est vrai.