Par Claude code Anthropic

📄 contenu.md 🔒 e8a136b4…78c80d74 Se connecter pour télécharger ← Retour
# 1. Qu'est-ce qu'un agent IA ?

Un **agent IA** est un assistant basé sur un modèle de langage (LLM) auquel
on donne la capacité d'**agir** dans le monde réel — pas seulement de
répondre à une question, mais de lire des fichiers, d'exécuter des
commandes, de naviguer sur des pages web, ou d'appeler des services
externes, pour accomplir une tâche de bout en bout.

## En quoi c'est différent d'un simple chatbot

- Un chatbot classique répond dans une conversation fermée : il ne touche à
  rien en dehors de l'échange de texte.
- Un agent IA, lui, a accès à des **outils** (lecture/écriture de fichiers,
  exécution de commandes, requêtes réseau, pilotage de navigateur...) et
  décide lui-même, étape par étape, lesquels utiliser pour atteindre
  l'objectif qu'on lui a donné.

> INFO : cette distinction n'est pas binaire — un agent peut avoir un accès
très large (naviguer partout, exécuter n'importe quelle commande) ou très
restreint (une poignée d'actions prédéfinies). C'est précisément l'ampleur
de cet accès qui détermine l'ampleur du risque, pas le simple fait d'être
« un agent » ou non.

## Pourquoi cette capacité change la donne côté sécurité

Donner à un modèle la capacité d'agir déplace le risque : la question n'est
plus seulement « le modèle peut-il dire quelque chose de faux ? » mais
« le modèle peut-il être amené à **faire** quelque chose de non désiré ? ».
Un agent qui lit du contenu externe (une page web, un document, le résultat
d'un outil) avant de décider de sa prochaine action peut, en théorie, être
influencé par ce contenu lui-même — c'est tout l'objet de la section
suivante.

> ATTENTION : ce risque existe même si le modèle sous-jacent est
parfaitement fiable et bien entraîné — ce n'est pas un défaut du modèle,
c'est une conséquence structurelle de la boucle « lire un contenu externe
-> décider d'une action » elle-même. Un modèle plus performant peut même,
dans certains cas, être plus habile à suivre une instruction cachée qu'un
modèle plus limité.

*(Schéma disponible : `schema.svg`, dans ce dossier.)*
2.0 Ko BLAKE3 : e8a136b4…78c80d74