# 2. Comportement et limites

## Hallucination

Une réponse formulée avec assurance mais **factuellement fausse** — le
modèle ne « ment » pas au sens où il n'a pas conscience de se tromper : il
produit la suite de texte la plus probable statistiquement, qui n'est pas
toujours la suite la plus exacte. C'est la limite la plus connue des LLM,
d'où l'importance de vérifier les affirmations factuelles importantes.

> ATTENTION : une hallucination se présente avec exactement le même ton
assuré qu'une réponse correcte — rien dans le style du texte ne permet de
la distinguer. Pour toute information qui compte réellement (chiffre,
date, référence juridique, fait technique précis), vérifiez auprès d'une
source indépendante plutôt que de faire confiance au ton de la réponse.

## Fine-tuning (ajustement fin)

Un entraînement complémentaire, plus court et plus ciblé que
l'entraînement initial, pour spécialiser un modèle déjà entraîné sur une
tâche ou un style précis (ex. répondre dans un domaine médical, adopter un
ton particulier) sans repartir de zéro.

## RAG (génération augmentée par récupération)

Une technique qui va chercher des documents pertinents (dans une base de
connaissances, un moteur de recherche...) **avant** de faire répondre le
modèle, et lui fournit ces documents comme contexte. Objectif : des réponses
mieux ancrées dans des sources réelles, plutôt que reposant uniquement sur
ce que le modèle a mémorisé pendant son entraînement.

> ATTENTION : c'est aussi, comme vu dans le guide « Sécurité &
souveraineté de l'IA », un point d'entrée classique pour l'injection de
prompt indirecte — le modèle lit des documents qu'il n'a pas choisis
lui-même, et rien ne garantit a priori que leur contenu est fiable ou
neutre.

## Prompt système

Les instructions de configuration données au modèle par l'application qui
l'utilise (pas par l'utilisateur final) — définissent le rôle, le ton, les
limites de ce que l'assistant doit ou ne doit pas faire dans ce contexte
précis.

## Biais

Une tendance systématique du modèle à privilégier certaines réponses,
hérité des textes sur lesquels il a été entraîné plutôt que d'une
intention délibérée. Un modèle entraîné majoritairement sur des textes
d'une époque ou d'une culture donnée reproduira naturellement les
angles morts de ces textes, sans en avoir « conscience ».

*(Schéma disponible : `schema.svg`, dans ce dossier.)*