Aller au contenu principal

Ingénierie du contexte pour les agents

Une grande fenêtre représente une capacité, pas une attention. L'ingénierie du contexte choisit le minimum de tokens nécessaire à la prochaine décision correcte.

Cinq couches

  1. Contrat stable : règles système, instructions du dépôt, permissions et sortie attendue.
  2. Dossier de tâche : objectif, contrôles d'acceptation, contraintes et exclusions.
  3. Jeu de travail : seuls les fichiers, symboles, logs et documents utiles à l'étape.
  4. Preuves récentes : résultats et erreurs d'outils, résumés sous une forme structurée.
  5. État durable : plans, checkpoints, décisions et artefacts stockés hors conversation.

Les deux premières couches changent peu ; le jeu de travail suit la tâche. L'état durable évite de transformer le transcript en base de données.

Budgéter avant de récupérer

Comme point de départ : 10–20 % pour règles, tâche et critères ; 40–60 % pour code ou preuves ; 10–20 % pour résultats récents et résumé d'état ; le reste pour la génération et l'imprévu. Les longues sorties et le KV cache local peuvent imposer moins.

Rechercher la structure avant d'ouvrir des fichiers entiers. Préférer une définition, ses appelants et ses tests à un dump du dépôt. Borner les sorties d'outils. Garder la source des faits, marquer les résumés, retirer plans et erreurs dépassés, et conserver explicitement les hypothèses non résolues.

Compacter sans amnésie

Écrire un checkpoint avec objectif, travail terminé, fichiers modifiés, vérification, risques et prochaine action. Conserver identifiants et commandes exactes ; supprimer remplissage conversationnel et spéculation abandonnée. Un résumé est avec perte : il doit pointer vers les artefacts, pas les remplacer.

Les échecs courants sont le bourrage de contexte, les consignes périmées, les logs sans limite, une inférence incertaine transformée en « fait » par résumé et l'état uniquement caché dans la session.

Pour un petit modèle local, cette discipline améliore souvent davantage la fiabilité qu'une extension de la fenêtre nominale. Commencer avec le contexte natif et n'activer l'extension RoPE qu'après mesure.