L'IA a besoin de mémoire… mais pas n'importe laquelle.

Équiper un agent d’une mémoire agentique semble simple : extraire des leçons de ses expériences passées, les réinjecter dans son contexte, et plus il en a, mieux il devrait performer. Pourtant, la réalité est plus complexe. En testant huit modèles différents, des plus petits aux plus puissants, une équipe de chercheurs a découvert une vérité surprenante : la mémoire n’est pas une fonction à activer ou désactiver, mais une dose à calibrer en fonction du modèle.

LA MÉMOIRE AGENTIQUE, C’EST QUOI ?

Contrairement à ce qu’on pourrait croire, la mémoire d’un agent IA ne consiste pas à rejouer des conversations passées comme un film. Ici, il s’agit d’un ensemble de directives : des stratégies qui ont fonctionné, des erreurs à éviter, et des cas particuliers repérés dans ses propres expériences. L’outil ALTK-Evolve permet à un agent d’apprendre de ses propres trajectoires sans modifier ses poids internes ni nécessiter d’annotations humaines.

Le processus est clair : l’agent tente des tâches, produit des trajectoires (succès ou échecs), ALTK-Evolve extrait les directives utiles, les consolide en un ensemble réutilisable, puis les réinjecte au moment de l’inférence. Résultat : l’agent dispose de conseils adaptés, sans que son architecture ne change. Et c’est justement ce qui rend cette méthode peu coûteuse et facile à déployer sur différents modèles.

LA BONNE DOSE DÉPEND DU MODÈLE

Tous les modèles ne réagissent pas de la même façon à la mémoire. En testant huit modèles allant de 30 milliards de paramètres à des systèmes propriétaires de pointe, les chercheurs ont identifié trois schémas récurrents :

1. LES MODÈLES PUISSANTS AVEC DE LA MARGE

Ces modèles, capables d’absorber beaucoup d’informations, tirent profit d’un ensemble complet de directives. DeepSeek-V3.2 (671 milliards de paramètres, modèle d’experts Mixture-of-Experts) a vu ses performances s’améliorer de +9,5 points de pourcentage en complétion de tâches lorsqu’il recevait l’intégralité de ses directives auto-minées.

2. LES MODÈLES PLUS PETITS OU MOINS PUISSANTS

Ces agents se noient dans un trop grand nombre de directives. Pour eux, la solution optimale est un noyau compact de directives hautement fiables, complété par quelques directives pertinentes sélectionnées pour chaque tâche. Le modèle gpt-oss-120b (117 milliards de paramètres, MoE) a ainsi progressé de +16,1 points de pourcentage avec cette approche sélective, tandis que l’ensemble complet de directives apportait moins de gains… et coûtait environ 50 % de tokens en plus.

3. LES MODÈLES DÉJÀ SATURÉS

Certains modèles, déjà proches de leur plafond de performance, ne tirent aucun bénéfice mesurable de la mémoire. GLM-5 (745 milliards de paramètres, MoE) fait partie de cette catégorie dans les tests menés. Plusieurs hypothèses expliquent ce phénomène : le modèle pourrait déjà être au maximum de ses capacités sur ces tâches, les directives ne cibleraient pas ses échecs restants, ou il ne les appliquerait pas efficacement.

Ce qui détermine le schéma d’un modèle ne se résume pas à son nombre de paramètres. La marge de progression sur les benchmarks, la taille de sa fenêtre de contexte, son architecture, la qualité des directives et la répartition des tâches jouent tous un rôle. La conclusion pratique reste la même : la bonne dose de mémoire dépend du modèle, et il est possible de la calibrer.

DES RÉSULTATS MESURÉS SUR APPWORLD

Pour évaluer ces stratégies, les chercheurs ont utilisé AppWorld, un benchmark composé de 585 tâches multi-étapes (168 tests normaux + 417 tests challenge) réparties sur 9 applications simulées : calendriers, messagerie, paiements, etc. Chaque tâche est notée selon deux métriques :

Les résultats montrent que les gains de mémoire sont souvent plus marqués sur la métrique SGC que sur TGC. Par exemple, DeepSeek a progressé de +16,1 points de pourcentage en SGC contre +9,5 points en TGC. Les directives aident particulièrement l’agent à résoudre toutes les variantes d’un scénario, pas seulement le cas moyen. Même les modèles proches du plafond en TGC, comme GPT-5.5 et Opus, ont gagné respectivement +7,2 et +7,1 points de pourcentage en SGC.

LA STRATÉGIE LA MOINS CHÈRE PEUT ÊTRE LA MEILLEURE

Un problème pratique se pose : injecter un ensemble complet de directives augmente le nombre de tokens à chaque étape de raisonnement, car les directives sont renvoyées à chaque tour. Voici ce qu’ont observé les chercheurs :

La sélection curée (curated retrieval) maintient les coûts proches de la baseline. Pour les modèles plus faibles, où la sélection améliore aussi la précision, cette approche est gagnante sur les deux tableaux : +16,1 points de pourcentage en TGC pour seulement +5 % de tokens supplémentaires pour gpt-oss-120b. Une meilleure performance ne nécessite pas forcément plus de calculs.

La mémoire n’allonge pas la boucle de raisonnement. DeepSeek exécute environ le même nombre d’étapes ReAct avec ou sans mémoire (environ 18-19 en moyenne), donc le coût supplémentaire vient uniquement de l’inflation des tokens d’entrée, pas de trajectoires plus longues.

En production, l’astuce la plus efficace est le cache des prompts. La partie statique de l’ensemble de directives est identique à chaque étape et peut être mise en cache, réduisant considérablement les coûts. Concevoir des prompts en gardant à l’esprit la stabilité du préfixe partagé (pour qu’il reste cacheable) vaut vraiment le coup. Les chercheurs supposent aussi que la taille de la fenêtre de contexte joue un rôle : les modèles avec une grande fenêtre peuvent absorber un ensemble complet de directives plus efficacement, tandis que les modèles avec une fenêtre plus petite bénéficient davantage de la sélection qui limite le contenu injecté.

CALIBRER LA MÉMOIRE, PAS L’ACCUMULER

La leçon à retenir n’est pas de donner à un agent tout ce qu’il a appris, mais de lui fournir la quantité d’expérience qu’il peut réellement utiliser. Pour les modèles faibles, cela signifie un noyau compact de directives hautement fiables, complété par quelques leçons spécifiques à la tâche en cours. Cette approche est aussi la moins coûteuse.

Pour les modèles saturés, il faut éviter d’ajouter du contexte supplémentaire jusqu’à ce que leurs échecs restants soient mieux compris. Les gains sont réels dans tous les cas : automatiques, sans fuite de données et sans annotation humaine, mais uniquement si la dose convient au modèle.

LES PROCHAINES ÉTAPES

Cette étude marque un début, pas une fin. Plusieurs pistes sont explorées :

• Un sélecteur appris. Actuellement, la sélection des directives se base sur la similarité cosinus, qui ne prédit pas parfaitement quelles directives aideront pour une tâche donnée. Un sélecteur entraîné sur le signal de résultat est la prochaine étape naturelle.
• Mémoire pour les modèles très faibles. En dessous d’un certain seuil de capacité, l’auto-distillation manque de signal. La distillation par un enseignant pour ces modèles est un problème distinct en cours d’exploration.
• Au-delà d’AppWorld. Ces résultats sont validés sur AppWorld, un benchmark rigoureux mais unique. Des tests sur des benchmarks plus larges et des déploiements réels sont en cours.
• Isoler la taille de la fenêtre de contexte. Les chercheurs veulent des expériences contrôlées pour séparer l’impact de la taille de la fenêtre de contexte de la capacité brute du modèle.

ESSAYEZ ALTK-EVOLVE OU LISEZ LE RAPPORT TECHNIQUE

L’équipe a mis à disposition la bibliothèque ALTK-Evolve, qui inclut le pipeline d’extraction, de consolidation et de sélection utilisé dans cette étude. Vous pouvez aussi consulter le rapport technique complet pour les méthodes détaillées et les ablations.

COMPRENDRE LES MÉTRIQUES

AppWorld utilise deux métriques, toutes deux exprimées en pourcentages (plus c’est élevé, mieux c’est) :

• TGC (Task Goal Completion). Part des tâches que l’agent accomplit entièrement et correctement. C’est le chiffre le plus médiatisé, la réponse à la question : « A-t-il réussi la mission ? »
• SGC (Scenario Goal Completion). Une métrique plus stricte et tout-ou-rien. Chaque scénario regroupe plusieurs variantes d’une même tâche (même demande avec des données, formulations ou conditions limites différentes). L’agent ne réussit le scénario que s’il passe toutes les variantes. Cela mesure la fiabilité : un agent qui réussit 90 % des variantes mais échoue sur une seule aura un bon score en TGC mais un mauvais en SGC.

EN RÉSUMÉ : LA MÉMOIRE, UNE QUESTION DE DOSE

Donner trop de mémoire à un agent IA peut le submerger, tandis que trop peu limite ses progrès. La solution ? Adapter la dose de mémoire à chaque modèle. Les modèles puissants avec de la marge bénéficient de directives complètes, les modèles plus petits ou moins performants d’un noyau compact complété par des leçons ciblées, et les modèles saturés n’ont pas besoin de plus de contexte.

Cette approche est automatique, sans fuite de données et sans annotation humaine, mais elle ne fonctionne que si la dose est adaptée. Une leçon à retenir : la mémoire ne se mesure pas en quantité brute, mais en pertinence pour le modèle.