La mémoire paramétrique est la connaissance intégrée dans les paramètres d’un modèle de langage lors de son entraînement. Elle est figée entre deux entraînements et ne contient que les informations sur les entités suffisamment représentées dans les données d’apprentissage.
Également appelé « poids du modèle ».
Ce qu’elle contient
C’est la culture générale du modèle. Elle lui permet de savoir, sans chercher, que Nike fabrique des chaussures de sport ou que Bordeaux est une ville viticole. Ces associations se sont renforcées à chaque occurrence rencontrée pendant l’entraînement.
Pourquoi elle est difficile à influencer
Pour qu’une marque s’inscrive dans la mémoire paramétrique d’un modèle, il faut qu’elle ait été mentionnée massivement et de façon cohérente, dans des sources variées, avant la date de fin d’entraînement. Pour une PME, c’est un travail de plusieurs années, pas de plusieurs mois.
Ce qu’il faut en conclure
Ne construisez pas votre stratégie sur ce niveau. Travaillez la recherche augmentée, qui produit des effets en quelques semaines, et le graphe de connaissances, qui produit des effets en quelques mois. La mémoire paramétrique viendra comme la conséquence différée d’une présence dense et constante : c’est un objectif de troisième année, pas de premier trimestre.
Où ce terme intervient dans la méthode
Ce terme relève de la La méthode Passeport vers la Citation de la méthode Passeport vers la Citation.
RAG (recherche augmentée)
Le RAG, ou Retrieval-Augmented Generation, est la technique qui permet à un modèle de langage d’enrichir ses réponses avec des informations récupérées en temps réel sur le web ou dans une base de données.
Mémoire contextuelle
La mémoire contextuelle est la capacité d’un modèle de langage à utiliser les informations fournies dans le contexte immédiat de la conversation.
Vecteur d’entité
Un vecteur d’entité est la représentation mathématique d’une entité dans l’espace vectoriel d’un modèle de langage.
Graphe de connaissances
Un graphe de connaissances est une base de données structurée qui représente les entités du monde réel et les relations qui les unissent.