Jour 3 du « Cours intensif de 5 jours sur les agents d'IA Google x Kaggle » - « Ingénierie du contexte : Sessions et mémoire », un livre blanc de plus de 70 pages, une série à lire absolument ! Une discussion très détaillée de l'ingénierie du contexte, utilisant les sessions et la mémoire pour maintenir respectivement les états à court terme et les mémoires persistantes à long terme, ainsi que leurs principaux concepts et bonnes pratiques. Un cadre à quatre stratégies est proposé : • Écrire (injecter de nouvelles informations) • Sélection (avec préférence pour le contexte pertinent) • Compression (réduction de la redondance) • Isoler (gestion modulaire) Ces stratégies sont applicables à des outils tels que LangChain ou OpenAI SDK. Meilleures pratiques : Tests itératifs : Enregistrer les variations des indices et quantifier des indicateurs tels que la cohérence des réponses (score de cohérence). • Intégration d'outils : Augmentez la mémoire en combinant un stockage externe (tel que la bibliothèque vectorielle Pinecone). • Évaluation : Utiliser des outils d'observabilité pour suivre le flux contextuel et identifier les goulots d'étranglement. Lien de téléchargement du livre blanc :
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.
