context-engineering

Context Engineering est un référentiel éducatif open-source qui sert de manuel complet pour comprendre et pratiquer l'ingénierie de contexte—la discipline consistant à concevoir, orchestrer et optimiser l'ensemble du payload d'informations fourni aux grands modèles de langage (LLM) au moment de l'inférence. Inspiré par la définition d'Andrej Karpathy et l'approche des premiers principes de Grant Sanderson (3Blue1Brown), le référentiel va au-delà de l'ingénierie de prompt pour aborder l'écosystème plus large des exemples, de la mémoire, de la récupération, des outils, de l'état et du flux de contrôle qui entourent un prompt unique. Le référentiel est structuré comme un parcours d'apprentissage progressif organisé en plusieurs répertoires : 1. **00_foundations/** — Théorie et concepts de base couvrant les fondements mathématiques, les composants de contexte et les modèles de traitement. Cette section établit les fondements théoriques de l'ingénierie de contexte, y compris l'optimisation du budget de tokens, l'apprentissage en quelques exemples (few-shot), les systèmes de mémoire, l'augmentation par récupération (RAG), le flux de contrôle, l'élagage de contexte et l'évaluation des métriques. 2. **10_guides_zero_to_hero/** — Ateliers pratiques avec code Python exécutable (style Jupyter Notebook) qui démontrent les concepts depuis les prompts minimaux jusqu'aux systèmes avancés de gestion de contexte. 3. **20_templates/** — Modèles YAML et de configuration copiables-collables qui peuvent être directement intégrés dans des projets, y compris des configurations minimales de contexte et des modèles de prompts structurés. 4. **30_examples/** — Implémentations de projets réels qui augmentent progressivement en complexité, commençant par un chatbot jouet et s'étendant à des systèmes multi-agents avec gestion de contexte. 5. **40_reference/** — Plongées approfondies, cahiers de recettes d'évaluation et matériaux de référence pour les praticiens avancés. 6. **50_contrib/** — Contributions et extensions de la communauté. Le référentiel s'appuie sur des recherches récentes provenant d'ICML, IBM Zurich, NeurIPS et d'autres lieux, notamment : - **MEM1 (Singapore-MIT, juin 2025)** : Démontre comment la consolidation de mémoire guidée par le raisonnement permet des agents à long horizon efficaces en compressant les interactions en états internes compacts plutôt qu'en accumulant un contexte sans fin. - **Outils cognitifs (IBM Zurich, juin 2025)** : Montre que des modèles de prompts structurés en tant qu'« appels d'outils » peuvent augmenter la performance de GPT-4.1 sur AIME2024 de 26,7 % à 43,3 %, approchant la performance d'o1-preview sans entraînement supplémentaire. - **Mécanismes symboliques émergents (ICML Princeton, juin 2025)** : Identifie une architecture en trois étapes (têtes d'abstraction symbolique, têtes d'induction symbolique, têtes de récupération) qui soutient le raisonnement abstrait dans les LLM, expliquant pourquoi des formats structurés comme Markdown et JSON sont plus faciles à analyser. - **Enquête sur l'ingénierie de contexte (juillet 2025)** : Une revue systématique de plus de 1 400 articles de recherche définissant l'ingénierie de contexte comme le payload d'informations complet fourni à un LLM au moment de l'inférence. Le référentiel inclut également le support de plusieurs outils de codage IA, notamment Claude Code, OpenCode, Amp, Kiro, Codex et Gemini CLI via des commandes d'agent. Il propose des visualisations utilisant des diagrammes ASCII, des graphes Mermaid et des représentations symboliques pour illustrer des concepts comme la métaphore biologique (atomes → molécules → cellules → organes → systèmes neuronaux → théorie des champs neuronaux et sémantiques) et le cadre de maîtrise en quatre niveaux (Ingénierie de contexte de base → Théorie des champs → Système de protocoles → Méta-récursion). Les concepts clés couverts incluent l'optimisation du budget de tokens, l'apprentissage en quelques exemples, les systèmes de mémoire, l'augmentation par récupération, le flux de contrôle, l'élagage de contexte, les métriques et l'évaluation, les outils cognitifs et la programmation de prompts, la théorie des champs neuronaux, les mécanismes symboliques et la sémantique quantique. Le référentiel met l'accent sur une philosophie de « tout mesurer, supprimer sans pitié » où chaque concept a une cellule de code exécutable et une visualisation. Le projet est sous licence MIT et accueille les contributions de la communauté. Il fournit également des liens vers des ressources supplémentaires, notamment un cours complet en construction, une intégration DeepWiki, une visualisation DeepGraph et une communauté Discord pour la discussion.