Code ouvert. Horizons nouveaux.

Dépôt de code officiel pour « Build a Large Language Model (From Scratch) » : implémentation PyTorch pas à pas de modèles de type GPT, couvrant pré-entraînement et affinage avec notebooks et exercices.

labml.ai propose plus de 60 implémentations PyTorch documentées de papiers et algorithmes de deep learning, accompagnées de notes explicatives côte à côte sur leur site web.

Drowse est un atelier local d'interprétabilité mécaniste pour les grands modèles de langage, offrant un tableau de bord, une API Python et un serveur compatible OpenAI/Ollama pour le steering d'activations, les sondes de concepts, les manifolds, les SAE et les lentilles de Jacobien.

DocsGPT est une plateforme d'IA open-source pour créer des agents et assistants intelligents, proposant l'analyse de documents, le support multi-modèles et des capacités de recherche d'entreprise.

Curriculum gratuit et open source d'ingénierie IA à partir des premiers principes : 523 leçons en 20 phases (~342 heures), couvrant des mathématiques à la production en Python, TypeScript, Rust et Julia. Chaque leçon produit un prompt, skill, agent ou serveur MCP réutilisable ; inclut un tuteur IA installable et une préparation à la certification Claude.

Une collection curatoriale de 107 articles de recherche fondateurs en IA générative, avec des résumés complets, des parcours d'apprentissage, des glossaires et des guides de décision — rendant la recherche de pointe en IA accessible à tous.

txtai est un framework AI tout-en-un pour la recherche sémantique, l'orchestration de LLM et la création de workflows complexes.

Guide pratique pour entraîner des LLMs avec PyTorch pur : préparation des données, architecture Transformer, pré-entraînement et post-entraînement (SFT, DPO, PPO, GRPO).

Xinference est une bibliothèque d'inférence unifiée pour servir des modèles de langage, de parole et multimodaux. Elle offre une API RESTful compatible OpenAI, une utilisation hétérogène des GPU/CPU, un déploiement distribué, et s'intègre à LangChain, LlamaIndex, Dify et Chatbox.

LlamaFactory est un framework Python pour le fine-tuning efficace de plus de 100 grands modèles de langage et multimodaux, offrant une CLI sans code, une interface Web Gradio, LoRA/QLoRA et plusieurs algorithmes d'entraînement.

PEFT est une bibliothèque fournissant des méthodes de réglage fin efficace des paramètres (Parameter-Efficient Fine-Tuning) pour adapter les grands modèles pré-entraînés avec des coûts de calcul et de stockage minimaux.

Un cours Microsoft gratuit de 21 leçons pour débutants sur la création d'applications d'IA générative, couvrant les LLM, l'ingénierie de prompts, le RAG, les agents, le fine-tuning et plus encore, avec des exemples en Python/TypeScript.

SANA est la famille open source de modèles de diffusion efficaces de NVIDIA pour la génération d'images et de vidéos haute résolution, avec code d'entraînement et d'inférence, attention linéaire, compression DC-AE et déploiement 4 bits.