Открытый код. Новые возможности.

SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых (LLM) и мультимодальных моделей, разработанный для обеспечения низкой задержки и высокой пропускной способности при выводе.

Коллекция простых PyTorch-реализаций нейросетей и статей по глубокому обучению с документированными пояснениями: трансформеры, GAN, диффузионные модели, RL, оптимизаторы и др.

PlanckGPT — образовательный проект для обучения GPT-модели (~540M параметров) с нуля на потребительском железе. Предобучение на 2 млрд токенов Fineweb-edu (~28 часов на ноутбуке), опциональный чат-финтюнинг с Smol-smoltalk.