dive-into-llms

«动手学大模型 Dive into LLMs» — это серия практических учебных пособий по программированию, созданная на основе конспектов курсов Шанхайского университета Цзяо Тун «Передовые технологии обработки естественного языка» (NIS8021) и «Технологии безопасности искусственного интеллекта» (NIS3353). Проект разработан командой профессора Чжан Чошэна (Zhang Zhuosheng), носит некоммерческий характер и полностью бесплатен. Цель проекта — помочь новичкам быстро войти в область больших языковых моделей через простые практики, чтобы лучше выполнять курсовые проекты или академические исследования. Учебник состоит из 11 глав, каждая из которых содержит слайды (PDF), пояснения (README) и исполняемые Jupyter Notebook-скрипты: 1. Дообучение и развёртывание: руководство по дообучению и развёртыванию предобученных моделей, включая выбор модели, дообучение под конкретную задачу и развёртывание демо. 2. Prompt-обучение и цепочки рассуждений: руководство по вызову API больших моделей и рассуждениям, изучение техник prompt-инжиниринга и chain-of-thought. 3. Редактирование знаний: методы и инструменты редактирования знаний в языковых моделях, позволяющие редактировать и проверять конкретные знания. 4. Математические рассуждения: обучение больших моделей математическим рассуждениям через дистилляцию мини-модели R1. 5. Водяные знаки моделей: встраивание невидимых для человека водяных знаков в генерируемый языковой моделью контент. 6. Jailbreak-атаки: понимание того, как jailbreak-атаки взламывают механизмы безопасности больших моделей, и осмысление безопасности с точки зрения атакующего. 7. Стеганография больших моделей: способность модели передавать скрытую информацию, распознаваемую только конкретным получателем, сохраняя при этом естественные ответы. 8. Мультимодальные модели: исследование того, как мультимодальные большие языковые модели реализуют более мощные возможности мультимодального понимания и генерации. 9. GUI-агенты: AI-агенты, выполняющие за пользователя операции с графическим интерфейсом, такие как заказ еды, ответы на сообщения, сравнение цен при покупках. 10. Безопасность агентов: исследование угроз и рисков больших моделей в открытых сценариях с агентами, формирование культуры безопасности. 11. RLHF-выравнивание: практическое руководство по RLHF на основе PPO, охватывающее практику безопасного выравнивания с использованием обучения на основе обратной связи от человека. Кроме того, проект совместно с сообществом Huawei Ascend выпустил бесплатный национальный учебник «大模型开发全流程» («Полный процесс разработки больших моделей»), основанный на базовом программно-аппаратном стеке Ascend. Он включает презентации, экспериментальные руководства и видео, разделён на начальный, средний и продвинутый уровни и ориентирован на разные практические потребности в работе с большими моделями: от быстрого старта и применения уже поддерживаемых Ascend моделей до полного процесса миграции и оптимизации новых моделей. Вклад в проект внесли несколько команд Шанхайского университета Цзяо Тун, Национального университета Сингапура и сообщества Ascend компании Huawei. Приглашаем к обсуждению и улучшению через Issue и PR.