dive-into-llms

「动手学大模型Dive into LLMs」は、上海交通大学の「自然言語処理先端技術」（NIS8021）と「人工知能安全技術」（NIS3353）の講義ノートから発展したプログラミング実践チュートリアルシリーズであり、張倬勝教授チームが主体となって開発した公益事業で、完全に無料です。このプロジェクトは、簡単な実践を通じて学習者が大規模言語モデルに迅速に入門し、課程設計や学術研究をより良く進められるようにすることを目的としています。 チュートリアルは全11章で構成され、各章にはスライド（PDF）、チュートリアル説明（README）、実行可能なJupyter Notebookスクリプトが用意されています。 1. 微調整とデプロイ：事前学習モデルの微調整とデプロイガイド。モデル選択、特定タスク向け微調整、デモデプロイをカバーします。 2. プロンプト学習と思考連鎖：大規模言語モデルのAPI呼び出しと推論ガイド。プロンプトエンジニアリングと思考連鎖技術を探求します。 3. 知識編集：言語モデルの編集方法とツール。特定の知識の編集と検証を実現します。 4. 数学推論：蒸留によるミニR1モデルを用いて、大規模言語モデルに数学推論能力を習得させます。 5. モデル透かし：言語モデルが生成するコンテンツに人間には見えない透かし技術を埋め込みます。 6. 脱獄攻撃：脱獄攻撃がどのように大規模言語モデルの安全防御を突破するかを理解し、攻撃の視点から安全性を理解します。 7. 大規模言語モデルステガノグラフィー：流暢な回答を維持しつつ、特定の受信者だけが認識できる隠し情報を運ばせます。 8. マルチモーダルモデル：マルチモーダル大規模言語モデルがどのようにしてより強力なマルチモーダル理解・生成能力を実現するかを探求します。 9. GUIエージェント：AIエージェントがユーザーに代わって出前注文、メッセージ返信、買い物の価格比較などのGUI操作タスクを実行できるようにします。 10. エージェント安全：オープンなエージェントシナリオにおける大規模言語モデルのリスク脅威と安全意识について考察します。 11. RLHF安全整合：PPOに基づくRLHF実験ガイド。人間のフィードバックを用いた強化学習による安全整合の実践をカバーします。 さらに、本プロジェクトはファーウェイ昇騰（Ascend）コミュニティと連携し、国産化された「大規模言語モデル開発全プロセス」公益チュートリアルも公開しています。昇騰の基礎ソフトウェア・ハードウェアに基づいて開発され、PPT、実験マニュアル、ビデオなどのチュートリアル形式を備え、初級・中級・上級シリーズに分かれています。さまざまな大規模言語モデル実践ニーズに応え、段階的に学べるクイックスタート、昇騰がすでにサポートするモデルの適用、および新規モデルの移行・チューニングに至る全プロセス開発ガイドを提供します。 本プロジェクトは、上海交通大学、シンガポール国立大学、ファーウェイ昇騰コミュニティの複数チームによって共同で貢献されています。IssueやPRを通じた議論と改善への参加を歓迎します。