dive-into-llms

O "Dive into LLMs" (Mergulhe nos LLMs) é uma série de tutoriais práticos de programação derivada das apostilas dos cursos "Tecnologias de Ponta em Processamento de Linguagem Natural" (NIS8021) e "Tecnologias de Segurança em Inteligência Artificial" (NIS3353) da Universidade Jiao Tong de Xangai. Desenvolvido pela equipe do Professor Zhang Zhuosheng, o projeto é de caráter público e totalmente gratuito. O objetivo é ajudar os aprendizes a entrarem rapidamente no mundo dos grandes modelos por meio de práticas simples, facilitando melhor o desenvolvimento de projetos de curso ou pesquisas acadêmicas. O tutorial contém 11 capítulos, cada um com slides em PDF, um README explicativo e scripts Jupyter Notebook executáveis: 1. Ajuste Fino e Implantação: Guia para ajuste fino e implantação de modelos pré-treinados, cobrindo seleção de modelos, ajuste para tarefas específicas e implantação de demonstrações. 2. Aprendizado por Prompt e Cadeia de Pensamento: Guia para chamadas de API de grandes modelos e raciocínio, explorando engenharia de prompt e técnicas de cadeia de pensamento. 3. Edição de Conhecimento: Métodos e ferramentas para editar e verificar conhecimentos específicos em modelos de linguagem. 4. Raciocínio Matemático: Uso de destilação do mini modelo R1 para ensinar grandes modelos a raciocinar matematicamente. 5. Marca d'Água em Modelos: Técnicas para incorporar marcas d'água invisíveis aos humanos no conteúdo gerado por modelos de linguagem. 6. Ataques de Jailbreak: Entendimento de como ataques de jailbreak rompem as defesas de segurança dos grandes modelos, abordando a segurança sob a perspectiva do atacante. 7. Esteganografia em Grandes Modelos: Capacidade de grandes modelos de responder fluentemente enquanto carregam informações ocultas reconhecíveis apenas por destinatários específicos. 8. Modelos Multimodais: Exploração de como grandes modelos multimodais alcançam capacidades mais fortes de compreensão e geração. 9. Agentes GUI: Uso de agentes de IA para executar tarefas de interface gráfica, como pedir comida, responder mensagens e comparar preços em compras. 10. Segurança de Agentes: Discussão sobre riscos e conscientização de segurança em cenários de agentes abertos. 11. Alinhamento de Segurança com RLHF: Guia experimental de RLHF baseado em PPO, cobrindo práticas de alinhamento de segurança com aprendizado por reforço a partir de feedback humano. Além disso, o projeto, em parceria com a comunidade Ascend da Huawei, lançou um tutorial público nacional intitulado "Processo Completo de Desenvolvimento de Grandes Modelos", baseado no hardware e software Ascend. Ele inclui apresentações, manuais de laboratório e vídeos, divididos em níveis iniciante, intermediário e avançado, atendendo a diferentes necessidades práticas, com um guia de desenvolvimento progressivo que vai do básico ao avançado, incluindo uso rápido, aplicação de modelos suportados pela Ascend e migração e otimização de novos modelos. O projeto conta com contribuições de várias equipes da Universidade Jiao Tong de Xangai, da Universidade Nacional de Singapura e da comunidade Ascend da Huawei. Contribuições e discussões são bem-vindas por meio de Issues e Pull Requests.