Sobre o projeto

CPU-SLM é um projeto baseado em Rust projetado para ajudar os usuários a entender e explorar Modelos de Linguagem Esparsa (SLM) e Grandes Modelos de Linguagem (LLM) por meio de inferência eficiente apenas em CPU. Ele aproveita conjuntos de instruções AVX2 para melhor desempenho e oferece suporte a Windows, Linux e macOS. O aplicativo fornece uma interface amigável, compatibilidade multiplataforma e inclui recursos de aprendizado sobre AVX2, Transformers e SIMD. A instalação envolve baixar um arquivo ZIP, extraí-lo e executar o executável. Os requisitos de sistema incluem CPU compatível com AVX2, 4 GB de RAM e 100 MB de espaço em disco. Dicas de solução de problemas e suporte via issues do GitHub são fornecidos.