프로젝트 소개

CPU-SLM은 효율적인 CPU 전용 추론을 통해 사용자가 희소 언어 모델(SLM)과 대규모 언어 모델(LLM)을 이해하고 탐구할 수 있도록 설계된 Rust 기반 프로젝트입니다. 더 빠른 성능을 위해 AVX2 명령어 세트를 활용하며 Windows, Linux, macOS를 지원합니다. 이 애플리케이션은 사용자 친화적인 인터페이스, 크로스 플랫폼 호환성을 제공하며 AVX2, Transformers, SIMD에 관한 학습 자료를 포함합니다. 설치는 ZIP 파일을 다운로드하고 압축을 푼 뒤 실행 파일을 실행하는 방식입니다. 시스템 요구 사항은 AVX2 지원 CPU, 4GB RAM, 100MB 디스크 공간입니다. 문제 해결 팁과 GitHub 이슈를 통한 지원이 제공됩니다.