localgpt

LocalGPT는 Rust로 작성된 오픈소스 로컬 우선 AI 어시스턴트로, Node.js, Docker, Python이 필요 없는 단일 바이너리로 배포됩니다. 두 가지 주요 구성 요소인 AI 어시스턴트와 세계 구축 도구를 제공합니다. AI 어시스턴트 (localgpt) - 인터페이스: 대화형 CLI 채팅, 단일 질문 모드, 그리고 내장 웹 UI와 HTTP API(채팅, SSE 스트리밍 채팅, 메모리 검색)를 제공하는 데몬. - 영구 메모리: MEMORY.md, HEARTBEAT.md(자율 작업 큐), SOUL.md(성격 지침), knowledge/ 저장소로 구성된 마크다운 기반 워크스페이스. 파일은 키워드 검색을 위한 SQLite FTS5와 로컬 임베딩을 사용한 의미 검색을 위한 sqlite-vec로 인덱싱됩니다. - 자율 하트비트: 작업을 위임하여 백그라운드에서 실행할 수 있습니다. - 제공자: LM Studio, Ollama, Anthropic, OpenAI, xAI, GLM, Vertex AI, CLI 제공자; 설정은 XDG 규격 경로와 함께 config.toml에 있습니다. - 보안: 커널 수준 샌드박싱(Linux의 Landlock/seccomp, macOS의 Seatbelt), 상시 지침이 담긴 보호된 POLICY.md, 마커 제거 및 콘텐츠 경계와 같은 프롬프트 인젝션 방어. Gen 모드 (localgpt-gen) - Bevy 엔진에서 자연어 프롬프트로 탐험 가능한 3D 세계를 구축합니다. - 파라메트릭 도형(box, sphere, cylinder, capsule, plane, torus, pyramid, tetrahedron, icosahedron, wedge), PBR 재질, 포인트/스팟/방향성 조명, 동작(orbit, spin, bob, look_at, pulse, path_follow, bounce), 앰비언트 또는 공간 오디오를 지원합니다. - glTF/GLB, 브라우저에서 볼 수 있는 HTML, 스크린샷을 내보낼 수 있으며, 세계를 재사용 가능한 스킬로 저장하고 불러올 수 있습니다. - 헤드리스 모드와 실험 큐를 통해 창 없이 배치 생성이 가능하여 야간 실행이나 CI 파이프라인에 유용합니다. 메모리 시스템은 세션 전반에 걸쳐 스타일 선호도를 학습합니다. - MCP 서버를 통해 Claude Desktop, Codex Desktop, 그리고 VS Code, Zed, Cursor와 같은 MCP 호환 편집기에서 Gen을 사용할 수 있으며, 명령줄 도구를 위한 CLI 릴레이 모드도 있습니다. 설치는 crates.io(cargo install localgpt-gen, cargo install localgpt) 또는 소스에서 cargo run으로 할 수 있습니다. 이 프로젝트는 Apache-2.0 라이선스이며 Rust, Tokio, Axum, Bevy, SQLite(FTS5 + sqlite-vec), fastembed, eframe으로 구축되었습니다.