오픈 소스. 새로운 가능성.

Open Dungeon is a fully local AI roleplay app that generates stories and inline scene images on your machine using Ollama and FLUX, without cloud services or API keys.

MoziAI-35B-V3.8은 로컬 배포 가능한 오픈소스 멀티모달 LLM으로, 35B MoE 구조를 MoziSmartBit 양자화로 약 15.9GB로 압축했으며 256K 컨텍스트, 비전, 도구 호출, 금융 특화 추론 프레임워크를 제공합니다.

nanobot은 Python으로 작성된 초경량 셀프 호스팅 개인용 AI 에이전트 프레임워크로, WebUI, 터미널 인터페이스 및 다양한 채팅 애플리케이션 연동 기능을 제공합니다.

Mithril은 Gemini, OpenAI, Anthropic, Groq, 로컬 GGUF 모델을 단일 Ollama 호환 API로 통합하는 다중 모델 오케스트레이션 엔진입니다. YAML로 멀티에이전트 팀을 구성하고, 24개 내장 도구, Docker 지원, MCP 통합을 제공합니다.

Mimora는 영어와 스페인어 학습자를 위한 무료, 완전 로컬 발음 트레이너입니다. 온디바이스 TTS, 음성 인식, 그리고 로컬 LLM을 사용하여 문장을 생성하고, 단어 수준의 피드백과 함께 사용자의 시도를 점수화합니다. 클라우드나 API 키가 필요하지 않습니다.

Turbo AI Chat는 HarmonyOS NEXT 기반의 네이티브 온디바이스 대규모 언어 모델(LLM) 채팅 애플리케이션으로, 홍몽 기기에서 로컬 LLM을 직접 실행하는 전체 프로세스를 검증하는 것을 목표로 합니다.

Local Deep Research는 여러 LLM과 10개 이상의 검색 엔진을 사용해 심층 에이전트 리서치를 수행하는 오픈소스 완전 로컬 AI 연구 도우미로, 사용자별 암호화 데이터베이스와 텔레메트리 없음을 특징으로 합니다.

역할극, 다중 캐릭터 채팅, 장문 글쓰기, RAG, MCP 도구 및 로컬 모델을 지원하는 로컬 우선 데스크톱 AI 워크벤치입니다.

Adrastea는 자율적인 오케스트레이션을 위해 결정론적 작업 실행 코어(Alpha)와 확률적 추론 엔진(Beta)을 결합한 Python 이중 엔진 시스템입니다. Alpha는 강화 학습 계획 및 로컬 Ollama 추론을 통해 로컬 프로그램을 예약하고 실행하는 반면, Beta는 원격 측정을 모니터링하고, 이상 현상을 해결하고, 점수 가중치를 조정하며, MCP를 통해 프론티어 LLM을 참조할 수 있습니다.

Automation Companion은 루트 없이 AI 기반 자동화를 생성하는 오프라인 우선 Android 앱입니다. 제스처 녹화, 시각적 워크플로우, 시스템 트리거를 지원하며 선택적 클라우드 LLM 통합을 제공합니다.

자체 호스팅 및 로컬 우선 AI 콘텐츠 팩토리인 Poindexter는 주제 발견, 조사, 장문 작성, 다중 모델 QA 필터링 및 정적 출력 내보내기를 수행하는 LangGraph 파이프라인으로, Ollama를 통해 사용자 GPU에서 추론을 실행합니다.

Live2D/VRM 아바타, 음성 채팅, 로컬 LLM 지원, 테이블탑 RPG 엔진, 자율 데스크톱 에이전트 기능을 갖춘 오픈소스 데스크톱 AI 동반자 앱. 기본적으로 100% 로컬에서 실행됩니다.

J.A.R.V.I.S는 데이터 프라이버시를 보장하면서 개인에 대한 포괄적인 정보 파일을 구축하기 위해 AI와 웹 스크래핑을 활용하는 로컬 우선 OSINT 플랫폼입니다.

ipsupport-code는 LM Studio 및 OpenAI 호환 제공업체를 위한 자기 학습 로컬 코딩 에이전트로, Claude-Code 스타일 TUI, 계획/자동 모드, 그리고 기술 기반 복구를 특징으로 합니다.

DeepSeek Harness(DSH) 네이티브 Web UI를 Obsidian에 내장하여 각 보관소마다 독립적인 DSH 인스턴스를 제공하는 플러그인입니다. 텍스트 선택 및 파일 링크 연동, 모델 설정 동기화, 휴대용 런타임 설치 기능을 지원합니다.

텍스트, 음성 인식(STT) 및 음성 합성(TTS)의 오프라인 추론을 제공하는 Unreal Engine 5용 로컬 멀티모달 LLM 플러그인입니다.

Jano는 단일 GPU에서 여러 로컬 LLM을 실행하는 사용자를 위한 경량 OpenAI 호환 HTTP 라우터로, 군거 배치 방식을 통해 모델 전환 오버헤드를 최소화합니다.

Otaku는 웹 및 터미널 인터페이스를 제공하는 롤플레잉용 무료 로컬 LLM 프런트엔드입니다. 로컬 및 클라우드 LLM을 지원하며, 장면 요약을 통해 긴 컨텍스트를 관리하고 SillyTavern 채팅 및 캐릭터 카드를 가져올 수 있습니다.

Douvo는 Apple Silicon용 경량 macOS 음성 입력 앱으로, Doubao ASR을 사용하며 텍스트 정리, 번역, 선택 텍스트 편집을 위한 로컬 또는 원격 AI 후처리를 선택적으로 제공합니다.

ELI는 클라우드 의존 없이 사용자 하드웨어에서 완전히 실행되는 엄격히 로컬 및 프라이버시 중심 AI 어시스턴트입니다. 음성, 비전, 메모리 기능을 포함해 컴퓨터 제어, 미디어 재생, 문서 처리, 코딩, 작업 자동화 등 17개 영역의 227가지 기능을 제공합니다. 기본적으로 오프라인으로 작동하며, 로컬 GGUF 모델과 모델 무관성을 지원하고, 선택적 GPU 가속 및 원격 LAN 접근용 웹 대시보드를 제공합니다.