好开源，值得被发现。

Lociant 是一个面向边缘设备的本地 AI 运行时，适用于 Android 手机和 Rockchip 开发板等设备。它通过 GGUF/llama.cpp 实现本地模型推理，将设备能力暴露为 MCP 工具，并提供兼容 OpenAI 的控制 API 供外部编排。

Omni Gateway Local是一款轻量级统一API网关，为本地与远程大语言模型提供兼容OpenAI的标准化接口，可基于请求中的模型参数智能路由至OpenAI、Anthropic、Gemini及Ollama等不同服务提供商。

Lamitype 是一款免費、開源、隱私優先的 macOS 語音轉文字 App，預設在 Apple Silicon 上本地執行 Qwen3-ASR 模型，支援繁體中文優先輸出、即時字幕、文字翻譯與校對，並提供可選的雲端聽寫功能。

Olla Nest 是一个自托管、管理员可控的 AI 工作空间，能够集成本地 Ollama 模型和云提供商，并通过自动请求路由器进行智能分配。

TalaDB 是一款专为设备端 AI 设计的嵌入式向量与文档数据库，为浏览器、Node.js 和 React Native 提供统一的 TypeScript API。

Turbo AI Chat 是一个基于 HarmonyOS NEXT 的原生端侧大模型聊天应用，旨在验证在鸿蒙设备上直接运行本地 LLM 的完整链路。

Vellium 是一款本地优先的桌面 AI 工作台，专为角色扮演、多角色聊天、长篇写作、RAG 和 MCP 工具设计。它支持连接多种本地及云端模型，所有数据均存储于本地 SQLite 数据库中，确保隐私与控制权。

基于 Next.js 与 TypeScript 构建的本地优先 AI 控制台，集成 Ollama 实现流式对话、文档 RAG、智能模型路由及用户自主的学习笔记层——所有数据均存储于本地，无需云端依赖。

AnythingLLM 是一款全能型 AI 应用程序，旨在构建私有的、本地优先的 ChatGPT 体验，具备文档摄取和 AI Agent 能力。