好开源，值得被发现。

Otaku 是一个免费的本地 LLM 前端，用于角色扮演，提供网页和终端界面。它支持本地和云端 LLM，通过场景摘要管理长上下文，并可导入 SillyTavern 聊天记录和角色卡。

Longe 是一个用 Rust 编写的单二进制自改进型 LLM 框架。它运行持久会话，具备 Lua REPL、三级内存、沙箱执行、预算控制和运行后反思机制，用于迭代优化其技能与提示。

LastChat 是一个功能丰富的 Android AI 助手，源自 RikkaHub 的分支，提供多提供商聊天、RAG 记忆、多模态输入、内置 Python/JS 引擎以及本地优先的隐私保护。

Switchboard 是一款本地优先的 AI 网关，在用户机器上完全运行，提供一个 OpenAI 兼容端点，将请求路由到 Groq、Cerebras、Google、OpenRouter、DeepSeek、Mistral、OpenAI 和 Anthropic 等 16 个不同 AI 提供商。基于实时因素（健康状态、延迟、成本、层级）智能选择最优提供商，优先使用免费层级并在失败时自动回退。所有路由决策均详细记录并解释。系统无需云账户或遥测数据，凭据采用 AES-256-GCM 本地加密。支持流式和非流式聊天补全、嵌入、图像生成、音频语音和转录、重新排序及审核端点。提供 Web 仪表板（localhost:7272）和 CLI 工具（sb），支持策略模拟、详细日志和使用报告。基于 Node.js 22.13+ 和 SQLite 构建，跨 Windows、macOS 和 Linux 一致运行。

一个兼容 OpenAI 的故障转移代理，自动在 LLM 提供商之间切换，以确保服务不中断并降低延迟。

free-llm-api-stack 是一个轻量级 Python 路由器，可将多个免费 LLM API 层级聚合为单一弹性端点，支持 OpenAI 兼容接口和自动故障转移。