这个项目能做什么
该仓库是一个精选的可自托管大语言模型(LLM)服务合集。它重点关注那些允许你在自有基础设施上运行、提供和管理 LLM 的工具,而不是依赖外部 API。该列表按 API 服务器、网关和相关实用工具等类别进行组织,为希望在数据与成本方面拥有完全控制权的开发者和运维人员提供了一个实用参考,便于其部署基于 LLM 的应用。每个条目通常都包含简要说明以及项目仓库链接。该合集由社区维护并定期更新,是探索自托管 LLM 生态系统的一个有价值的起点。
一个精选的可自托管 LLM 服务列表,涵盖 API、网关以及用于在自有基础设施上部署和管理大语言模型的工具。
av/awesome-llm-services · 2026-09-18
en → zh
评论
0 评分人数达到10人后显示
登录后参与讨论。