unified-llm-engineTEJA4704
新收录Unified LLM Engine 是一个 Python 库,通过统一接口访问多个大型语言模型(LLM)提供商,支持自动故障转移、成本与 Token 使用追踪、智能响应缓存和异步优先设计。
发现优质开源项目,匿名提交开源项目,认领编辑你的开源项目。
带着好奇心,发现开源世界。
THE FIRST COLLECTIONUnified LLM Engine 是一个 Python 库,通过统一接口访问多个大型语言模型(LLM)提供商,支持自动故障转移、成本与 Token 使用追踪、智能响应缓存和异步优先设计。
llm-apipool是一个自托管工具,将40多个免费LLM API统一到一个OpenAI兼容端点。自动轮换密钥、处理速率限制、追踪使用情况,并支持CLI、TUI、代理和LangChain集成。
一款无依赖的Python库,可将各类LLM API转换为OpenAI兼容格式,并支持提供商之间的自动故障转移。
free-llm-api-stack 是一个轻量级 Python 路由器,可将多个免费 LLM API 层级聚合为单一弹性端点,支持 OpenAI 兼容接口和自动故障转移。