这个项目能做什么
Future AGI是一个端到端、可自托管的平台,旨在解决在生产环境中部署可靠AI代理所面临的挑战。它将评估、追踪、模拟、护栏、网关管理和优化整合到一个统一的反馈循环中。主要功能包括:多轮对话模拟(文本和语音)、50多项评估指标(如接地性、幻觉、PII、语气等)、18个内置护栏扫描器(涵盖PII、越狱、注入)以及15个供应商适配器、基于OpenTelemetry的追踪(支持50多个框架)、兼容OpenAI的网关(支持100多个提供商,高性能路由约29k请求/秒,P99延迟≤21毫秒),以及六种提示优化算法。该平台采用Apache 2.0许可证,开源,支持云部署和自托管部署。它与主要LLM提供商、代理框架(如LangChain、LlamaIndex、CrewAI等)、语音平台(如LiveKit、VAPI、Retell)、向量数据库以及MCP和A2A等工具集成。Future AGI通过提供具有Python、TypeScript、Java和C# SDK的凝聚且可扩展的生态系统,取代了拼接多种工具(如Langfuse、Braintrust、Helicone、Guardrails AI)的需求。
评论
0 人表达喜爱 · 满10人后显示 Deer Point
登录后参与讨论。