Sobre el proyecto
CCProxy es un proxy inverso local diseñado para unificar el acceso a varios proveedores de IA detrás de una API consistente. Permite a los usuarios aprovechar las suscripciones existentes (a través de OAuth2 o archivos de tokens locales) sin depender de la facturación individual de claves de API. El proxy mapea diferentes proveedores a una capa de mapeo de modelos compartida, lo que permite el uso de identificadores de modelos consistentes a través de las interfaces de OpenAI Chat Completions, OpenAI Responses y Anthropic Messages.
Los proveedores clave compatibles incluyen:
- Anthropic Claude (API/SDK)
- OpenAI Codex
- GitHub Copilot
El sistema es altamente extensible a través de una arquitectura de plugins. Los plugins incluidos proporcionan una amplia gama de capacidades, que incluyen:
- Instrumentación: métricas compatibles con Prometheus, registro de acceso estructurado y rastreo detallado de solicitudes/respuestas.
- Analítica: almacenamiento respaldado por DuckDB y APIs analíticas para los registros de solicitudes.
- Gestión: una SPA de tablero, rotación de credenciales a través de un balanceador y flujos de permisos interactivos para acciones privilegiadas.
- Utilidad: normalización de tokens máximos, almacenamiento en caché de datos de precios y repetición de comandos para generar solicitudes curl/xh.
La configuración se puede gestionar mediante archivos TOML o variables de entorno, lo que permite a los usuarios habilitar o deshabilitar plugins específicos y personalizar su comportamiento.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.