Об этом проекте
CCProxy представляет собой локальный реверс-прокси, разработанный для унификации доступа к различным AI-провайдерам через единый API. Он позволяет пользователям использовать существующие подписки (через OAuth2 или локальные файлы токенов), не полагаясь на отдельную тарификацию по API-ключам. Прокси сопоставляет различных провайдеров с общим слоем маппинга моделей, что позволяет использовать согласованные идентификаторы моделей в интерфейсах OpenAI Chat Completions, OpenAI Responses и Anthropic Messages.
Ключевые поддерживаемые провайдеры включают:
- Anthropic Claude (API/SDK)
- OpenAI Codex
- GitHub Copilot
Система обладает высокой расширяемостью благодаря плагинной архитектуре. Входящие в комплект плагины предоставляют широкий спектр возможностей, включая:
- Инструментарий: метрики, совместимые с Prometheus, структурированное логирование доступа и детальное трассирование запросов/ответов.
- Аналитика: хранилище на базе DuckDB и API аналитики для логов запросов.
- Управление: SPA-панель управления, ротация учетных данных через балансировщик и интерактивные потоки разрешений для привилегированных действий.
- Утилиты: нормализация максимального количества токенов, кэширование данных о ценах и повтор команд для генерации запросов curl/xh.
Управление конфигурацией может осуществляться через TOML-файлы или переменные окружения, что позволяет пользователям включать или отключать определенные плагины и настраивать их поведение.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.