Об этом проекте
OpenProxy — это самодостаточный сервис, выполняющий роль API-прокси для множества AI-провайдеров, таких как OpenAI и Anthropic. Он предоставляет унифицированный API-интерфейс, совместимый с конечными точками OpenAI `/v1/chat/completions` и Anthropic `/v1/messages`. Система поддерживает отказоустойчивость с несколькими провайдерами посредством взвешенного балансировки нагрузки и автоматического переключения при сбоях. Реализована ротация нескольких ключей на провайдера для избежания ограничений скорости путём понижения приоритета недавно использованных комбинаций ключей. Администраторы могут управлять API-ключами с квотами, сроками действия и контролем доступа к моделям. Использование отслеживается по каждому запросу: стоимость, время ответа и принадлежность провайдеру. Веб-панель администратора позволяет управлять моделями, провайдерами, пользователями и заказами, тогда как арендаторы получают дашборды с графиками использования, балансами и историей запросов. Ключи API провайдеров хранятся в зашифрованном виде с использованием RSA. Варианты аутентификации включают email/пароль, SMS-OTP, GitHub и Google через better-auth. Пример использования: отправка стандартных запросов в стиле OpenAI к конечной точке прокси с токеном Bearer. Лицензия MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.