Об этом проекте

GPT-Load — это самостоятельно размещаемый AI-шлюз, предназначенный для управления несколькими AI-провайдерами и учётными данными через единую точку входа. Он поддерживает как API-ключи, так и подписочные аккаунты (например, Codex, Claude, Antigravity и Grok), обеспечивая унифицированное управление учётными данными, планирование трафика, повторные попытки, охлаждение, чёрные списки и привязку сессий, чтобы снизить влияние перегруженных или сбойных учётных данных. Шлюз предоставляет нативные протоколы OpenAI, Anthropic и Gemini, позволяя клиентам сохранять существующие интерфейсы при маршрутизации запросов к различным вышестоящим сервисам. Встроенные каналы включают официальных и облачных провайдеров (OpenAI, Anthropic, Gemini, xAI, Azure OpenAI, AWS Bedrock, Google Vertex AI), модельные сервисы (DeepSeek, Moonshot AI, SiliconFlow, Zhipu AI, Alibaba, Volcengine, OpenRouter, Groq), подписочные каналы и пользовательские OpenAI-совместимые ретрансляторы. Ключевые возможности: - Планирование с несколькими учётными данными с настраиваемыми весами, повторными попытками, охлаждением, чёрным списком и привязкой сессий - Логирование запросов, статистика использования и оценка стоимости во встроенном интерфейсе управления - Поддержка баз данных SQLite, MySQL или PostgreSQL с локальным шифрованием учётных данных - Развёртывание через Docker Compose с простым быстрым стартом - Нативные бинарные сборки для Linux, macOS и Windows, включая установщик Windows Setup - Настройка через переменные окружения для сети, базы данных, логирования и параметров безопасности GPT-Load 2.0 — это полная переработка, и данные 1.x нельзя перенести на месте. Он рассчитан на один экземпляр приложения и не поддерживает горизонтальное масштабирование. Показатели использования и стоимости являются оценками и не должны рассматриваться как финансовые записи. Проект распространяется под лицензией MIT и использует открытые компоненты, такие как Bifrost Core, CLIProxyAPI и Lobe Icons.