freellmapi — FreeLLMAPI — это совместимый с OpenAI API-шлюз, который объединяет бесплатные тарифы десятков провайдеров LLM в единую конечную точку с интеллектуальной маршрутизацией и автоматическим переключением при сбоях.

FreeLLMAPI — это совместимый с OpenAI API-шлюз, который объединяет бесплатные тарифы десятков провайдеров LLM в единую конечную точку с интеллектуальной маршрутизацией и автоматическим переключением при сбоях.

Об этом проекте

FreeLLMAPI предоставляет унифицированную конечную точку /v1 для доступа к бесплатным тарифам 34 провайдеров LLM и более чем 600 эндпоинтам моделей. Это позволяет пользователям суммировать несколько бесплатных квот для увеличения общей доступной мощности вывода, автоматически управляя лимитами запросов и сбоями провайдеров. Ключевые возможности включают: - Унифицированный API: поддержка интерфейсов, совместимых с OpenAI, для чатов, дополнений, эмбеддингов, изображений, видео и речи, а также нативных интерфейсов Anthropic Messages и Gemini. - Интеллектуальная маршрутизация: шесть стратегий маршрутизации с автоматическим переключением на резервные варианты и ротацией ключей при достижении лимитов или возникновении ошибок у провайдеров. - Управление моделями: самообновляемый каталог моделей и панель администратора на базе React для управления зашифрованными API-ключами и отслеживания аналитики использования. - Расширенные функции: поддержка «Fusion» (синтез нескольких моделей), сжатие промптов, липкие сессии (sticky sessions) для передачи контекста и MCP-сервер для интроспекции агентов. - Развертывание: доступен в виде Docker-контейнера, нативного настольного приложения для macOS и Windows, а также работает в средах Node 20+, включая ARM SBC. - Интеграция: предоставляет инструменты автоматической настройки для различных кодинг-агентов и CLI, таких как Claude Code, Aider, Cline и Cursor.