localrouter

LocalRouter — это self-hosted прокси-шлюз для AI API, разработанный для работы полностью на вашем локальном компьютере. Он позволяет разработчикам унифицировать доступ к нескольким AI-провайдерам, включая OpenAI, Anthropic, Azure, Ollama и других, через единую согласованную точку доступа. Это избавляет от необходимости изменять код приложения при смене провайдеров или моделей. Ключевые особенности включают алиасы моделей (например, сопоставление 'gpt-4o' с любым вышестоящим провайдером), переключение между активными апстримами в один клик, полное логирование запросов и ответов (включая потоковый контент SSE), отслеживание затрат в реальном времени на основе настраиваемых цен для каждой модели, а также детальную аналитику использования с трендами токенов и разбивкой по источнику, записи или модели. Инструмент поддерживает контроль доступа с помощью опциональных токенов аутентификации и предлагается в виде десктопных приложений (macOS, Windows, Linux) и серверных режимов. Все данные хранятся локально в базе данных SQLite, что обеспечивает конфиденциальность и автономную работу. Разработчики могут легко интегрировать его с существующими OpenAI SDK, просто изменив базовый URL. Панель управления обеспечивает визуальное управление источниками, записями, логами и статистикой, упрощая отладку и мониторинг. Логи ограничены 10 000 записями с автоматической очисткой не отмеченных звездочкой записей, в то время как отмеченные сохраняются бессрочно. Конфигурация проста и осуществляется через файл .env для порта и пути к базе данных. Лицензия MIT.