Об этом проекте

Unified AI API Connection Manager — это библиотека на Python, разработанная для упрощения взаимодействия с несколькими поставщиками AI-сервисов через единый согласованный интерфейс. Она поддерживает OpenRouter и HuggingFace из коробки, а абстрактный базовый класс позволяет разработчикам легко добавлять новых провайдеров. Пакет уделяет особое внимание безопасности, поддерживая переменные окружения и зашифрованные конфигурационные файлы для API-ключей, а также включает валидацию типов на базе Pydantic для обеспечения надежности. Библиотека предлагает как интерактивную настройку через CLI, так и программную конфигурацию, позволяя пользователям управлять несколькими сессиями чата или напрямую создавать экземпляры клиентов для конкретных моделей. Модульная архитектура четко разделяет зоны ответственности, скрывая внутренние утилиты от публичного использования. Предусмотрены примеры базового использования, расширенного управления несколькими сессиями, интеграции с REST API и рабочих процессов для конкретных провайдеров. В комплект входят тесты и инструменты разработки, а также четкие рекомендации по внесению вклада. Решение идеально подходит для разработчиков приложений, которым необходимо переключаться между несколькими бэкендами LLM или комбинировать их без переписывания логики клиента.