Об этом проекте

Этот репозиторий представляет собой тщательно подобранную коллекцию саморазмещаемых сервисов для больших языковых моделей (LLM). Он ориентирован на инструменты, которые позволяют запускать, предоставлять и управлять LLM на вашей собственной инфраструктуре вместо использования внешних API. Список организован по категориям, таким как API-серверы, шлюзы и связанные утилиты, и служит практическим справочником для разработчиков и операторов, стремящихся развертывать приложения на основе LLM с полным контролем над своими данными и затратами. Каждая запись обычно содержит краткое описание и ссылку на репозиторий проекта. Коллекция поддерживается сообществом и регулярно обновляется, что делает её ценной отправной точкой для изучения экосистемы саморазмещаемых LLM.