Jano — лёгкий OpenAI-совместимый маршрутизатор для запуска нескольких локальных LLM на одной GPU. Он уменьшает накладные расходы за счёт greedy batching: все ожидающие запросы к текущей модели обрабатываются сначала, переключение происходит только при необходимости, экономя от 30 секунд до 3 минут на локальном железе.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONЭтот проект генерирует наборы правил (RULE-SET) для ядра Clash Premium, включая списки прямых подключений, прокси, блокировки рекламы, частных сетей, доменов Apple/Google, GFWList и IP-диапазонов. Совместим с ClashX Pro, Clash for Windows, clash-verge-rev и другими клиентами, обновляется ежедневно через GitHub Actions.
Нейтральный к провайдерам шлюз на FastAPI для маршрутизации LLM, повторных попыток, отказоустойчивости, структурированного вывода и учета затрат. Поддерживает Gemini и OpenAI с использованием алиасов моделей.
Trahens — это исследовательский протокол для обеспечения конфиденциальности при поиске маршрутов рандеву и управлении плоскостью управления в децентрализованных сетях с учетом путей.