Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONXinference — это унифицированная библиотека инференса для обслуживания языковых, речевых и мультимодальных моделей. Она предоставляет OpenAI-совместимый RESTful API, гетерогенное использование GPU/CPU, распределённое развертывание и интегрируется с LangChain, LlamaIndex, Dify и Chatbox.
UL-SMF — это фреймворк сжатия KV-кэша для длинноконтекстных трансформеров, заявляющий до 384-кратного сжатия через FSQ и 16-мерное латентное отображение. Ключевая логика сжатия требует проприетарного закрытого бинарного файла.
Открытый движок симуляции ролевых игр на основе LLM, созданный как Electron/NodeJS приложение. Включает постоянное состояние мира, динамическую эволюцию персонажей, скриптовое поведение и совместимость с любыми языковыми моделями.
