Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONXinference é uma biblioteca unificada de inferência para servir modelos de linguagem, fala e multimodais. Oferece API RESTful compatível com OpenAI, uso heterogêneo de GPU/CPU, implantação distribuída e integrações com LangChain, LlamaIndex, Dify e Chatbox.
UL-SMF é um framework de compressão de cache KV para inferência Transformer de contexto longo, alegando até 384x de compressão via FSQ e mapeamento latente de 16D. A lógica central requer um binário proprietário fechado.
Mecanismo de simulação de roleplay baseado em LLM, open-source, construído como um aplicativo Electron/NodeJS. Possui estado de mundo persistente, evolução dinâmica de personagens, comportamentos roteirizados e compatibilidade com qualquer modelo de linguagem.
