vllmvllm-project
신규vLLM은 대규모 언어 모델(LLM) 추론 및 서빙을 위해 설계된 고처리량 및 메모리 효율적인 라이브러리입니다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4101발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: qwen3清除
lexoscauafsantosdev
신규Lexos는 Go 게이트웨이, Python 워커, Redis 큐, 자체 호스팅 모델을 결합한 이벤트 기반 AI 문서 처리 엔진으로, 오프라인 RAG, 요약, 음성 전사를 지원합니다.