inferencexorbitsai
신규Xinference는 언어, 음성, 멀티모달 모델을 제공하는 통합 추론 라이브러리입니다. OpenAI 호환 RESTful API, 이기종 GPU/CPU 활용, 분산 배포를 지원하며 LangChain, LlamaIndex, Dify, Chatbox와 통합됩니다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4102발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: deployment清除
cloudA3S-Lab
신규A3S Cloud는 셀프 호스팅 방식의 Agent-first 개발자 플랫폼으로, 테넌트 인증을 거친 제품 의도를 운영자 소유의 CPU/GPU 인프라 기반의 AaaS, WaaS, FaaS, Durable Cell, 모델 추론 및 Static Web 서비스로 구현합니다.