ul-smf-cache-compressionliventruth
신규UL-SMF는 장기 컨텍스트 트랜스포머 추론을 위한 KV 캐시 압축 프레임워크로, FSQ와 16차원 잠재 매핑을 통해 최대 384배 압축을 주장한다. 핵심 압축 로직은 독점 폐쇄형 바이너리에 의존한다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4109발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: kv-cache-quantization清除