ul-smf-cache-compressionliventruth
新着UL-SMFは、長文脈Transformer推論向けKVキャッシュ圧縮フレームワークであり、FSQと16次元潜在マッピングにより最大384倍の圧縮を主張しています。中核の圧縮ロジックは、プロプライエタリなクローズドソースバイナリを必要とします。
OPEN SOURCE, OPEN TO EVERYONE
オープンソース。新しい可能性。
優れたオープンソースプロジェクトを見つけ、匿名でプロジェクトを投稿し、自分のプロジェクトを申請して編集できます。
✳編集部選定 · 良いオープンソースを発見4109発見済み
好奇心とともに、オープンソースの世界へ。
THE FIRST COLLECTIONTopic: kv-cache清除