inferencexorbitsai
جديدمكتبة موحدة لخدمة نماذج اللغة والكلام والوسائط المتعددة، تدعم واجهات OpenAI ووحدات معالجة غير متجانسة ونشر موزع مع تكاملات متعددة.
OPEN SOURCE, OPEN TO EVERYONE
مصدر مفتوح. آفاق جديدة.
اكتشف مشاريع مفتوحة المصدر عالية الجودة، وأرسل المشاريع بشكل مجهول، وطالب بمشروعك المفتوح المصدر وحرّره.
✳اختيار بشري · اكتشف مصادر مفتوحة جيدة4109تم اكتشافها
فضول صغير. عالم من المصادر المفتوحة.
THE FIRST COLLECTIONTopic: vllm清除
ul-smf-cache-compressionliventruth
جديدUL-SMF هو إطار ضغط لذاكرة التخزين المؤقت KV لاستدلال المحولات طويل السياق، ويدعي ضغطًا يصل إلى 384x عبر FSQ ورسم خرائط كامن 16D. يتطلب منطق الضغط الأساسي ملفًا ثنائيًا مغلق المصدر.
dreamengineonzag
جديدمحرك محاكاة لعب أدوار مفتوح المصدر يعمل بتقنية LLM، مبني كتطبيق Electron/NodeJS. يتميز بحالة عالم مستمرة، وتطور ديناميكي للشخصيات، وسلوكيات مبرمجة، وتوافق مع أي نموذج لغوي.