इस प्रोजेक्ट के बारे में

RouteTok एक लोकल-फर्स्ट इनפרेंस राउटर है जिसमें OpenAI- और Anthropic-कॉम्पैटिबल APIs हैं। यह एक रॉबस्ट मल्टी-प्रोवाइडर प्रॉक्सी, ऑपरेशंस डैशबोर्ड, और एक स्टैंडअलोन मोडल Fieldbook को एक डिपेंडेंसी-लाइट Node.js सर्विस में जोड़ता है। ### तीन सर्फेसेज, एक राउटर - **प्रॉक्सी (`/v1`)**: मौजूदा OpenAI और Anthropic क्लाइंट्स को एक्सप्लिसिट राउटिंग, हेल्थ-अवेयर फेलओवर, कैनोनिकल मोडल IDs, और यूसेज मेटाडाटा के साथ एक स्थिर एंडपॉइंट देता है। - **डैशबोर्ड (`/dashboard`)**: प्रोवाइडर्स, क्रेडेंशियल्स, मोडल कैटलॉग, राउट ऑर्डर, कस्टम कैस्केड्स, हेल्थ सर्किट्स, लागत, लाइव रिक्वेस्ट्स, और रिटेन्ड टेलीमेट्री को ऑपरेट करता है। - **सैंडबॉक्स (`/sandbox`)**: Chat, Compare, Room, Evaluate, Images, और ब्राउज़र-लोकल मल्टी-एजेंट Studio वर्कफ़्लो के लिए स्टैंडअलोन Model Fieldbook प्रदान करता है। ### मुख्य विशेषताएं - OpenAI Chat Completions, OpenAI Responses, और Anthropic Messages संगतता - हेल्थ-अवेयर प्री-आउटपुट फॉलबैक बिना मोडल्स के बीच स्ट्रीम्स को स्प्लिस किए - वर्चुअल राउट्स: `auto`, `best`, `free`, साथ ही ऑर्डर्ड कस्टम कैस्केड्स - प्रोवाइडर-आइसोलेटेड क्रेडेंशियल्स और कैनोनिकल राउट्स जैसे `openrouter:model-id` - पेड या अनजान कीमत वाले बाहरी मोडल्स के लिए एक्सप्लिसिट एनेबलमेंट - लाइव रिक्वेस्ट टेलीमेट्री, ऐतिहासिक मेट्रिक्स, TTFT, थ्रूपुट, टोकन्स, कैश एक्टिविटी, और लागत - ब्राउज़र-लोकल Fieldbook नोट्स, इवल्यूएशन्स, रूम, स्क्रैचपैड्स, और वर्चुअल Studio प्रोजेक्ट्स - ओपेक, नेटवर्क-ब्लॉक्ड HTML/SVG/canvas प्रीव्यू और इफिमरल जनरेटेड मीडिया ### क्विक स्टार्ट आवश्यकताएं: नेटिव इंस्टॉल के लिए Node.js 22 या उससे नया, या कंटेनर डिप्लॉयमेंट के लिए Docker Engine with Docker Compose।