एक प्रोडक्शन-ग्रेड, OpenAI-संगत स्मार्ट LLM राउटर और फॉलबैक प्रॉक्सी जो सरल प्रश्नों को Small Language Models (SLMs) और जटिल प्रश्नों को फ्रंटियर मॉडल्स पर रूट करके लागत को अनुकूलित करता है।
ओपन सोर्स। नई संभावनाएँ।
उत्कृष्ट ओपन-सोर्स प्रोजेक्ट खोजें, गुमनाम रूप से प्रोजेक्ट सबमिट करें और अपने प्रोजेक्ट का दावा कर उसे संपादित करें।
जिज्ञासा के साथ ओपन सोर्स खोजें।
THE FIRST COLLECTIONRouteTok एक लोकल-फर्स्ट LLM इनферен্স राउटर है जिसमें OpenAI और Anthropic कॉम्पैटibel APIs, हेल्थ-अवेयर फेलओवर, मल्टी-प्रोवाइडर कैटलॉग, ऑपरेशंस डैशबोर्ड और मोडल सैंडबॉक्स हैं।
Token Station एक स्थानीय रूटिंग गेटवे है जो AI एजेंट्स और LLM प्रोवाइडर्स के लिए काम करता है। यह Claude Code, Cursor, Codex, Gemini CLI और अन्य को लूपबैक-मात्र गेटवे से गुजारता है, स्मार्ट टियर चयन, क्वाटा-सजग रूटिंग और उपयोग ट्रैकिंग प्रदान करता है।
LLM Router एक ऑपन-एआई कम्पेटिबल API राउटर है जो OpenAI, Anthropic और Gemini एंडप्ॉइंट्स के बीच अनुरोधों को रूट और कन्वर्ट करता है।
Switchboard एक लोकल-फर्स्ट AI गेटवे है जो 16 अलग-अलग AI प्रोवाइडर्स के बीच रिक्वेस्ट्स को राउट करता है। यह फ्री-टियर प्राथमिकता, स्वचालित फॉलबैक और पूरी निर्णय लॉगिंग के साथ स्थानीय रूप से चलता है, बिना किसी क्लाउड टीलेमेट्री के।