RouteTok एक लोकल-फर्स्ट LLM इनферен্স राउटर है जिसमें OpenAI और Anthropic कॉम्पैटibel APIs, हेल्थ-अवेयर फेलओवर, मल्टी-प्रोवाइडर कैटलॉग, ऑपरेशंस डैशबोर्ड और मोडल सैंडबॉक्स हैं।
ओपन सोर्स। नई संभावनाएँ।
उत्कृष्ट ओपन-सोर्स प्रोजेक्ट खोजें, गुमनाम रूप से प्रोजेक्ट सबमिट करें और अपने प्रोजेक्ट का दावा कर उसे संपादित करें।
जिज्ञासा के साथ ओपन सोर्स खोजें।
THE FIRST COLLECTIONOpenAI API के साथ सामान्य कार्यों के लिए उदाहरण कोड और गाइड, मुख्य रूप से Python में। उदाहरण चलाने के लिए OpenAI खाते और API कुंजी की आवश्यकता होती है।
One API एक एकल LLM API प्रबंधन वितरण सिस्टम है जो OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek सहित दर्जनों प्रमुख मॉडलों का समर्थन करता है। यह एकक OpenAI फॉर्मेट इंटरफ़ेस, टोकन प्रबंधन, चैनल लोड संतुलन, उपयोगकर्ता समूह विभाजन और पुनर्वितरण कार्यक्षमता प्रदान करता है।
GPT4Free कई भाषा मॉडल और मीडिया जनरेशन प्रदाताओं को एक एकीकृत इंटरफेस में एकत्रित करता है। यह Python/JS क्लाइंट, OpenAI-संगत REST API, GUI और CLI प्रदान करता है और gpt-4o-mini और flux जैसे मॉडलों का समर्थन करता है।