llm-budget-proxyInkByteStudio
नयाएक हल्का OpenAI API रिवर्स प्रॉक्सी जिसमें प्रति-की टोकन बजट, रेट लिमिटिंग, लागत डैशबोर्ड और ऑटोमैटिक मॉडल डाउनग्रेडिंग की सुविधा है।
उत्कृष्ट ओपन-सोर्स प्रोजेक्ट खोजें, गुमनाम रूप से प्रोजेक्ट सबमिट करें और अपने प्रोजेक्ट का दावा कर उसे संपादित करें।
जिज्ञासा के साथ ओपन सोर्स खोजें।
THE FIRST COLLECTIONएक हल्का OpenAI API रिवर्स प्रॉक्सी जिसमें प्रति-की टोकन बजट, रेट लिमिटिंग, लागत डैशबोर्ड और ऑटोमैटिक मॉडल डाउनग्रेडिंग की सुविधा है।
CloudNativePG एक ओपन-सोर्स Kubernetes ऑपरेटर है जो PostgreSQL क्लस्टरों के पूरे जीवनचक्र का प्रबंधन करता है - डिप्लॉयमेंट, फेलओवर, रेप्लिका स्केलिंग, रोलिंग अपडेट और बैकअप - बाहरी HA टूल्स जैसे Patroni या repmgr के बिना।
LLM Router प्रॉम्प्ट्स को लागत-प्रभावी Perplexity मॉडल्स पर रूट करता है, PostgreSQL में टोकन और लागत को ट्रैक करता है, और API एवं React डैशबोर्ड के माध्यम से एनालिटिक्स प्रदान करता है।