इस प्रोजेक्ट के बारे में

बसबार AI सिस्टम के लिए एक ग्राहक-संचालित प्रवर्तन सीमा के रूप में कार्य करता है, न कि एक सामान्य रिवर्स प्रॉक्सी के रूप में। यह AI अनुप्रयोगों और एजेंटों, तथा डाउनस्ट्रीम गंतव्यों जिनमें LLM प्रदाता, MCP टूल्स और A2A एजेंट शामिल हैं, के बीच अनुरोध पथ में स्थित होता है, जिससे ऑपरेटर अनुरोधों के अनुमोदित गंतव्यों तक पहुंचने से पहले मॉडल कॉल, टूल उपयोग और एजेंट प्रतिनिधिमंडल को सत्यापित, शासित, रूट और रिकॉर्ड कर सकते हैं। यह प्रोजेक्ट पूरी तरह से सेल्फ-होस्टेड है, जिसमें कोई प्रबंधित होस्टेड सेवा नहीं, कोई आवश्यक साइन-अप नहीं, और कोई आउटबाउंड फोन-होम व्यवहार नहीं है; सभी प्रदाता क्रेडेंशियल्स ऑपरेटर के अपने इन्फ्रास्ट्रक्चर में प्रवर्तन सीमा पर ही रहते हैं। यह इनग्रेस और एग्रेस दोनों पर छह LLM वायर प्रोटोकॉल के लिए प्रथम-श्रेणी समर्थन प्रदान करता है: OpenAI, OpenAI Responses, Anthropic, Gemini, Cohere, और Bedrock Converse, जो सभी 36 संभावित इनग्रेस-से-अपस्ट्रीम प्रोटोकॉल जोड़ों को कवर करता है। समान-प्रोटोकॉल रूट मूल अनुरोध बाइट्स को सीधे अग्रेषित करते हैं, जिससे सीधे प्रदाता कॉल के साथ बाइट-दर-बाइट समानता मिलती है, जबकि क्रॉस-प्रोटोकॉल रूट लक्ष्य प्रदाता के मूल प्रारूप से मेल खाने के लिए अनुरोध फ़ील्ड का अनुवाद करते हैं। क्लाइंट एकीकरण के लिए केवल बेस URL और API कुंजी को बसबार इंस्टेंस की ओर इंगित करने के लिए बदलने की आवश्यकता होती है, मौजूदा मूल SDK वर्कफ़्लो में कोई बदलाव नहीं। तैनाती न्यूनतम परिचालन ओवरहेड के लिए डिज़ाइन की गई है: बसबार एक एकल स्टैटिक Rust बाइनरी के रूप में वितरित किया जाता है जिसके लिए किसी अलग इंटरप्रेटर, डेटाबेस या साइडकार की आवश्यकता नहीं होती, या एक छोटी संपीड़ित कंटेनर इमेज के रूप में। कॉन्फ़िगरेशन एक एकल YAML फ़ाइल में परिभाषित किया जाता है, जिसमें एक अंतर्निहित कॉन्फ़िग सत्यापन कमांड होता है जो नेटवर्क एक्सेस या चल रहे सर्वर के बिना चलता है, जो CI पाइपलाइनों में शामिल करने के लिए उपयुक्त है। Kubernetes तैनाती के लिए आधिकारिक Helm चार्ट प्रदान किए जाते हैं, जिनमें कठोर सुरक्षा डिफ़ॉल्ट शामिल हैं जैसे नॉन-रूट रनटाइम, रीड-ओनली रूट फाइलसिस्टम, और अनावश्यक Linux क्षमताओं को हटाना। मुख्य परिचालन क्षमताओं में प्रति-लेन समवर्ती सीमाओं के साथ भारित मॉडल पूल, दोष-आरोपित सर्किट ब्रेकर, और इन-फ्लाइट फेलओवर शामिल हैं जो क्लाइंट तक पहले प्रतिक्रिया बाइट पहुंचने से पहले प्रदाताओं को स्विच करता है, यहां तक कि स्ट्रीमिंग अनुरोधों के लिए भी। अंतर्निहित शासन नियंत्रणों में वर्चुअल API कुंजियाँ, समूह-स्तरीय बजट और व्यय ट्रैकिंग, मूल TLS और mTLS समर्थन, Prometheus और OTLP टेलीमेट्री, और प्रति-अनुरोध ऑडिट वेबहुक शामिल हैं। प्रोजेक्ट का व्यापक निष्पादन सीमा मॉडल इसी प्रवर्तन पैटर्न को MCP टूल शासन (कॉलर अनुदान, अनुमोदित स्कीमा, बजट प्रवर्तन, ड्रिफ्ट क्वारंटीन) और A2A एजेंट विश्वास (सत्यापन, पिनिंग, एग्रेस नियंत्रण, लक्ष्य-बाध्य क्रेडेंशियल्स) तक विस्तारित करता है। प्रोजेक्ट अपने स्वयं के कार्यान्वयन के लिए बेंचमार्क माप प्रकाशित करता है, जिसमें 73 माइक्रोसेकंड की p50 अतिरिक्त विलंबता, शून्य विफलताओं के साथ 67,837 निरंतर अनुरोध प्रति सेकंड, 7.3 MiB निष्क्रिय निवासी मेमोरी, और 5.74 MiB संपीड़ित कंटेनर इमेज शामिल हैं, साथ ही अन्य सामान्य AI गेटवे और सामान्य API गेटवे टूल्स के साथ सार्वजनिक तुलनाएँ। प्रोजेक्ट Apache 2.0 लाइसेंस के तहत जारी किया गया है, जिसमें इसके डेटा-प्लेन HTTP सतह और प्रमुख संस्करणों में समर्थित वायर प्रोटोकॉल अनुबंधों के लिए SemVer-स्थिर अनुबंध है।