इस प्रोजेक्ट के बारे में
LacLong को AI क्लाइंट्स और विभिन्न AI प्रदाताओं के बीच बैठने के लिए डिज़ाइन किया गया है, जो प्रदाता अनुबंधों, रूटिंग निर्णयों और खाता चयन को प्रबंधित करने के लिए एकीकृत गेटवे के रूप में कार्य करता है। इसका लक्ष्य कई AI मॉडल और खातों के एकीकरण को सरल बनाने के लिए एकल OpenAI-संगत एंडपॉइंट प्रदान करना है।
वर्तमान में अपने आधारभूत चरण (Phase 0) में, प्रोजेक्ट निम्नलिखित क्षमताएँ प्रदान करता है:
- एक TypeScript-आधारित गेटवे जिसमें एक मॉक OpenAI-संगत `POST /v1/chat/completions` एंडपॉइंट है।
- बुनियादी हेल्थ चेक्स और मॉडल लिस्टिंग एंडपॉइंट्स।
- प्रायोरिटी और राउंड-रॉबिन रूटिंग लॉजिक का कार्यान्वयन।
- एक Laravel-आधारित डैशबोर्ड फाउंडेशन जो प्रदाता, खाता और उपयोग डेटा को प्रबंधित करता है।
- `CredentialVault` का उपयोग करके क्रेडेंशियल प्रबंधन प्रणाली (macOS Keychain या एन्क्रिप्टेड फ़ाइलों का समर्थन करती है)।
- स्थानीय पर्यावरण सेटअप के लिए Docker Compose एकीकरण।
आर्किटेक्चर गेटवे (Node.js/Fastify) को प्रशासनिक डैशबोर्ड (Laravel) से अलग करता है, जिससे गेटवे स्वतंत्र रहता है। भविष्य की योजनाबद्ध सुविधाओं में OpenAI, Anthropic, Gemini, OpenRouter, और Ollama के लिए प्रोडक्शन एडाप्टर, साथ ही स्ट्रीमिंग चैट कंप्लीशन, कोटा ट्रैकिंग, और ऑटोमैटिक फेलओवर शामिल हैं।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.