منصوبے کے بارے میں

free-llm-api-stack ایک ہلکا پھلکا Python router ہے جو مختلف مفت LLM API tiers—جیسے Groq، Cerebras، Google Gemini، اور OpenRouter—کو ایک ہی مزاحم endpoint میں جمع کرنے کے لیے ڈیزائن کیا گیا ہے۔ یہ ایک OpenAI-compatible interface فراہم کرتا ہے جس میں خودکار failover کی سہولت ہوتی ہے؛ اگر کسی provider سے rate limit error (HTTP 429)، server error (5xx)، یا timeout واپس آئے تو request شفاف طریقے سے stack میں اگلے دستیاب provider کو بھیج دی جاتی ہے۔ یہ ٹول zero external dependencies کے ساتھ بنایا گیا ہے اور اس میں API endpoints، environment variable names، اور model limits کا انتظام کرنے کے لیے ایک centralized providers.json file استعمال ہوتی ہے۔ یہ architecture developers کو LLM-powered applications کے لیے high availability برقرار رکھنے کی اجازت دیتا ہے بغیر کسی فرد free-tier quota سے تجاوز کیے۔ اس کے علاوہ، repository میں Claude Code کے لیے ایک specialized skill بھی شامل ہے جو موجودہ projects میں resilient free backends کی integration کو automate کرنے میں مدد دیتی ہے۔