منصوبے کے بارے میں

ThinkWatch ایک خود میزبان گیٹ وے ہے جو کسی تنظیم کے تمام AI ماڈل درخواستوں اور MCP ٹول کالز کو مرکزی بناتا ہے۔ یہ ایک کنٹرول پوائنٹ کے طور پر کام کرتا ہے، جیسے bastion host، جو کلائنٹس جیسے Claude Code، Cursor، حسب ضرورت ایجنٹس، اور CI/CD پائپ لائنز اور اپ اسٹریم فراہم کنندگان بشمول OpenAI، Anthropic، Google Gemini، Azure OpenAI، اور AWS Bedrock کے درمیان موجود ہوتا ہے۔ اہم صلاحیتیں شامل ہیں: - **فی صارف MCP شناخت**: صارفین OAuth یا ذاتی ٹوکنز کے ذریعے اپنے GitHub، Notion، Linear، Slack، یا Atlassian اکاؤنٹس منسلک کرتے ہیں، تاکہ اپ اسٹریم آڈٹ لاگز میں حقیقی اداکار نظر آئے۔ ٹوکنز آرام کے وقت انکرپٹڈ رہتے ہیں، اور ٹول کی فہرستیں فی صارف کیش کی جاتی ہیں۔ - **سیکیورٹی گارڈز**: ای میلز، فون نمبرز، اور کارڈ نمبرز جیسی PII درخواستوں کے اپ اسٹریم جانے سے پہلے ریڈیکٹ کی جاتی ہے اور جوابات میں بحال کی جاتی ہے، بشمول اسٹریمڈ جوابات۔ ٹول کالز کو خطرناک کمانڈ قواعد کے خلاف جانچا جاتا ہے، اور پوشیدہ Unicode حروف اور پرامپٹ انجیکشن جملے لاگ یا مسترد کیے جا سکتے ہیں۔ - **تنظیمی شناخت**: سائن ان کسی بھی OIDC فراہم کنندہ کے ذریعے اختیاری TOTP کے ساتھ کام کرتا ہے۔ پانچ بلٹ ان رولز کے علاوہ حسب ضرورت رولز ماڈلز، ٹولز، اور ایڈمن صفحات تک رسائی کو کنٹرول کرتے ہیں۔ - **متحد کیز**: `tw-` ورچوئل کیز کو AI گیٹ وے، MCP گیٹ وے، یا دونوں تک محدود کیا جا سکتا ہے۔ کیز ہیش کے طور پر محفوظ کی جاتی ہیں اور گریس پیریڈ کے ساتھ روٹیشن کی حمایت کرتی ہیں۔ - **ریٹ لمٹس اور بجٹ**: ایک منٹ سے ایک ہفتے تک کی سلائیڈنگ ونڈوز درخواستوں یا ٹوکنز کو محدود کرتی ہیں، اور روزانہ، ہفتہ وار، یا ماہانہ بجٹ اخراجات کو محدود کرتے ہیں۔ حدود صارفین، API کیز، یا رولز سے منسلک ہوتی ہیں۔ - **لاگت اکاؤنٹنگ**: اخراجات ماڈل، صارف، فراہم کنندہ، اور لاگت مرکز کے لحاظ سے رپورٹ کیے جاتے ہیں، CSV چارج بیک رپورٹس اور ماہ کے آخر کی پیش گوئیوں کے ساتھ۔ فی ماڈل وزن مہنگے ماڈلز کو کوٹہ کے خلاف زیادہ شمار کرتے ہیں۔ - **آڈٹ ٹریل**: ہر ماڈل درخواست اور ٹول کال ClickHouse میں صارف، پیرامیٹرز، جواب، تاخیر، اور غلطیوں کے ساتھ ریکارڈ کی جاتی ہے۔ ایونٹس کو Syslog کے ذریعے SIEM، REST پراکسی کے ذریعے Kafka، یا دستخط شدہ webhooks پر بھیجا جا سکتا ہے۔ - **ملٹی فارمیٹ اینڈ پوائنٹ**: OpenAI Chat Completions، OpenAI Responses، Anthropic Messages، اور Gemini درخواستیں ایک پورٹ پر پیش کی جاتی ہیں اور اپ اسٹریم فارمیٹ میں تبدیل کی جاتی ہیں۔ روٹنگ وزن، تاخیر، یا صحت کے لحاظ سے ٹریفک پھیلاتی ہے، ناکام اپ اسٹریمز کے لیے سرکٹ بریکر کے ساتھ۔ پروجیکٹ میں پورٹ 3000 پر گیٹ وے اور پورٹ 3001 پر مینجمنٹ کنسول شامل ہے۔ تعیناتی Docker Compose اور Kubernetes کے ذریعے Helm چارٹ کے ساتھ تعاون یافتہ ہے۔ کنسول Claude Code، Cursor، Continue، Cline، OpenAI اور Anthropic SDKs، اور cURL کے لیے سیٹ اپ ہدایات فراہم کرتا ہے۔ ThinkWatch Business Source License 1.1 کے تحت سورس-ایویلیبل ہے۔ غیر پیداواری استعمال مفت ہے، اور پیداواری استعمال ہر کیلنڈر ماہ میں 10,000,000 بل ایبل ٹوکنز اور 10,000 MCP ٹول کالز تک مفت ہے، جس کے بعد تجارتی لائسنس درکار ہے۔