منصوبے کے بارے میں
AbstractGateway، AbstractRuntime رنز کے لیے قابل تعینات Run Gateway ہوسٹ اور AbstractFramework انسٹالیشن کا کنٹرول پلین ہے۔ یہ Python میں لکھا گیا ہے اور pip یا Docker کے ذریعے انسٹال ہوتا ہے۔
README میں بیان کردہ بنیادی صلاحیتیں:
- پائیدار رنز: رنز شروع کریں، ایک پائیدار کمانڈ ان باکس قبول کریں، اور ایک پائیدار لیجر کو ری پلے یا اسٹریم کریں (ری پلے-فرسٹ آرکیٹیکچر، صرف-افزودہ لیجر کے ساتھ)۔
- سیکیورٹی بیس لائن: صارف اکاؤنٹس، براؤزر سیشنز، اوریجن اجازت فہرست، درخواست کی حدود اور آڈٹ لاگ۔
- مینجمنٹ سطحیں: /console پر ویب کنسول، ٹرمینل کنسول (cargo کے ذریعے انسٹال ہونے والی Rust ایپ)، CLI، اور اختیاری ڈیسک ٹاپ ٹرے آئیکن۔
- HTTP پر کلائنٹ کنٹریکٹ: AbstractFlow، AbstractCode، AbstractObserver، AbstractContinuum، AbstractEntity اور AbstractAssistant جیسے کلائنٹس HTTP کے ذریعے گیٹ وے سے بات کرتے ہیں، لہٰذا کوئی بھی دوسرے پر منحصر نہیں۔ رنز POST /api/gateway/runs/start سے شروع ہوتے ہیں، POST /api/gateway/runs/schedule سے شیڈول ہوتے ہیں، پائیدار کمانڈز (pause، resume، cancel، emit_event، update_schedule، compact_memory) کے ذریعے کنٹرول ہوتے ہیں، اور لیجر کو ری پلے یا اسٹریم کر کے رینڈر ہوتے ہیں (GET ledger، SSE ledger/stream)۔
- مقامی انجن اور ماڈلز: کنسول ٹیبز اور CLI کمانڈز انجنوں (Ollama، LM Studio، MLX، llama.cpp اور دیگر) کی جانچ کرتے ہیں، انجن انسٹال کرتے ہیں، مشین کے مطابق ماڈلز کی فہرست بناتے ہیں، اور انسٹال شدہ ماڈلز ڈاؤن لوڈ یا فہرست کرتے ہیں۔ انجن انسٹالز گیٹ وے ہوسٹ پر چلتے ہیں اور allow_engine_install سیٹنگ کے تابع ہیں۔
- براؤزر ایپس اور نیٹ ورک ایکسپوژر: npm سے براؤزر ایپس انسٹال اور لانچ کریں، انہیں ایک بار کے دستخط شدہ لنک سے کھولیں، اور نیٹ ورک ایکسپوژر کو localhost، lan یا internet پر سیٹ کریں۔
- ملٹی موڈل روٹس: وائس/TTS، آڈیو ٹرانسکرپشن، امیج جنریشن/ایڈیٹ/اپ اسکیل، ویڈیو جنریشن اور امیج ٹو ویڈیو، اور میوزک جنریشن کے لیے رن-اسکوپڈ اینڈ پوائنٹس، نیز صلاحیتوں، آوازوں، آڈیو ماڈلز، میوزک پرووائیڈرز اور وژن، آرٹیفیکٹ سرچ، KG کوئریز اور پرامپٹ-کیشے کنٹرولز کے لیے ڈسکوری اور کیٹلاگ اینڈ پوائنٹس۔
- تعیناتی: GHCR امیجز (ایک لائٹ سرور امیج اور ایک تجرباتی GPU امیج)، Docker رن مثالیں، اور ماحولیاتی متغیرات اور کنفگ ہیلپر کے ذریعے کنفیگریشن۔ اختیاری اضافے Apple-مقامی انجنز، GPU پروفائلز، مقامی ایمبیڈنگز، ٹرے، ڈاکس ٹولنگ اور ڈیو ڈیپنڈنسیز کا احاطہ کرتے ہیں۔
کچھ بھی کنفیگر کیے بغیر پہلا رن 127.0.0.1:8080 کو بائنڈ کرتا ہے، صارف تصدیق فعال کرتا ہے، ایک ایڈمن صارف بناتا ہے اور ایک بار کا کنسول کلیم لنک پرنٹ کرتا ہے۔ README میں شپ شدہ ورک فلو (بشمول basic-agent، coding-agent، deep-research اور co-scientist)، AbstractFlow کے ساتھ .flow بنڈلز کی تصنیف، اور وسیع دستاویزات کے لنکس بھی درج ہیں۔ لائسنس: MIT۔
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.