منصوبے کے بارے میں

ایٹامک چیٹ ایک مقامی AI ایپلیکیشن اور انفرنس انجن ہے جس کا مقصد اوپن-ویٹ بڑے لینگویج ماڈلز کو آپ کی اپنی مشین پر چلانا ہے، جس میں پرائیویسی اور آف لائن آپریشن پر زور دیا گیا ہے۔ یہ macOS، Windows اور Linux کے لیے ڈیسک ٹاپ بلڈز کے ساتھ ساتھ iOS اور Android ایپس کے طور پر دستیاب ہے۔ README میں بیان کردہ بنیادی صلاحیتیں: - مقامی ماڈل ایگزیکیوشن: Hugging Face سے اوپن-ویٹ ماڈلز چلائیں، جن میں Llama، Gemma، Qwen، Mistral اور Phi خاندان شامل ہیں۔ - OpenAI کے ساتھ مطابقت رکھنے والا مقامی API: http://localhost:1337/v1 پر ایک سرور OpenAI SDK کے متبادل کے طور پر کام کرتا ہے، لہٰذا موجودہ ایجنٹس، CLIs اور IDE پلگ ان صرف base URL تبدیل کر کے اس کی طرف اشارہ کر سکتے ہیں۔ یہ بطور ڈیفالٹ 127.0.0.1 پر بائنڈ ہوتا ہے اور host کو 0.0.0.0 پر سیٹ کر کے LAN پر ظاہر کیا جا سکتا ہے۔ - متعدد انفرنس بیک اینڈز: TurboQuant KV-cache آپشنز کے ساتھ llama.cpp کا ایک فورک، اپ اسٹریم llama.cpp، اور Apple Silicon وژن-لینگویج ماڈلز کے لیے MLX-VLM۔ README میں کہا گیا ہے کہ کلائنٹس کو یہ جاننے کی ضرورت نہیں کہ کون سا بیک اینڈ فعال ہے۔ - ڈیکوڈنگ اور کارکردگی کے آپشنز: Multi-Token Prediction speculative decoding، DFlash block-diffusion decoding، Flash Attention ٹوگلز، reasoning-context tracking، اور خودکار context-window توسیع۔ - کلاؤڈ ماڈل سپورٹ: بلٹ-ان پرووائیڈرز جیسے OpenAI، Anthropic، Mistral، Groq، MiniMax، Qwen اور Moonshot، bring-your-own-key اور فی چیٹ ماڈل سوئچنگ کے ساتھ۔ - ٹولز اور انٹیگریشنز: بیرونی ایجنٹس کا ایک کلک لانچ (مثلاً Claude Code، Codex CLI، Cline، OpenCode، Goose، OpenHands، Copilot CLI، Kilo Code، Zed)، HTML/CSS/JS کے لیے Artifacts پیش نظارہ پینل، MCP سرور کنکشنز، سسٹم پرامپٹس کے ساتھ حسب ضرورت اسسٹنٹس، اور گفتگو کے درخت کے منظر کے ساتھ پروجیکٹس۔ README میں Node.js 20+، Yarn، Make اور Rust کے ساتھ سورس سے بلڈ کرنے، ہر پلیٹ فارم کے لیے سسٹم کی ضروریات، Linux AppImage کے استعمال، اور GitHub issues یا Discord کے ذریعے ٹربل شوٹنگ کی بھی دستاویز کی گئی ہے۔ README میں دیے گئے کارکردگی کے اعداد و شمار (جیسے تھروپٹ میں اضافہ یا KV-cache سائز میں کمی) پروجیکٹ کے اپنے دعوے ہیں اور یہاں آزادانہ طور پر تصدیق شدہ نہیں ہیں۔