इस प्रोजेक्ट के बारे में

Atomic Chat एक स्थानीय AI एप्लिकेशन और इन्फ़रेंस इंजन है जिसका उद्देश्य आपकी अपनी मशीन पर ओपन-वेट लार्ज लैंग्वेज मॉडल चलाना है, जिसमें गोपनीयता और ऑफ़लाइन संचालन पर ज़ोर दिया गया है। यह macOS, Windows और Linux के लिए डेस्कटॉप बिल्ड के साथ-साथ iOS और Android ऐप के रूप में उपलब्ध है। README में वर्णित मुख्य क्षमताएँ: - स्थानीय मॉडल निष्पादन: Hugging Face से ओपन-वेट मॉडल चलाएँ, जिनमें Llama, Gemma, Qwen, Mistral और Phi परिवार शामिल हैं। - OpenAI-संगत स्थानीय API: http://localhost:1337/v1 पर एक सर्वर OpenAI SDK के लिए ड्रॉप-इन प्रतिस्थापन के रूप में कार्य करता है, ताकि मौजूदा एजेंट, CLI और IDE प्लगइन केवल बेस URL बदलकर इसे इंगित कर सकें। यह डिफ़ॉल्ट रूप से 127.0.0.1 से बाइंड होता है और host को 0.0.0.0 पर सेट करके LAN पर उजागर किया जा सकता है। - एकाधिक इन्फ़रेंस बैकएंड: TurboQuant KV-कैश विकल्पों के साथ एक llama.cpp फ़ोर्क, अपस्ट्रीम llama.cpp, और Apple Silicon विज़न-लैंग्वेज मॉडल के लिए MLX-VLM। README बताता है कि क्लाइंट को यह जानने की आवश्यकता नहीं है कि कौन सा बैकएंड सक्रिय है। - डिकोडिंग और प्रदर्शन विकल्प: Multi-Token Prediction स्पेक्युलेटिव डिकोडिंग, DFlash ब्लॉक-डिफ्यूजन डिकोडिंग, Flash Attention टॉगल, रीज़निंग-कॉन्टेक्स्ट ट्रैकिंग, और स्वचालित कॉन्टेक्स्ट-विंडो विस्तार। - क्लाउड मॉडल समर्थन: OpenAI, Anthropic, Mistral, Groq, MiniMax, Qwen और Moonshot जैसे बिल्ट-इन प्रदाता, जिनमें अपनी-कुंजी-लाओ और प्रति-चैट मॉडल स्विचिंग शामिल है। - टूल और एकीकरण: बाहरी एजेंटों का वन-क्लिक लॉन्च (उदाहरण के लिए Claude Code, Codex CLI, Cline, OpenCode, Goose, OpenHands, Copilot CLI, Kilo Code, Zed), HTML/CSS/JS के लिए एक Artifacts प्रीव्यू पैनल, MCP सर्वर कनेक्शन, सिस्टम प्रॉम्प्ट के साथ कस्टम असिस्टेंट, और कन्वर्सेशन ट्री व्यू के साथ प्रोजेक्ट। README में Node.js 20+, Yarn, Make और Rust के साथ स्रोत से बिल्ड करना, प्रति प्लेटफ़ॉर्म सिस्टम आवश्यकताएँ, Linux AppImage उपयोग, और GitHub issues या Discord के माध्यम से समस्या निवारण का भी दस्तावेज़ीकरण किया गया है। README में उद्धृत प्रदर्शन आँकड़े (जैसे थ्रूपुट वृद्धि या KV-कैश आकार में कमी) परियोजना के अपने दावे हैं और यहाँ स्वतंत्र रूप से सत्यापित नहीं किए गए हैं।