প্রকল্প সম্পর্কে

অ্যাটমিক চ্যাট একটি লোকাল এআই অ্যাপ্লিকেশন ও ইনফারেন্স ইঞ্জিন, যার লক্ষ্য নিজের মেশিনে ওপেন-ওয়েট বড় ভাষা মডেল চালানো, বিশেষ গুরুত্ব গোপনীয়তা ও অফলাইন পরিচালনার উপর। এটি macOS, Windows ও Linux-এর জন্য ডেস্কটপ বিল্ড এবং iOS ও Android অ্যাপ হিসেবে পাওয়া যায়। README-তে বর্ণিত মূল সক্ষমতাগুলো: - লোকাল মডেল এক্সিকিউশন: Hugging Face থেকে ওপেন-ওয়েট মডেল চালানো, যার মধ্যে Llama, Gemma, Qwen, Mistral ও Phi পরিবার রয়েছে। - OpenAI-সামঞ্জস্যপূর্ণ লোকাল API: http://localhost:1337/v1-এ একটি সার্ভার OpenAI SDK-এর ড্রপ-ইন বিকল্প হিসেবে কাজ করে, তাই বিদ্যমান এজেন্ট, CLI ও IDE প্লাগইন শুধু base URL বদলে এটির দিকে নির্দেশ করতে পারে। এটি ডিফল্টভাবে 127.0.0.1-এ বাইন্ড করে এবং host 0.0.0.0 সেট করে LAN-এ প্রকাশ করা যায়। - একাধিক ইনফারেন্স ব্যাকএন্ড: TurboQuant KV-cache অপশনসহ একটি llama.cpp ফর্ক, আপস্ট্রিম llama.cpp, এবং Apple Silicon ভিশন-ল্যাঙ্গুয়েজ মডেলের জন্য MLX-VLM। README অনুযায়ী কোন ব্যাকএন্ড সক্রিয় আছে তা ক্লায়েন্টদের জানার প্রয়োজন নেই। - ডিকোডিং ও পারফরম্যান্স অপশন: Multi-Token Prediction স্পেকুলেটিভ ডিকোডিং, DFlash ব্লক-ডিফিউশন ডিকোডিং, Flash Attention টগল, রিজনিং-কনটেক্সট ট্র্যাকিং, এবং স্বয়ংক্রিয় কনটেক্সট-উইন্ডো সম্প্রসারণ। - ক্লাউড মডেল সাপোর্ট: OpenAI, Anthropic, Mistral, Groq, MiniMax, Qwen ও Moonshot-এর মতো বিল্ট-ইন প্রোভাইডার, bring-your-own-key এবং প্রতি-চ্যাটে মডেল সুইচিংসহ। - টুল ও ইন্টিগ্রেশন: এক ক্লিকে বাহ্যিক এজেন্ট চালু করা (যেমন Claude Code, Codex CLI, Cline, OpenCode, Goose, OpenHands, Copilot CLI, Kilo Code, Zed), HTML/CSS/JS-এর জন্য Artifacts প্রিভিউ প্যানেল, MCP সার্ভার সংযোগ, সিস্টেম প্রম্পটসহ কাস্টম অ্যাসিস্ট্যান্ট, এবং কথোপকথন ট্রি ভিউসহ প্রজেক্ট। README-তে Node.js 20+, Yarn, Make ও Rust দিয়ে সোর্স থেকে বিল্ড করা, প্রতি প্ল্যাটফর্মের সিস্টেম প্রয়োজনীয়তা, Linux AppImage ব্যবহার, এবং GitHub issues বা Discord-এর মাধ্যমে সমস্যা সমাধানের বিষয়ও নথিভুক্ত করা হয়েছে। README-তে উদ্ধৃত পারফরম্যান্স পরিসংখ্যান (যেমন থ্রুপুট বৃদ্ধি বা KV-cache আকার হ্রাস) প্রকল্পের নিজস্ব দাবি এবং এখানে স্বতন্ত্রভাবে যাচাই করা হয়নি।