প্রকল্প সম্পর্কে

Mithril হল একটি ওপেন-সোর্স মাল্টি-মডেল অর্কেস্ট্রেশন ইঞ্জিন যা Rust-এ লেখা (একটি Python CLI র্যাপার সহ) এবং একাধিক LLM প্রদানকারীকে একটি একক, ইউনিফাইড API এন্ডপয়েন্টে একত্রিত করে। প্রকল্পটির মূল মূল্য প্রস্তাবনা হল প্রতিটি AI প্রদানকারীর জন্য পৃথক ইন্টিগ্রেশন পরিচালনার প্রয়োজনীয়তা দূর করা: ব্যবহারকারীরা একটি YAML কনফিগারেশন ফাইলে একটি "ফেলোশিপ" — AI মডেলগুলির একটি দল — সংজ্ঞায়িত করেন, তারপর যেকোনো Ollama-সামঞ্জস্যপূর্ণ বা OpenAI-সামঞ্জস্যপূর্ণ ক্লায়েন্টকে Mithril-এর API-তে নির্দেশ করেন। অর্কেস্ট্রেশন ইঞ্জিন তিন ধরনের প্রদানকারী সমর্থন করে: স্থানীয় GGUF মডেল (llama.cpp-এর মাধ্যমে, বিনামূল্যে এবং ব্যক্তিগত), ক্লাউড API প্রদানকারী (Gemini, OpenAI, Anthropic, Groq), এবং CLI টুল (Kiro, Junie, GitHub Copilot, বা যেকোনো CLI যার নিজস্ব মডেল অ্যাক্সেস রয়েছে)। একটি স্থানীয় GGUF মডেল ডিফল্ট কন্ট্রোলার/রাউটার হিসেবে কাজ করে, ইনকামিং রিকোয়েস্ট শ্রেণীবদ্ধ করে এবং ফেলোশিপ কনফিগারেশনের ভিত্তিতে সেগুলি উপযুক্ত এজেন্টের কাছে হস্তান্তর করে। এজেন্টরা একটি NEXT/TASK প্রোটোকলের মাধ্যমে যোগাযোগ করে, যা তাদের একে অপরের কাছে কাজ হস্তান্তর করতে সক্ষম করে — উদাহরণস্বরূপ, একজন কোডার এজেন্ট কোড রিভিউয়ের জন্য একজন রিভিউয়ার এজেন্টের কাছে হস্তান্তর করতে পারে। সিস্টেমটি একই সাথে তিনটি API প্রোটোকল প্রকাশ করে: Ollama API (Junie, OpenCode, Open WebUI-এর মতো টুলের জন্য), OpenAI-সামঞ্জস্যপূর্ণ API (LangChain, LlamaIndex এবং কাস্টম Python ক্লায়েন্টের জন্য), এবং Claude Desktop ইন্টিগ্রেশনের জন্য MCP (মডেল কনটেক্সট প্রোটোকল)। এর অর্থ হল বিদ্যমান AI টুলিং পরিবর্তন ছাড়াই Mithril-এর সাথে সংযোগ করতে পারে — শুধু বেস URL পরিবর্তন করলেই হবে। Mithril-এ 24টি বিল্ট-ইন টুল রয়েছে যা ফাইল অপারেশন (read, write, edit, delete, apply_patch), টার্মিনাল এক্সিকিউশন (স্যান্ডবক্সড), ফাইল ডিসকভারি (list, grep, find, glob, stats), Git ইন্টিগ্রেশন (status, log, diff, blame, branch), ওয়েব অ্যাক্সেস (search, fetch), কোড অ্যানালাইসিস (সিম্বল সার্চ, ডকুমেন্ট আউটলাইন), নলেজ ম্যানেজমেন্ট (lore write/read) এবং ইন্টারঅ্যাকশন (todo, question)-কে কভার করে। ফেলোশিপ YAML-এর মাধ্যমে এজেন্টদের নির্দিষ্ট টুল বা সমস্ত টুলে অ্যাক্সেস দেওয়া যেতে পারে। ইনস্টলেশন প্রক্রিয়া নমনীয়: Linux/macOS-এর জন্য একটি ওয়ান-লাইনার শেল স্ক্রিপ্ট, Python/Jupyter পরিবেশের জন্য pip install, macOS/Linux-এর জন্য Homebrew tap, সমস্ত প্রধান প্ল্যাটফর্মের জন্য স্ট্যান্ডঅ্যালোন প্রি-বিল্ট বাইনারি (Linux x86_64/ARM64, macOS Apple Silicon/Intel, Windows x86_64), Docker (একক কন্টেইনার বা Docker Compose), এবং Cargo-এর মাধ্যমে সোর্স থেকে বিল্ডিং। API কীগুলি Argon2id + AES-256-GCM দিয়ে এনক্রিপ্ট করে একটি স্থানীয় কনফিগ ফাইলে সংরক্ষণ করা হয়, অথবা Docker/CI ডিপ্লয়মেন্টের জন্য এনভায়রনমেন্ট ভেরিয়েবলের মাধ্যমে পাস করা হয়। CLI-তে একটি ইন্টারঅ্যাকটিভ REPL (ট্যাব কমপ্লিশন সহ), একটি ফুল-স্ক্রিন TUI মোড, CI/স্ক্রিপ্টের জন্য নন-ইন্টারঅ্যাকটিভ এক্সিকিউশন, ফাইল এক্সপানশন (@file), এজেন্ট রাউটিং (#agent), প্ল্যান/বিল্ড মোড, আনডু/রিডু, সেশন পার্সিস্টেন্স, কাস্টম কমান্ড এবং হুক অন্তর্ভুক্ত রয়েছে। একই ফেলোশিপের সাথে টেলিগ্রামের মাধ্যমে চ্যাট করার জন্য একটি টেলিগ্রাম বট মোডও উপলব্ধ। ব্যবহারের ক্ষেত্রগুলির মধ্যে রয়েছে AI কোডিং অ্যাসিস্ট্যান্টগুলির (Junie, OpenCode) জন্য ব্যাকএন্ড হিসেবে কাজ করা, Docker-এর মাধ্যমে টিমের জন্য একটি শেয়ার্ড অর্কেস্ট্রেশন ব্যাকএন্ড, pip-এর মাধ্যমে Python ডেটা সায়েন্স ইন্টিগ্রেশন, এবং Claude Desktop-এর জন্য একটি MCP সার্ভার। আর্কিটেকচারটি এক্সটেনসিবিলিটির জন্য ডিজাইন করা হয়েছে — ফেলোশিপ কনফিগারেশন সিস্টেমের মাধ্যমে নতুন প্রদানকারী, টুল এবং এজেন্ট ধরন যোগ করা যেতে পারে।