ওপেন সোর্স। নতুন সম্ভাবনা।

স্থানীয় ও দূরবর্তী LLM-গুলোর জন্য একীভূত API গেটওয়ে, OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্ট প্রকাশ করে যা OpenAI, Anthropic, Gemini এবং Ollama সহ বিভিন্ন প্রদানকারীর মধ্যে অনুরোধ রাউট করে।

Lamitype একটি বিনামূল্যের, ওপেন-সোর্স, গোপনীয়তা-প্রথম macOS ভয়েস-টু-টেক্সট অ্যাপ। এটি Apple Silicon-এ স্থানীয়ভাবে Qwen3-ASR মডেল চালায়, ট্র্যাডিশনাল চাইনিজ-কে অগ্রাধিকার দেয়, লাইভ ক্যাপশন, পাঠ্য অনুবাদ ও প্রুফরিডিং সমর্থন করে এবং ঐচ্ছিক ক্লাউড ডিক্টেশন সুবিধা প্রদান করে।

Olla Nest হল একটি স্ব-হোস্টেড, প্রশাসক-নিয়ন্ত্রিত AI কর্মস্থান যা স্থানীয় Ollama মডেল এবং ক্লাউড প্রদানকারীদের স্বয়ংক্রিয় অনুরোধ রাউটার দিয়ে একত্রিত করে।

TalaDB হলো অন-ডিভাইস AI-এর জন্য ডিজাইন করা একটি এমবেডেড ভেক্টর এবং ডকুমেন্ট ডাটাবেস, যা Browser, Node.js এবং React Native-এ একটি ইউনিফাইড TypeScript API প্রদান করে।

Turbo AI Chat হলো HarmonyOS NEXT-এর জন্য একটি নেটিভ অন-ডিভাইস লার্জ ল্যাঙ্গুয়েজ মডেল চ্যাট অ্যাপ্লিকেশন, যা হারমোনি ডিভাইসে সরাসরি লোকাল LLM চালানোর সম্পূর্ণ লিঙ্ক যাচাই করার জন্য ডিজাইন করা হয়েছে।

রোলপ্লে, মাল্টি-ক্যারেক্টার চ্যাট, দীর্ঘ লেখা, RAG, MCP টুল এবং স্থানীয় মডেলের জন্য লোকাল-ফার্স্ট ডেস্কটপ এআই ওয়ার্কবেঞ্চ।

Next.js ও TypeScript দিয়ে তৈরি স্থানীয়-প্রথম AI কনসোল, যা Ollama ইন্টিগ্রেশন সহ স্ট্রিমিং চ্যাট, ডকুমেন্ট RAG, মডেল রাউটিং এবং ব্যবহারকারী-নির্মিত শিক্ষণ নোট — সবকিছুই মেঘ-নির্ভরতা ছাড়া স্থানীয় নিয়ন্ত্রণে।

AnythingLLM হলো একটি অল-ইন-ওয়ান AI অ্যাপ্লিকেশন যা ডকুমেন্ট ইনজেশন এবং AI এজেন্ট সক্ষমতার মাধ্যমে একটি ব্যক্তিগত, লোকাল-ফার্স্ট ChatGPT অভিজ্ঞতা তৈরি করতে সাহায্য করে।

Lociant হলো Android ফোন ও Rockchip বোর্ডের মতো এজ ডিভাইসের জন্য একটি লোকাল AI রানটাইম। এটি GGUF/llama.cpp-এর মাধ্যমে লোকাল মডেল ইনফারেন্স সক্ষম করে, ডিভাইস সক্ষমতাগুলোকে MCP টুল হিসেবে উন্মোচন করে এবং বহিঃস্থ অর্কেস্ট্রেশনের জন্য OpenAI-সামঞ্জস্যপূর্ণ কন্ট্রোল API প্রদান করে।