ওপেন সোর্স। নতুন সম্ভাবনা।

SGLang হলো লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) এবং মাল্টিমোডাল মডেলের জন্য একটি উচ্চ-ক্ষমতাসম্পন্ন সার্ভিং ফ্রেমওয়ার্ক, যা লো-ল্যাটেন্সি এবং হাই-থ্রুপুট ইনফারেন্সের জন্য ডিজাইন করা হয়েছে।

একটি লোকাল-ফার্স্ট ব্রাউজার অ্যাপ্লিকেশন যা AI চ্যাট, মাল্টি-উইন্ডো ম্যানেজমেন্ট, সেশন আইসোলেশন, একটি বিল্ট-ইন টার্মিনাল এবং Claude Code, Codex ও Gemini CLI-এর মতো টুল থেকে ওয়ার্কফ্লো নিয়ন্ত্রণের জন্য একটি CLI ইন্টারফেস একত্রিত করে।

AI নেটিভ কল সেন্টার একটি ওপেন-সোর্স প্ল্যাটফর্ম যেখানে AI ডিফল্ট উত্তর দেয়, FreeSWITCH-এ কল আসে এবং ভয়েস মডেল নিজে কল পরিচালনা করে। প্রয়োজনে মানব এজেন্টে স্থানান্তর হয়, সম্পূর্ণ সিস্টেম একটি Go বাইনারি, PostgreSQL এবং FreeSWITCH-এ চলে।

OmniRoute একটি ওপেন-সোর্স MIT-লাইসেন্সযুক্ত AI গেটওয়ে যা ৩৫২+ AI প্রদানকারী এবং ১২০০+ মডেলের একক ইউনিফাইড এন্ডপয়েন্ট অ্যাক্সেস প্রদান করে (১৫০+ ফ্রি টায়ার)। এতে কোটা-সচেতন অটো-ফলব্যাক, ১৫–৯৫% টোকেন সংকোচন এবং Claude Code, Cursor, Cline সহ অন্যান্য কোডিং এজেন্টের সাথে ইন্টিগ্রেশন রয়েছে।

FastGPT একটি বৃহৎ ভাষা মডেল-ভিত্তিক জ্ঞানভান্ডার প্ল্যাটফর্ম, যা ডেটা প্রসেসিং, RAG অনুসন্ধান এবং ভিজ্যুয়াল AI ওয়ার্কফ্লো অর্কেস্ট্রেশনের মতো রেডি-টু-ইউজ ক্ষমতা প্রদান করে, জটিল প্রশ্নোত্তর সিস্টেম দ্রুত নির্মাণ ও স্থাপন সমর্থন করে।

একটি ক্লাউডফ্লেয়ার ওয়ার্কার্স এআই এর জন্য ডিজাইন করা জিরো-খরচ গেটওয়ে। একাধিক অ্যাকাউন্টের বিনামূল্যের সুবিধা, বুদ্ধিমান রাউটিং এবং ফিউশন মেকানিজমের মাধ্যমে, Qwen3 ইত্যাদি মডেলগুলিকে স্ট্যান্ডার্ড ওপেনএআই এপিআইতে রূপান্তরিত করে, চেরি স্টুডিও ইত্যাদি ক্লায়েন্টদের সমর্থন করে।

MoziAI-35B একটি লোকালি ডিপ্লয়যোগ্য ওপেন-সোর্স মাল্টিমোডাল LLM, যার 35B MoE আর্কিটেকচার MoziSmartBit কোয়ান্টাইজেশনের মাধ্যমে ~15.9 GB-এ সংকুচিত; 256K কনটেক্সট, ভিশন, টুল কলিং এবং ফিন্যান্স-কেন্দ্রিক রিজনিং ফ্রেমওয়ার্ক রয়েছে।

Open Interpreter টার্মিনাল-ভিত্তিক কোডিং এজেন্ট যা কম খরচের মডেলের জন্য অপ্টিমাইজড। এটি ACP ও Codex সামঞ্জস্যপূর্ণ, স্যান্ডবক্সড এক্সিকিউশন এবং AGENTS.md/MCP এর মতো পোর্টেবল স্ট্যান্ডার্ড সমর্থন করে।

vLLM হলো একটি উচ্চ-থ্রুপুট এবং মেমরি-দক্ষ লাইব্রেরি যা Large Language Model (LLM) ইনফারেন্স এবং সার্ভিংয়ের জন্য ডিজাইন করা হয়েছে।

কম্পিউটার ভিশনের ৬১টি টিউটোরিয়ালের একটি সংগ্রহ, যেখানে YOLO11, SAM 3, RF-DETR, এবং Qwen3-VL-এর মতো আধুনিক মডেল ব্যবহার করে অবজেক্ট ডিটেকশন, সেগমেন্টেশন, OCR-সহ বিভিন্ন কাজ শেখানো হয়েছে।

Unsloth হলো একটি ডেস্কটপ অ্যাপ্লিকেশন এবং ফ্রেমওয়ার্ক যার মাধ্যমে Windows, macOS এবং Linux-এ লোকালি লার্জ ল্যাঙ্গুয়েজ মডেল (LLMs) এবং ডিফিউশন মডেল চালানো ও ট্রেনিং করা যায়।

SupaNexus হল একটি ওপেন AI গেটওয়ে যা একক API এর মাধ্যমে একাধিক LLM প্রদানকারীর অ্যাক্সেসকে একত্রিত করে, OpenAI-সামঞ্জস্যপূর্ণ ইন্টারফেস এবং কেন্দ্রীয় মডেল ব্যবস্থাপনা দিয়ে ডেভেলপমেন্টকে সহজ করে।

Xinference একটি ইউনিফাইড ইনফারেন্স লাইব্রেরি যা ভাষা, বক্তৃতা এবং মাল্টিমোডাল মডেল পরিবেশন করে। এটি OpenAI-সামঞ্জস্যপূর্ণ RESTful API, হেটেরোজেনিয়াস GPU/CPU ব্যবহার, বিতরণকৃত ডিপ্লয়মেন্ট এবং LangChain, LlamaIndex, Dify, Chatbox-এর সাথে ইন্টিগ্রেশন প্রদান করে।

UL-SMF হল দীর্ঘ-প্রসঙ্গ ট্রান্সফরমার ইনফারেন্সের জন্য একটি KV ক্যাশ কম্প্রেশন কাঠামো, যা FSQ এবং 16D ল্যাটেন্ট ম্যাপিংয়ের মাধ্যমে 384x পর্যন্ত কম্প্রেশন দাবি করে। মূল কম্প্রেশন লজিক একটি মালিকানাধীন বন্ধ-সোর্স বাইনারির উপর নির্ভরশীল।

LlamaFactory একটি পাইথন ফ্রেমওয়ার্ক যা ১০০+ বড় ভাষা ও মাল্টিমোডাল মডেলের দক্ষ ফাইন-টিউনিংয়ের জন্য, যেখানে জিরো-কোড CLI, Gradio Web UI, LoRA/QLoRA এবং একাধিক ট্রেনিং অ্যালগরিদম রয়েছে।

Langchain-Chatchat হলো একটি ওপেন-সোর্স অফলাইন RAG ও Agent অ্যাপ্লিকেশন যা Langchain এবং ChatGLM, Qwen, Llama-এর মতো বড় ভাষা মডেলগুলোর ওপর ভিত্তি করে তৈরি। এটি লোকাল নলেজ বেস প্রশ্নোত্তর, মাল্টি-মডেল ইনফারেন্স ফ্রেমওয়ার্ক সংযোগ, WebUI এবং API সার্ভিস সাপোর্ট করে।

Qwen Code একটি ওপেন-সোর্স এআই কোডিং এজেন্ট যা টার্মিনাল, এডিটর, ডেস্কটপ, ব্রাউজার এবং চ্যাট প্ল্যাটফর্মে কাজ করে। এটি মাল্টি-প্রোটোকল এপিআই, লোকাল মডেল এবং ডায়নামিক এজেন্ট ওয়ার্কফ্লো সমর্থন করে।

Ollama একটি টুল যা ব্যবহারকারীদের macOS, Windows এবং Linux-এ স্থানীয়ভাবে ওপেন-সোর্স লার্জ ল্যাঙ্গুয়েজ মডেলগুলি চালাতে, পরিচালনা করতে এবং তৈরি করতে সাহায্য করে।

Hugging Face Transformers হলো টেক্সট, ভিশন, অডিও এবং মাল্টিমোডাল টাস্কের জন্য একটি মেশিন লার্নিং মডেল-ডেফিনিশন ফ্রেমওয়ার্ক। এটি ১ মিলিয়নেরও বেশি প্রি-ট্রেইনড চেকপয়েন্টের সাথে ইনফারেন্স এবং ট্রেনিংয়ের জন্য একটি ইউনিফাইড API প্রদান করে।

Bob একটি macOS মেনুবার-ভিত্তিক অনুবাদ ও OCR টুল, যা নির্বাচিত পাঠ্য, স্ক্রিনশট, ইনপুট অনুবাদ এবং স্ক্রিনশট OCR, নীরব স্বীকৃতি, QR কোড স্বীকৃতি সমর্থন করে; একাধিক অনুবাদ ও OCR পরিষেবা সংযুক্ত করে এবং অফলাইন স্বীকৃতি ও টেক্সট-টু-স্পিচ প্রদান করে।