ওপেন সোর্স। নতুন সম্ভাবনা।

LangExtract হলো গুগলের একটি পাইথন লাইব্রেরি যা এলএলএম ব্যবহার করে অগঠিত পাঠ্য থেকে কাঠামোবদ্ধ তথ্য বের করে এবং প্রতিটি বেরকৃত অংশ মূল পাঠ্যের নির্দিষ্ট স্থানে গ্রাউন্ড করে

DeepTutor হল HKUDS-এর একটি ওপেন-সোর্স আজীবন ব্যক্তিগতকৃত টিউটরিং প্ল্যাটফর্ম, যা এজেন্টিক চ্যাট, একাধিক RAG ইঞ্জিনসহ নলেজ বেস, গাইডেড লার্নিং, বই জেনারেশন, কুইজ এবং মাল্টি-চ্যানেল IM পার্টনারদের একত্রিত করে।

'Build a Large Language Model (From Scratch)' বইয়ের অফিসিয়াল কোড রিপোজিটরি: ধাপে ধাপে PyTorch-এ GPT-সদৃশ মডেল তৈরি, প্রিট্রেনিং ও ফাইনটিউনিং, নোটবুক ও অনুশীলনসহ।

PowerInfer হলো একটি লোকাল LLM ইনফারেন্স ইঞ্জিন যা অ্যাক্টিভেশন লোকালিটি ব্যবহার করে ঘন ঘন ব্যবহৃত “হট” নিউরনগুলো GPU-তে রাখে এবং ইনপুট-নির্ভর “কোল্ড” নিউরনগুলো CPU-তে গণনা করে। এটি হাইব্রিড বা CPU-only ইনফারেন্স, সার্ভিং, ব্যাচিং, পারপ্লেক্সিটি মূল্যায়ন, INT4 কোয়ান্টাইজেশন এবং PowerInfer GGUF মডেল সমর্থন করে।

Chinese-LLaMA-Alpaca একটি ওপেন সোর্স চীনা ভাষার বড় ভাষা মডেল প্রকল্প। এটি মূল LLaMA-তে চীনা শব্দভাণ্ডার যুক্ত করে পুনঃপ্রশিক্ষণ দেয় এবং নির্দেশ-টিউনড মডেল, LoRA ওজন, প্রশিক্ষণ/কোয়ান্টাইজেশন স্ক্রিপ্ট সরবরাহ করে, লোকাল CPU/GPU-তে চালানো যায়।

প্রজেক্ট ইনফিনিটি একটি টেক্সটভিত্তিক 5e-সামঞ্জস্যপূর্ণ RPG, যেখানে AI ডানজন মাস্টার বাস্তব ডাইস রোল, স্থায়ী পরিসংখ্যান, স্পেল স্লট ও যুদ্ধ পরিচালনার জন্য একটি MCP/SQLite গেম ইঞ্জিন ব্যবহার করে।

SupaNexus হল একটি ওপেন AI গেটওয়ে যা একক API এর মাধ্যমে একাধিক LLM প্রদানকারীর অ্যাক্সেসকে একত্রিত করে, OpenAI-সামঞ্জস্যপূর্ণ ইন্টারফেস এবং কেন্দ্রীয় মডেল ব্যবস্থাপনা দিয়ে ডেভেলপমেন্টকে সহজ করে।

LightRAG হল HKUDS-এর একটি হালকা গ্রাফ-ভিত্তিক RAG ফ্রেমওয়ার্ক, যা দ্বৈত-স্তরের রিট্রিভাল, নলেজ-গ্রাফ ইনডেক্সিং, মাল্টিমোডাল পার্সিং, একাধিক স্টোরেজ ব্যাকএন্ড এবং API সার্ভার ও WebUI-সহ আসে।

GPT Academic একটি ওপেন সোর্স প্রকল্প যা GPT/GLM-এর মতো বৃহৎ ভাষা মডেলগুলোর জন্য ব্যবহারিক ইন্টারঅ্যাক্টিভ ইন্টারফেস প্রদান করে। এটি পেপার রিডিং, পলিশিং ও রাইটিং অভিজ্ঞতা উন্নত করতে ফোকাস করে। মডিউলার প্লাগিন সিস্টেম, কাস্টম শর্টকাট, মাল্টি-মডেল কোয়েরি, PDF/LaTeX ট্রান্সলেশন ও সামারিজিংয়ের মতো ফিচার সমর্থন করে।

সেম্যান্টিক সার্চ, LLM অর্কেশন এবং ভাষা মডেল কাজের জন্য একটি অল-ইন-ওয়ান এআই ফ্রেমওয়ার্ক।

এটি PyTorch ব্যবহার করে স্ক্র্যাচ থেকে LLM প্রশিক্ষণের একটি ব্যবহারিক গাইড, যেখানে ডেটা প্রস্তুতি, Transformer নির্মাণ, প্রিট্রেইনিং এবং SFT, DPO, PPO, GRPO সহ পোস্ট-ট্রেইনিং কভার করা হয়েছে।

Haystack হলো Python-এ প্রোডাকশন-রেডি LLM অ্যাপ্লিকেশন, RAG সিস্টেম এবং অটোনোমাস এজেন্ট তৈরির জন্য একটি ওপেন-সোর্স AI অর্কেস্ট্রেশন ফ্রেমওয়ার্ক।

LlamaFactory একটি পাইথন ফ্রেমওয়ার্ক যা ১০০+ বড় ভাষা ও মাল্টিমোডাল মডেলের দক্ষ ফাইন-টিউনিংয়ের জন্য, যেখানে জিরো-কোড CLI, Gradio Web UI, LoRA/QLoRA এবং একাধিক ট্রেনিং অ্যালগরিদম রয়েছে।

ডিপ লেক হলো AI-এর জন্য একটি সার্ভারলেস মাল্টিমোডাল ডেটাবেস যা ভেক্টর সার্চ এবং এমবেডিং, ছবি, ভিডিও, অডিও ও ডকুমেন্ট সংরক্ষণের সমন্বয় করে। এটি ক্লাউড স্টোরেজ থেকে সরাসরি PyTorch/TensorFlow-এ ডেটা স্ট্রিম করে, ভার্সনিং সমর্থন করে এবং LangChain, LlamaIndex ও Weights & Biases-এর সাথে সংহত হয়।

Maxime Labonne-র তৈরি একটি বিনামূল্যে শিক্ষণীয় কোর্স যা বড় ভাষা মডেল (LLM) নিয়ে বিস্তৃত জ্ঞান প্রদান করে। এতে মৌলিক তত্ত্ব থেকে শুরু করে ব্যবহারিক প্রকৌশল পর্যন্ত সবকিছু অন্তর্ভুক্ত।

Ray হলো একটি ইউনিফাইড ফ্রেমওয়ার্ক যা একটি একক ল্যাপটপ থেকে ডিস্ট্রিবিউটেড ক্লাস্টার পর্যন্ত AI এবং Python অ্যাপ্লিকেশন স্কেল করতে ব্যবহৃত হয়।

Flowise হলো AI এজেন্ট তৈরির একটি ভিজ্যুয়াল টুল, যা ব্যবহারকারীদের একটি গ্রাফিক্যাল ইন্টারফেসের মাধ্যমে এজেন্টিক ওয়ার্কফ্লো ডিজাইন এবং ডেপ্লয় করার সুযোগ দেয়।

Langflow হলো AI-সক্ষম এজেন্ট ও ওয়ার্কফ্লো তৈরি, ডিপ্লয় ও অর্কেস্ট্রেট করার একটি ভিজ্যুয়াল প্ল্যাটফর্ম। এতে ড্র্যাগ-এন্ড-ড্রপ ইন্টারফেস, ইন্টারেক্টিভ প্লেগ্রাউন্ড, মাল্টি-এজেন্ট সাপোর্ট এবং API বা MCP সার্ভার হিসেবে ডিপ্লয় করার সুবিধা রয়েছে।