প্রকল্প সম্পর্কে

Meridian.AI একটি ওপেন-সোর্স প্রকল্প, যা স্বয়ংক্রিয় ধারাবাহিক প্রশিক্ষণের মাধ্যমে ফিন্যান্স-কেন্দ্রিক একটি ভাষা মডেল তৈরি করে। এটি GitHub Actions-এর ফ্রি টিয়ার ব্যবহার করে প্রতি ঘণ্টায় একটি Qwen2.5-0.5B ব্যাকবোন (৪৯৪M প্যারামিটার) ফাইন-টিউন করে, HuggingFace থেকে সর্বশেষ চেকপয়েন্ট টেনে আনে, ২৫+ ফিন্যান্স ও গণিত ডেটাসেটে প্রশিক্ষণ দেয় এবং আপডেটগুলো ফেরত পুশ করে। প্রশিক্ষণ পাইপলাইনে ক্যাটাস্ট্রফিক ফরগেটিং কমাতে Elastic Weight Consolidation (EWC) ব্যবহার করা হয়, সঙ্গে ১৬GB RAM সীমার জন্য উপযোগী মেমরি-সেফ CPU প্রশিক্ষণ (AdaFactor অপটিমাইজার, গ্রেডিয়েন্ট চেকপয়েন্টিং, RAM থ্রটলিং)। রিপোজিটরিতে পরীক্ষা-নিরীক্ষার জন্য একটি কাস্টম গবেষণা আর্কিটেকচার (Sparse MoE Transformer) রয়েছে, তবে ডিপ্লয় করা মডেলটি সাধারণ Qwen2.5 ফাইন-টিউন করা। এতে ইনফারেন্স উদাহরণ, স্থানীয় প্রশিক্ষণের বিকল্প, এনভায়রনমেন্ট ভেরিয়েবল কনফিগারেশন, CI/CD পাইপলাইনের বিস্তারিত, ডেটাসেট কারিকুলাম, সমস্যা সমাধানের নির্দেশনা এবং মূল্যায়ন স্ক্রিপ্ট দেওয়া আছে। প্রকল্পটি স্বচ্ছতার ওপর জোর দেয়, যার মধ্যে সৎ বেঞ্চমার্ক তুলনা রয়েছে—যা পারপ্লেক্সিটির উন্নতি দেখায় কিন্তু QA নির্ভুলতা বেস মডেলের সমান।