প্রকল্প সম্পর্কে

JouleWise LLM অনুমান পর্যায়ের শক্তি খরচ পরিমাপের জন্য একটি নিয়ন্ত্রিত কাঠামো প্রদান করে। এটি একটি কঠোর প্রমাণ-ভিত্তিক পাইপলাইন বাস্তবায়ন করে যেখানে পরিমাপ সেশন (উইন্ডো) গুলি অপরিবর্তনীয় রান বান্ডেলে রেকর্ড করা হয়, যাতে স্বাভাবিকৃত কনফিগারেশন, ইভেন্ট লগ এবং মূল পাওয়ার ট্রেস থাকে। প্রধান ক্ষমতাসমূহ: - CLI সহ একটি রানযোগ্য হার্নেস যা রান চালানো, বান্ডেল যাচাই করা, মূল ডেটা সারাংশ মেট্রিক্সে রূপান্তর করা এবং স্থিতিশীল HTML রিপোর্ট তৈরি করার জন্য। - MLX রানটাইম সহ powermetrics (Apple Silicon-এর জন্য) এবং NVIDIA GPU-এর জন্য vLLM-ভিত্তিক স্ট্যাক সহ একাধিক টেলিমেট্রি অ্যাডাপ্টার সমর্থন। - রেকর্ডকৃত প্রমাণ ও উৎসের অখণ্ডতা নিশ্চিত করার জন্য কঠোর যাচাইকরণ টুল (`validate-bundle`)। - JSON-Schema এক্সপোর্ট ও যাচাইকরণ সহ টাইপ করা কনফিগারেশন সিস্টেম। - ক্রস-ডিভাইস ও ক্রস-কনফিগারেশন তুলনার জন্য মোট পরিমাপকৃত শক্তি এবং আলস্য-বিয়োগকৃত শক্তি উভয় দৃষ্টিভঙ্গি সমর্থন।