इस प्रोजेक्ट के बारे में

सूप एक कमांड-लाइन एप्लिकेशन है जिसे बड़े भाषा मॉडल (LLM) के फाइन-ट्यूनिंग और पोस्ट-ट्रेनिंग को सुव्यवस्थित करने के लिए डिज़ाइन किया गया है। इसका उद्देश्य इन्फ्रास्ट्रक्चर सेटअप की जटिलता को दूर करना है, जिससे उपयोगकर्ता एकल YAML कॉन्फ़िगरेशन फ़ाइल और एक कमांड के साथ मॉडल को ट्रेन कर सकें। एक प्रमुख विशेषता लेयर स्ट्रीमिंग है, जो फ्रोज़न बेस मॉडल को होस्ट RAM से एक समय में एक डिकोडर लेयर स्ट्रीम करके 4 GB लैपटॉप GPU पर 8B मॉडल को फाइन-ट्यून करने में सक्षम बनाती है, जिससे कम VRAM उपयोग के साथ उच्च थ्रूपुट प्राप्त होता है। यह टूल विभिन्न ट्रेनिंग कार्यों (SFT, DPO, GRPO, PPO, KTO, ORPO, SimPO, IPO, BCO, आदि), कई बैकएंड (transformers, MLX, Unsloth), और HuggingFace Hub से मॉडलों की एक विस्तृत श्रृंखला का समर्थन करता है। इसमें प्रयोग प्रबंधन, डेटा टूल, मूल्यांकन, सर्विंग, और निर्यात क्षमताओं के लिए एक वेब UI शामिल है। यह प्रोजेक्ट Apache-2.0 के तहत ओपन-सोर्स है और दावों के बजाय मापे गए प्रदर्शन पर जोर देता है, साथ ही समुदाय योगदान और हार्डवेयर-गेटेड विकास पर केंद्रित है।