منصوبے کے بارے میں

OpenAI Harmony ہارمونی رسپانس فارمیٹ کے ساتھ کام کرنے والی ایک لائبریری ہے، وہ کنورسیشن ڈھانچہ جس پر OpenAI کے اوپن ویٹ gpt-oss ماڈلز کو تربیت دی گئی ہے۔ README کے مطابق، gpt-oss کو ہارمونی فارمیٹ کے بغیر استعمال نہیں کرنا چاہیے کیونکہ یہ درست طریقے سے کام نہیں کرے گا۔ وہ صارفین جو API یا HuggingFace، Ollama، یا vLLM جیسے فراہم کنندگان کے ذریعے gpt-oss تک رسائی حاصل کرتے ہیں، خود فارمیٹنگ کو ہینڈل کرنے کی ضرورت نہیں ہے کیونکہ انفرنس حل یہ کام کرتا ہے۔ یہ لائبریری اپنے انفرنس حل بنانے والے ڈویلپرز کو ہدف بناتی ہے۔ یہ فارمیٹ OpenAI Responses API کی نقل کرنے کے لیے ڈیزائن کیا گیا ہے اور متعدد آؤٹ پٹ چینلز کو سپورٹ کرتا ہے جیسے چین آف تھاٹ، ٹول کالنگ کے پریمبلز، باقاعدہ رسپانسز، ٹول نام کی جگہیں، سٹرکچرڈ آؤٹ پٹس، اور ہدایات کا درجہ بندی۔ README میں ایک مثال پرامپٹ شامل ہے جس میں سسٹم، ڈویلپر، اور صارف کے پیغامات ٹول کی تعریفوں کے ساتھ ہیں۔ اہم خصوصیات: مستقل فارمیٹنگ: رینڈرنگ اور پارسرنگ کے لیے مشترکہ نفاذ ٹوکن سیکوینسز کو نقصان سے پاک رکھتا ہے۔ کارکردگی: بھاری کام Rust میں نفاذ کیا گیا ہے۔ Python سپورٹ: pip کے ذریعے انسٹال ہونے کے قابل، ٹائپڈ سٹبز کے ساتھ اور Rust سوٹ کے ساتھ ٹیسٹ کی برابری رکھتا ہے۔ ریپوزٹری میں Rust کریٹ (چیٹ ڈیٹا ڈھانچے، انکوڈنگ/رینڈرنگ اور پارسرنگ، بلٹ ان انکوڈنگ رجسٹری، ٹیسٹ، PyO3 بائنڈنگز) کے علاوہ خالص Python ریپر ہے جو ڈیٹاکلاسز اور ہیلپر API کو ظاہر کرتا ہے۔ Python انسٹالیشن `pip install openai-harmony` یا `uv pip install openai-harmony` کے ذریعے ہوتی ہے؛ Rust کے استعمال کے لیے Cargo.toml میں گٹ ڈیپینڈنسی کے طور پر کریٹ شامل کرنا پڑتا ہے۔ مثالیں HARMONY_GPT_OSS انکوڈنگ لوڈ کرنے، پیغامات سے کنورسیشن بنانے، اسے تکمیل کے لیے رینڈر کرنے، اور تکمیل ٹوکنز سے پیغامات کو پارسر کرنے کو دکھاتی ہیں۔ مقامی ترقی کے لیے پیشگی شرائط مستحکم Rust ٹولچین، ورچوئل ماحول کے ساتھ Python 3.8+، اور maturin ہیں۔ ورک فلو `maturin develop --release` کا استعمال Rust کریٹ کو کمپائل کرنے اور Python پیکیج کو ایڈیبل موڈ میں انسٹال کرنے کے لیے ہوتا ہے۔ ٹیسٹ Rust کے لیے `cargo test` اور Python کے لیے `pytest` کے ساتھ چلتے ہیں، Python سوٹ کو Rust ٹیسٹ کا ایک سے ایک پورٹ کے طور پر بیان کیا گیا ہے۔ اختیاری ٹولز میں ٹائپ چیکنگ کے لیے mypy، لنٹنگ کے لیے ruff، اور فارمیٹنگ کے لیے cargo fmt شامل ہیں۔