منصوبے کے بارے میں

autoresearch ایک خود مختار AI تحقیقی فریم ورک ہے جسے Andrej Karpathy نے بنایا ہے، جو AI ایجنٹوں کو ایک GPU پر LLM تربیت کے ساتھ آزادانہ تجربات کرنے کی اجازت دیتا ہے۔ یہ نظام nanochat کے ایک آسان سنگل-GPU نفاذ کے گرد بنایا گیا ہے، جہاں ایک AI ایجنٹ خود مختار طور پر تربیتی کوڈ (train.py) میں ترمیم کرتا ہے، مقررہ 5 منٹ کے وال کلاک بجٹ کے ساتھ تجربات چلاتا ہے، توثیقی بٹس فی بائٹ (val_bpb) کا استعمال کرتے ہوئے نتائج کا جائزہ لیتا ہے، اور تکرار کرتا ہے—بہتری کو برقرار رکھتا ہے اور خرابیوں کو ختم کرتا ہے۔ یہ پروجیکٹ جان بوجھ کر کم سے کم ہے، جس میں تین اہم فائلیں شامل ہیں: prepare.py (مقررہ ڈیٹا کی تیاری اور یوٹیلیٹیز، تبدیل نہیں کی جاتیں)، train.py (واحد فائل جسے ایجنٹ ترمیم کرتا ہے، جس میں مکمل GPT ماڈل، آپٹیمائزر، اور تربیتی لوپ شامل ہے)، اور program.md (ایجنٹ کے لیے بنیادی ہدایات، جسے انسان ترمیم کرتا ہے)۔ انسان کا کردار Python کوڈ لکھنے سے ہٹ کر program.md مارک ڈاؤن فائلوں کو پروگرام کرنے پر منتقل ہو جاتا ہے جو خود مختار تحقیقی تنظیم کی وضاحت کرتی ہیں۔ ڈیفالٹ program.md کو جان بوجھ کر ایک کم سے کم بنیادی لائن کے طور پر رکھا گیا ہے، حالانکہ یہ واضح ہے کہ وقت کے ساتھ اس پر کیسے تکرار کی جائے تاکہ 'تحقیقی تنظیم کوڈ' تلاش کیا جا سکے جو تیز ترین تحقیقی پیشرفت حاصل کرے، یا اس میں مزید ایجنٹ شامل کیے جائیں۔ تربیت کمپیوٹ کی تفصیلات سے قطع نظر بالکل 5 منٹ تک چلتی ہے، جس سے فی گھنٹہ تقریباً 12 تجربات اور راتوں رات تقریباً 100 تجربات ممکن ہوتے ہیں۔ یہ مقررہ وقت کا بجٹ تجربات کو براہ راست موازنہ کے قابل بناتا ہے چاہے ایجنٹ کچھ بھی تبدیل کرے (ماڈل کا سائز، بیچ کا سائز، فن تعمیر، وغیرہ) اور اس بات کو یقینی بناتا ہے کہ نظام اس رکاوٹ کے اندر مخصوص پلیٹ فارم کے لیے بہترین ماڈل تلاش کرے۔ میٹرک val_bpb vocab-size سے آزاد ہے، جس سے فن تعمیراتی تبدیلیوں کے درمیان منصفانہ موازنہ ممکن ہوتا ہے۔ ضروریات میں ایک NVIDIA GPU (H100 پر آزمایا گیا)، Python 3.10+، اور uv شامل ہیں۔ یہ پروجیکٹ خود کفیل ہے جس میں PyTorch اور چند چھوٹے پیکجز کے علاوہ کوئی بیرونی انحصار نہیں ہے—کوئی تقسیم شدہ تربیت یا پیچیدہ ترتیبات نہیں۔ macOS، Windows، اور AMD پلیٹ فارمز کے لیے قابل ذکر فورکس موجود ہیں۔ یہ پروجیکٹ MIT لائسنس کے تحت ہے۔