منصوبے کے بارے میں

ڈروز بڑے لینگویج ماڈلز پر میکانکی تشریح کے لیے ایک مقامی ورک بینچ ہے۔ یہ ایک مقامی ڈیش بورڈ، Python API، اور OpenAI اور Ollama کلائنٹس دونوں کے ساتھ مطابقت رکھنے والا HTTP سرور فراہم کرتا ہے۔ فوری آغاز عام طور پر ورچوئل ماحول میں سورس چیک آؤٹ سے انسٹال ہوتا ہے (`uv pip install -e .`) اور `drowse serve google/gemma-3-4b-it` کے ساتھ لانچ ہوتا ہے، جو localhost:8000 پر ڈیش بورڈ کھولتا ہے۔ پہلی لانچ ماڈل ڈاؤن لوڈ کرتی ہے اور 17 بنڈل کانسیپٹ پروبس فٹ کرتی ہے، جو `~/.drowse/` میں محفوظ ہوتے ہیں۔ CUDA اور Apple Silicon MPS معاونت یافتہ ہیں، اختیاری FlashAttention اور bitsandbytes quantization extras کے ساتھ۔ ایک میزبان براؤزر ایڈیشن بھی شامل ہے جو آن ڈیوائس WebGPU انفرنس کے لیے ایک الگ تھلگ Svelte PWA ہے۔ README اپنی حدود کے بارے میں صریح ہے: رن ٹائم اور ڈسٹری بیوشن لاکس تصدیق شدہ نشان زد ہیں، لیکن ریلیز چیک ماڈل لوڈ کے تحت GPU استحکام کی ضمانت نہیں دیتے؛ Gemma PT میں مماثل وزن کی عددی بے ضابطگی ہے اور Qwen 3.5 کو ابھی بھی مماثل quantization کی توثیق کی ضرورت ہے۔ ڈیوائس چیک GPU وینڈر اور آرکیٹیکچر کی اطلاع دیتے ہیں، ریکارڈ شدہ ڈیوائس نقصانات کے ساتھ بلاک پروفائلز، اور شناخت شدہ Intel gen-9 اڈاپٹرز پر Windows Chromium کو قدامت پسندی سے بلاک کرتے ہیں۔ انفرنس کے لیے WebGPU لازمی ہے، جس میں کلاؤڈ یا CPU-صرف فال بیک نہیں ہے، اور پرامپٹس، گفتگو، ایکٹیویشنز اور فٹ کردہ آرٹیفیکٹس ڈیوائس پر ہی رہتے ہیں۔ ویب یو آئی گفتگو کو برانچنگ تھریڈ ٹریز کے طور پر ترتیب دیتا ہے جس میں ریرول، سیو/لوڈ، اور معیاری سیمپلنگ کنٹرولز ہوتے ہیں۔ چیٹ موڈ ماڈل ٹیمپلیٹس کو ٹرنز کے طور پر پیش کرتا ہے جس میں کولیپس ایبل تھنکنگ اور متحرک رول ہینڈلنگ ہوتی ہے؛ خام موڈ بیس ماڈلز کے لیے ایک ہی بفر کو ظاہر کرتا ہے۔ ٹوکنز کو پروب اسکورز یا لوگ پراب سرپرائز کے ذریعے نمایاں کیا جا سکتا ہے، اور ٹوکن پر کلک کرنے سے جیومیٹری، لوگِٹس (بشمول ٹوکن فورکنگ)، SAE، اور J-lens ویوز کے ساتھ ایک تفصیلی ڈراور کھلتا ہے۔ آلات کو سب اسپیس، مینی فولڈ، SAE اور لینز ٹیبز میں گروپ کیا گیا ہے، جن میں مینی فولڈز کی فٹنگ، ضم کرنے، انسٹال کرنے اور معائنہ کرنے، محدود انتخاب والے ٹیمپلیٹس کی اسکورنگ، اسٹیئرنگ کے انتظام اور سرور کی صحت کی جانچ کے لیے اضافی تجزیہ ٹولز شامل ہیں۔ تصورات کو مینی فولڈز یا ذیلی جگہوں کے طور پر نکالا جاتا ہے: ایک 1D فلیٹ سب اسپیس اسٹیئرنگ ویکٹر ہے، اعلیٰ رینک کے فلیٹ سب اسپیس آرتھوگونل گروپس ہیں، اور خم دار مینی فولڈز نان لکیری سطحوں کو فٹ کرتے ہیں۔ بنڈل پروبس علمی، صف بندی، رجسٹر اور ثقافتی تصوراتی جوڑوں کا احاطہ کرتی ہیں، نیز پرسناز، جذبات اور مہینوں کے لیے بڑے اختیاری سیٹ۔ ایک متحد اسٹیئرنگ ایکسپریشن نحو Python، YAML، OpenAI، Ollama اور مقامی API میں کام کرتا ہے، جو جمع/گھٹاؤ، مشترکہ جزو رکھنے/ہٹانے کے آپریٹرز، مین ایبلیشن، مینی فولڈ نوڈ سلیکشن، ٹوکن فیز کی پابندیاں، ڈیکوڈ ونڈو کی پابندیاں اور لائیو پروب گیٹس کی حمایت کرتا ہے۔ نکالنے میں ماڈل سے ہر تصور کے طور پر بیس لائن پرامپٹس کا جواب دلوایا جاتا ہے، پھر پوشیدہ حالتوں کو مینی فولڈ یا سب اسپیس پر فٹ کیا جاتا ہے، پرت کی تقسیم اور امتیازی پرت کے انتخاب کے لیے مہالانوبیس میٹرک استعمال کرتے ہوئے۔ نگرانی کی ریڈنگز میں فٹ شدہ کوآرڈینیٹس، سب اسپیس فریکشن، نرم اسائنمنٹ کے ساتھ قریبی نوڈس، اور خم دار مینی فولڈز کے لیے آف سطح کی باقیات شامل ہیں۔ جیکوبین لینز شائع شدہ verbalizable-workspace کام کی پیروی کرتا ہے، اور SAE سپورٹ شائع شدہ SAELens ریلیز استعمال کر سکتی ہے یا مقامی SAEs تربیت دے سکتی ہے۔ CLI میں آٹھ فعل ہیں: serve، manifold، pack، experiment، config، template، lens اور sae، جو تولیدی تیاری، تقسیم اور بیچ کام کا احاطہ کرتے ہیں۔ مینی فولڈ پیک مقامی راستوں سے انسٹال کیے جا سکتے ہیں یا Hugging Face ماڈل ریپوزٹریز کے طور پر تقسیم کیے جا سکتے ہیں، اور ایک `.drowse` ZIP ایک مینی فولڈ کلوزر کے ساتھ اس کے حوالہ کردہ ٹیمپلیٹ کو منتقل کرتا ہے۔ ایک فٹ شدہ دو نوڈ PCA مینی فولڈ کو llama.cpp کنٹرول-ویکٹر GGUF کے طور پر برآمد کیا جا سکتا ہے۔ میزبان براؤزر کی دریافت صرف ان Hugging Face ریپوزٹریز کو قبول کرتی ہے جن پر `drowse-manifold` کا ٹیگ ہو، ایک واحد روٹ `.drowse` اور ایک روٹ `manifold.json` ہو، جو ایک ناقابل تبدیل کمٹ تک حل کرتا ہے اور اعلان کردہ ریپوزٹری اور ریویژن کی تصدیق کرتا ہے۔ ایک `drowse serve` عمل ایک پورٹ پر چار سطحیں ظاہر کرتا ہے: WebUI، OpenAI-مطابق `/v1/*`، Ollama-مطابق `/api/*`، اور سیشنز، لوم ٹریز، پروبس، مینی فولڈز، ٹیمپلیٹس، SAE/J-LENS لائف سائیکل اور ری پلے، SSE، اور ٹوکن-پلس-پیمائش WebSockets کے لیے ایک مقامی `/drowse/v1/*` API۔ Python API `DrowseSession` پر مرکوز ہے، جس میں `extract`، `add_probe`، `generate`، `generate_stream`، `generate_batch`، `generate_sweep` اور `score_choices` کے ساتھ ساتھ نوٹ بک پلاٹنگ ہیلپرز بھی شامل ہیں۔ ماڈل سپورٹ میں Qwen 2/3/3.5، Gemma 2/3/4، Mistral 3 اور Ministral 3، Llama، GLM، gpt-oss اور Talkie کے لیے اینڈ ٹو اینڈ ٹیسٹ شدہ راستے شامل ہیں، اضافی آرکیٹیکچرز ایک عام ریزیڈوئل پرت انٹرفیس کے ذریعے وائرڈ ہوتے ہیں اور غیر تجربہ شدہ ہونے پر انتباہ دیتے ہیں۔ README واضح طور پر Drowse کو ایک قابل اعتماد مقامی مشین یا لیب نیٹ ورک کے لیے ہدف قرار دیتا ہے نہ کہ سخت ملٹی ٹیننٹ سروس کے لیے، اور اگر قابل اعتماد میزبان سے باہر باندھا جائے تو API کلیدوں، TLS، ریٹ لمٹس اور آئسولیشن کا مشورہ دیتا ہے۔ ریپوزٹری Python پر عمل درآمد ڈیفالٹ طور پر غیر فعال ہے اور اس کے لیے واضح آپٹ ان درکار ہے۔ حالت `~/.drowse/` کے تحت رہتی ہے (جو `$DROWSE_HOME` کے ذریعے منتقل کی جا سکتی ہے)، جبکہ گفتگو کی محفوظ کاری واضح براؤزر-ڈاؤن لوڈ کردہ JSON فائلیں ہیں نہ کہ آٹو سیو۔ پروجیکٹ AGPL-3.0-or-later لائسنس یافتہ ہے اور Representation Engineering، repeng، difference-of-means extraction، Goodfire کے مینی فولڈ کام، Anthropic کے Assistant Axis فریم ورک، اور Gurnee et al. کے J-lens طریقہ کو کریڈٹ دیتا ہے۔