عن المشروع
KPubData Builder هي أداة بناء ومستودع بيانات تستخدم واجهات API العامة الخاصة بـ KPubData SDK لتحويل البيانات العامة إلى لقطات جداول قابلة لإعادة الإنتاج. وهي تتبع معمارية Medallion (Bronze→Silver→Gold) لتنفيذ خطوات متتالية تشمل الحفاظ على البيانات الأصلية، والتطبيع والتحقق وحساب الإحصاءات، وتجميع حزم قابلة للنشر.
تشمل الوظائف الأساسية البناء القابل لإعادة الإنتاج عبر مواصفات BuildSpec التصريحية القائمة على YAML، وتتبع التدقيق باستخدام Manifest (تسجيل spec digest والحالة وبيانات artifact الوصفية)، والفصل بين إنشاء الملفات والنشر إلى مستودعات خارجية. توفّر واجهة CLI أوامر validate وpreview وbuild وpublish وserve، ويمكن نشر النتائج إلى مستودعات خارجية مثل Hugging Face. كما يمكن التكامل مع KPubData Studio عبر وضع خدمة HTTP.
يستخدم محرك البيانات الجدولية حالياً Polars وهو قيد التحول إلى DuckDB. ويدعم كل من التثبيت عبر pip والتشغيل عبر Docker، ويمكن استخدام جميع Provider وDataset التي يدعمها kpubdata. وتتناول الوثائق BUILD_SPEC.md وARCHITECTURE.md وAPI_CONTRACT.md وغيرها بالتفصيل عقد BuildSpec وتصميم مراحل Medallion وعقد HTTP API.
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.