इस प्रोजेक्ट के बारे में
Google Maps Scraper, Google Maps से व्यवसाय लिस्टिंग डेटा निकालने के लिए MIT-लाइसेंस प्राप्त टूल है। यह Go में लिखा गया है और मुख्य रूप से Docker इमेज के रूप में वितरित किया जाता है, साथ ही बाइनरी रिलीज़ भी उपलब्ध हैं। यह प्रोजेक्ट लीड जनरेशन, स्थानीय व्यवसाय शोध, सेल्स प्रॉस्पेक्टिंग और डेटा एनरिचमेंट वर्कफ़्लो को लक्षित करता है।
इंटरफ़ेस
- कमांड लाइन: क्वेरी की इनपुट फ़ाइल से स्क्रैप चलाएँ और परिणाम CSV या JSON में लिखें। फ़्लैग्स कन्करेंसी, स्क्रॉल गहराई, भाषा, भौगोलिक निर्देशांक, ज़ूम, रेडियस, ग्रिड बाउंडिंग बॉक्स, बाधित रन को फिर से शुरू करने, और निष्क्रियता-आधारित एग्ज़िट को कवर करते हैं।
- Web UI: एक ही Docker कमांड से शुरू होने वाला स्थानीय ब्राउज़र इंटरफ़ेस, जो डेटा को माउंट किए गए फ़ोल्डर में संग्रहीत करता है।
- REST API: जब वेब सर्वर चलता है, तो एंडपॉइंट्स जॉब बनाने, सूचीबद्ध करने, निरीक्षण करने और हटाने, तथा परिणाम CSV के रूप में डाउनलोड करने की अनुमति देते हैं। OpenAPI दस्तावेज़ स्थानीय रूप से सर्व किए जाते हैं।
- SaaS संस्करण: API कुंजियों, एडमिन UI, जॉब क्यू, वर्कर्स और क्लाउड प्रोविज़निंग वाला वैकल्पिक सेल्फ-होस्टेड मल्टी-यूज़र प्लेटफ़ॉर्म।
- AI एजेंट स्किल: एक इंस्टॉल करने योग्य स्किल कोडिंग एजेंट्स को खोज की योजना बनाने, छोटा वैलिडेशन स्क्रैप चलाने, Docker क्रॉल लॉन्च और मॉनिटर करने, और परिणाम प्रस्तुत करने देती है। प्रॉक्सी क्रेडेंशियल्स मास्क किए गए स्थानीय प्रॉम्प्ट के माध्यम से एकत्र किए जाते हैं।
निकाला गया डेटा
36 फ़ील्ड्स का एक दस्तावेज़ीकृत सेट इसमें शामिल है: व्यवसाय का नाम, श्रेणी, पता, खुलने का समय, लोकप्रिय समय, वेबसाइट, फ़ोन, प्लस कोड, समीक्षा संख्या और रेटिंग, रेटिंग ब्रेकडाउन, अक्षांश और देशांतर, Google CID और place ID, व्यवसाय की स्थिति, विवरण, समीक्षा लिंक, थंबनेल और छवियाँ, टाइमज़ोन, मूल्य सीमा, Street View URL, आरक्षण और ऑनलाइन ऑर्डरिंग लिंक, मेनू, मालिक-दावा स्थिति, पूरा पता, स्वीकृत क्रेडिट कार्ड, about जानकारी, उपयोगकर्ता समीक्षाएँ, विस्तारित समीक्षाएँ (एक फ़्लैग के साथ लगभग 300 तक), और ईमेल निष्कर्षण सक्षम होने पर व्यवसाय की वेबसाइटों से निकाले गए ईमेल पते। इनपुट लाइनें सादे खोज क्वेरी या सीधे Google Maps URL हो सकती हैं, और क्वेरीज़ के साथ कस्टम इनपुट ID जोड़े जा सकते हैं।
आउटपुट और एकीकरण
परिणाम CSV, JSON, PostgreSQL, S3, LeadsDB या कस्टम राइटर प्लगइन्स में लिखे जा सकते हैं। एक अंतर्निहित LeadsDB एकीकरण API कुंजी का उपयोग करके लीड्स को सीधे उस सहयोगी सेवा को भेजता है। प्रॉक्सी समर्थन में प्रमाणीकरण के साथ SOCKS5, HTTP और HTTPS शामिल हैं, जो इनलाइन या क्रेडेंशियल फ़ाइल के माध्यम से दिए जाते हैं। आर्किटेक्चर को एक मशीन से Kubernetes क्लस्टर्स तक स्केल करने योग्य बताया गया है, और एक प्रायोगिक AWS Lambda पथ मौजूद है। एक बीटा फास्ट मोड प्रति क्वेरी परिणामों का कम सेट लौटाता है।
आवश्यकताएँ और चेतावनियाँ
Docker इमेज Playwright का उपयोग करती है और पहले रन पर ब्राउज़र लाइब्रेरीज़ डाउनलोड करती है। सोर्स से बिल्ड करने के लिए हाल का Go टूलचेन आवश्यक है। README में उल्लेख है कि न्यूनतम कॉन्फ़िगर किए गए रनटाइम के कारण web UI परिणाम दिखने में कम से कम तीन मिनट लेते हैं, macOS उपयोगकर्ताओं को अलग निर्देशों की आवश्यकता हो सकती है, और उच्च कन्करेंसी CPU तथा मेमोरी उपयोग बढ़ाती है और ब्लॉकिंग या विफलता दर बढ़ा सकती है, विशेषकर प्रॉक्सी के बिना। रिपॉज़िटरी को कई प्रॉक्सी और स्क्रैपिंग API विक्रेताओं द्वारा प्रायोजित किया गया है, और एजेंट स्किल प्रॉक्सी प्रायोजकों की सिफारिश कर सकती है, जिसमें प्रकटीकरण नोट किया गया है।
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.