프로젝트 소개
Google Maps Scraper는 Google Maps에서 비즈니스 리스팅 데이터를 추출하기 위한 MIT 라이선스 도구입니다. Go로 작성되었으며 주로 Docker 이미지로 배포되고, 바이너리 릴리스도 제공됩니다. 이 프로젝트는 리드 생성, 지역 비즈니스 조사, 영업 잠재 고객 발굴 및 데이터 보강 워크플로를 대상으로 합니다.
인터페이스
- 명령줄: 쿼리 입력 파일에서 스크래핑을 실행하고 결과를 CSV 또는 JSON으로 기록합니다. 플래그는 동시성, 스크롤 깊이, 언어, 지리적 좌표, 줌, 반경, 그리드 경계 상자, 중단된 실행의 재개, 비활성 기반 종료를 다룹니다.
- Web UI: 단일 Docker 명령으로 시작되는 로컬 브라우저 인터페이스로, 마운트된 폴더에 데이터를 저장합니다.
- REST API: 웹 서버가 실행되면 엔드포인트를 통해 작업을 생성, 나열, 조회, 삭제하고 결과를 CSV로 다운로드할 수 있습니다. OpenAPI 문서는 로컬에서 제공됩니다.
- SaaS 에디션: API 키, 관리자 UI, 작업 큐, 워커 및 클라우드 프로비저닝을 갖춘 선택적 자체 호스팅 다중 사용자 플랫폼입니다.
- AI 에이전트 스킬: 설치 가능한 스킬을 통해 코딩 에이전트가 검색을 계획하고, 소규모 검증 스크래핑을 실행하고, Docker 크롤을 시작 및 모니터링하고, 결과를 제시할 수 있습니다. 프록시 자격 증명은 마스킹된 로컬 프롬프트를 통해 수집됩니다.
추출되는 데이터
문서화된 36개 필드 세트에는 비즈니스 이름, 카테고리, 주소, 영업시간, 인기 시간대, 웹사이트, 전화번호, plus code, 리뷰 수 및 평점, 평점 분석, 위도와 경도, Google CID 및 place ID, 비즈니스 상태, 설명, 리뷰 링크, 썸네일 및 이미지, 시간대, 가격대, Street View URL, 예약 및 온라인 주문 링크, 메뉴, 소유자 인증 상태, 전체 주소, 허용 신용카드, about 정보, 사용자 리뷰, 확장 리뷰(플래그 사용 시 약 300개까지), 그리고 이메일 추출이 활성화된 경우 비즈니스 웹사이트에서 추출된 이메일 주소가 포함됩니다. 입력 줄은 일반 검색 쿼리 또는 직접적인 Google Maps URL일 수 있으며, 사용자 정의 입력 ID를 쿼리에 첨부할 수 있습니다.
출력 및 통합
결과는 CSV, JSON, PostgreSQL, S3, LeadsDB 또는 사용자 정의 writer 플러그인에 기록할 수 있습니다. 내장된 LeadsDB 통합은 API 키를 사용하여 리드를 해당 동반 서비스로 직접 전송합니다. 프록시 지원은 인증을 포함한 SOCKS5, HTTP 및 HTTPS를 다루며, 인라인 또는 자격 증명 파일을 통해 제공됩니다. 아키텍처는 단일 머신에서 Kubernetes 클러스터로 확장되는 것으로 설명되며, 실험적인 AWS Lambda 경로도 존재합니다. 베타 빠른 모드는 쿼리당 축소된 결과 세트를 반환합니다.
요구 사항 및 주의 사항
Docker 이미지는 Playwright를 사용하며 첫 실행 시 브라우저 라이브러리를 다운로드합니다. 소스에서 빌드하려면 최신 Go 툴체인이 필요합니다. README는 최소 구성 런타임 때문에 웹 UI 결과가 나타나기까지 최소 3분이 걸린다는 점, macOS 사용자는 별도 지침이 필요할 수 있다는 점, 그리고 동시성이 높아지면 CPU 및 메모리 사용량이 증가하고 특히 프록시 없이는 차단 또는 실패율이 높아질 수 있다는 점을 명시합니다. 이 저장소는 여러 프록시 및 스크래핑 API 공급업체의 후원을 받으며, 에이전트 스킬은 공개 고지와 함께 프록시 후원자를 추천할 수 있습니다.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.