프로젝트 소개
Weibo Spider는 신랑 웨이보 플랫폼에서 공개 데이터를 효율적으로 수집하도록 설계된 강력한 웨이보 크롤러 프로그램입니다. 이 프로그램은 단일 또는 여러 웨이보 사용자에 대한 연속 데이터 크롤링을 지원하며, 사용자 정보(예: 닉네임, 성별, 위치, 교육/경력, 팔로워 수 등)와 웨이보 상세 정보(예: 본문, 게시 시간, 좋아요/리트윗/댓글 수, 게시 도구, 위치 정보 등)를 포함합니다.
주요 기능:
- 다중 형식 내보내기: 크롤링 결과를 TXT, CSV, JSON 파일로 저장하거나 MySQL, MongoDB, SQLite 데이터베이스에 직접 저장할 수 있습니다.
- 멀티미디어 다운로드: 웨이보의 원본 이미지와 비디오를 자동으로 다운로드합니다.
- 유연한 구성: 사용자는 구성 파일을 통해 크롤링 시간 범위, 사용자 ID 목록 및 저장 경로를 설정할 수 있습니다.
- 확장성: 명확한 API 인터페이스를 제공하여 개발자가 맞춤 설정하거나 자동화 작업에 통합할 수 있습니다.
- 호환성: Python 3 환경을 지원하며 Windows, Linux, macOS에서 실행할 수 있습니다.
이 프로젝트는 쿠키를 설정하여 접근 권한을 얻으며, 사용자가 쿠키와 사용자 ID를 얻는 방법을 안내하는 상세 문서를 제공합니다. 또한 학술 연구용 인용 지침을 포함하고 있으며, 쿠키 없는 버전(weibo-crawler)도 유지 관리하여 사용자가 선택할 수 있습니다. 이 도구는 소셜 미디어 데이터 분석, 여론 모니터링 및 학술 논문 연구 등에 널리 사용됩니다.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.