このプロジェクトについて

易采集(EasySpider)は完全無料の可視化ブラウザ自動化・データ収集・Webクローラーソフトウェアで、グラフィカルインターフェースを採用し、コードを記述せずともタスクの設計と実行が可能。ユーザーはウェブサイト上で操作したい内容を選択し、プロンプトに従って段階的に操作するだけでタスクを設計できる。コマンドラインでの単独実行も可能で、他のシステムへの組み込みにも対応。 主な機能と使い方: - 可視化要素選択:ページ要素を右クリックで選択すると、ソフトが同種要素を自動検出し、「すべて選択」「子要素を選択」「データを収集」などの操作をサポートし、情報をフィールドごとに保存。 - 循环与详情页采集:全要素選択後「各要素を順次クリック」を選べるようになり、各項目の詳細ページを自動で開き、詳細ページの収集設定を続行可能。 - フローチャート式タスク設計:フローチャート画面を提供し、ループ、条件分岐、次ページ巡回クリックなどの論理をサポートし、通常のフローチャートに変換して確認可能。 - 拡張操作:テキスト入力、要素テキスト収集、要素およびウェブページのスクリーンショット撮影、OCRによる要素内容認識(文字認証によく使用)、カスタムJSコードおよびシステムコードの実行、抽出値を変数として入力、Pythonコード演算結果を入力、MySQLデータベースへの書き込みなどをサポート。 - 実行と統合:定期タスク実行、並列複数実行、IPプールとトンネルIPの切替をサポートし、コマンドライン実行により他のシステムへの組み込みが可能。 - 例題とドキュメント:リポジトリにExamplesフォルダが用意され、リネームしてtasksディレクトリにインポートして使用可能。ドキュメントはGitHub Wikiにあり、BilibiliおよびYouTubeに動画チュートリアルも公開。 ライセンスとコンプライアンス:ソフトはAGPL-3.0ライセンスに従い、個人・企業ともにソフト自体またはソースコードに基づく二次開発を自由に利用可能。商業利用において作者への連絡は不要だが、ライセンスの传染性、ネットワーク利用におけるオープンソース義務、ソースコード提供、特許授权、免責条項を遵守する必要あり。作者はソフトの学習・研究目的での使用を前提とし、違法行為への利用を厳格に禁止。利用結果は利用者自身の責任とする。 プロジェクト背景:本ソフトはThe Web Conference(WWW)2023に採用され、関連成果として中国国家知識産権局の発明特許「一種のカスタム抽出フローに基づくサービス封装システム」および浙江大学本科修士論文『WEBアプリケーション面向の智能化サービス封装システム設計と実現』がある。