Webスパイダリングとは【用語集詳細】

Webスパイダリング(Web Spidering)あるいはWebクローリング(Web Crawling)は、対象となるWebサイトに対して自動的にコンテンツの検索およびインデックス化を行う行為あるいはツールを示します。
特定のツールによっては、スパイダリングを行うことで従業員名やメールアドレス、非表示コンテンツ、フォーム等を検出することが可能です。 Webスパイダリングは、ターゲットWebサイトのログイン機構等を偵察し、不正アクセスやパスワードクラッキングの前段階として行われることもあります。
スパイダリングはボットを利用することがあります。
スパイダリング機能を有するツールとしてBurp SuiteやArachni、Web Data Extractor等があります。
なお、スパイダリング自体は検索エンジン等によって行われる一般的な行為です。