検索エンジン一覧(62種)
検索エンジン に分類される AI クローラー・ボットは 62 種です。User-Agent 文字列・運営元・用途(学習用 / 検索引用 / エージェント)を一覧で確認でき、robots.txtrobots.txtクローラーに取得を許可する範囲を伝える、サイトのルートに置くテキストファイル。AI用語辞典で詳しく見る → で許可するかブロックするかの判断に使えます。
検索エンジンのクローラーです。AI 検索の回答の根拠としても参照されます。 全体像は AIクローラー Bot ディレクトリ(全 254 種)からご覧ください。
62 件のボットを収録(運営元 13 社)。下の表は User-Agent の文字列そのままです。robots.txt に貼るときは引用符を付けずに記述してください。
| User-Agent | 運営元 | 用途 | 説明 |
|---|---|---|---|
Applebot-Extended用語解説 | Apple | 学習用 | Apple が学習データの収集のためにページを取得します。ブロックすると Apple の AI 回答に自社情報が載りにくくなります。 |
Baiduspider | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-ads | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-cpro | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-favo | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-image | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-news | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Baiduspider-video | Baidu | 学習用 | Baidu が学習データの収集のためにページを取得します。ブロックすると Baidu の AI 回答に自社情報が載りにくくなります。 |
Amzn-SearchBot | Amazon | 検索引用 | Amazon が AI 検索の回答にページを引用するために取得します。ブロックすると AI 経由の流入機会が減ります。 |
Kagibot | Kagi | 検索引用 | Kagi が AI 検索の回答にページを引用するために取得します。ブロックすると AI 経由の流入機会が減ります。 |
YaDirectFetcher | Yandex | 検索引用 | Yandex が AI 検索の回答にページを引用するために取得します。ブロックすると AI 経由の流入機会が減ります。 |
YandexSearchShop | Yandex | 検索引用 | Yandex が AI 検索の回答にページを引用するために取得します。ブロックすると AI 経由の流入機会が減ります。 |
AdIdxBot | Microsoft | ― | Microsoft が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
Applebot | Apple | ― | Apple が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
baidu | Baidu | ― | Baidu が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
bingbot | Microsoft | ― | Microsoft が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
BingPreview | Microsoft | ― | Microsoft が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
BingVideoPreview | Microsoft | ― | Microsoft が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
DuckDuckBot | DuckDuckGo | ― | DuckDuckGo が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
Googlebot | ― | Google が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 | |
IbouBot | Ibou | ― | Ibou が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
MicrosoftPreview | Microsoft | ― | Microsoft が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
Mojeek | Mojeek | ― | Mojeek が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
MojeekBot | Mojeek | ― | Mojeek が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
PetalBot | Huawei | ― | Huawei が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
SeznamBot | Seznam | ― | Seznam が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
Slurp | Yahoo | ― | Yahoo が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
Yandex | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexAccessibilityBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexAdditional | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexAdditionalBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexAdNet | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexBlogs | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexCalendar | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexCheckBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexComBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexDirect | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexDirectDyn | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexFavicons | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexFeed | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexImageResizer | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexImages | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexMarket | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexMedia | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexMobileBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexMobileScreenShotBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexOntoDB | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexOntoDBAPI | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexPagechecker | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexPartner | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexRCA | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexRenderResourcesBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexScreenshotBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexSitelinks | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexSpravBot | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexUserproxy | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexVerticals | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexVertis | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexVideo | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexVideoParser | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
YandexWebmaster | Yandex | ― | Yandex が運用するクローラー/ボットです。robots.txt での許可状況を確認できます。 |
robots.txt の記述例
このカテゴリの代表的な User-Agent をブロックする場合の書き方です。許可する場合は該当ブロックごと削除してください。判定は各社の公式ドキュメントで最新情報をご確認ください。
User-agent: Applebot-Extended Disallow: / User-agent: Baiduspider Disallow: / User-agent: Baiduspider-ads Disallow: / User-agent: Baiduspider-cpro Disallow: / User-agent: Baiduspider-favo Disallow: /
他のカテゴリ
免責事項:本ツールの診断結果は参考情報であり、AIサービスでのコンテンツ収録を保証するものではありません。判定は取得時点の robots.txt 記述・HTTP レスポンス・HTML にもとづく機械的な推定であり、実際の動作は各サービスの仕様変更、WAF やレート制限、CDN の設定により異なる場合があります。
