すべてのツール ウェブデータ ドメインインテリジェンス DNSとインフラストラクチャ セキュリティと信頼性 アイデンティティと検証 モニタリングと自動化

robots.txtチェッカー

ウェブサイトを入力すると、robots.txtの内容を読み取り、クローラーがパスを取得できるかをテストし、GPTBot、ClaudeBot、PerplexityBotなどのAIクローラーの扱いを確認できます。

結果

        
インタラクティブなインテリジェンスツール

チェックを実行し、そのままワークフロー化

ブラウザツールで素早く答えを確認し、繰り返し使う段階になったら同じロジックをスクリプト、監視、プロダクトフローへ移せます。

1
ライブフォームから開始

ドメイン、URL、IP、メール、レコードを入力するだけで、設定なしに絞り込まれた結果を得られます。

2
判断しやすいシグナルを確認

生のプロバイダー情報ではなく、状態、リスク、レコード、次のアクションを見やすく表示します。

3
有効なワークフローを自動化

リクエストとレスポンス例を使って、単発チェックをAPI呼び出しやレシピに変換できます。

これらの企業の担当者に使われています

InstantOutseerMongoDBRespondentSage Expense ManagementInstantlyD.R. HortonWhatConvertsAdobeLLM Pulse

このツールで判断できること

各ページは単なる生データ検索ではなく、実務上の判断に必要な問いを中心に構成されています。

シグナル

DNS、登録、セキュリティ、価格、評判に関する現在の証拠を確認できます。

コンテキスト

関連チェックと比較して、次の判断をより信頼しやすくします。

アクション

例をコピーし、関連ツールを開き、規模が必要になったらAPIドキュメントへ進めます。

統合前に確認できる信頼シグナル

透明なドキュメント、認証済みリクエスト、見える信頼性情報により、本番投入前に DomScan を評価しやすくなります。

サービスステータス API アーティファクト

OpenAPI、Swagger、Postman、CLI、SDK、MCP のリンクにすぐアクセスできます。

API キー 保護されたアクセス

認証付きエンドポイントは API キーを使用し、呼び出し前に明確なクレジットコストを示します。

無料枠 無料でサインアップ

毎月 10,000 クレジットから始め、利用が増えたときだけアップグレードできます。

アクティブ リクエスト例

curl と HTTP サンプルから始め、パラメータをアプリケーションコードに対応付けます。

主な機能

RFC 9309に沿った解析

グループ、allowとdisallowのルール、ワイルドカード、終端アンカーを標準の定義どおりに照合し、最も長いルールを優先します。

AIクローラー一覧

OpenAI、Anthropic、Google、Perplexityなどの学習用、検索用、ユーザー起点のエージェントを含む14のAIクローラーについて、ルートへのアクセス可否を表示します。

不明は不明として表示

ブロック、タイムアウト、サーバーエラーでファイルを取得できない場合は、黙って許可とせず、結果を不明として返します。

リクエスト例

GET /v1/robots?url=example.com http
GET /v1/robots?url=example.com
GET /v1/robots?url=example.com&user_agent=GPTBot&path=/blog/ http
GET /v1/robots?url=example.com&user_agent=GPTBot&path=/blog/

同じAPIを基盤に構築

ブラウザ体験はDomScanの構造化エンドポイントのプレビューであり、コードを書く前にユースケースを検証できます。

よくある質問

サイトにrobots.txtがない場合はどうなりますか?

404または410の応答はクロール制限がないことを意味し、すべてのパスが許可されます。チェッカーはこれを「見つからない」として報告します。

AIクローラーをブロックするにはどうすればよいですか?

GPTBotやClaudeBotなど、クローラーごとにuser-agentグループを追加し、Disallowルールを指定します。AIクローラーの表で、現在のルールがすでにカバーしているボットを確認できます。

robots.txtはすべてのボットを止められますか?

いいえ。robots.txtはマナーを守るクローラーが従う要請であり、アクセス制御を強制するものではありません。非公開のコンテンツには認証が必要です。

関連ツールとリソース