Tenten AIGEO
ブログに戻る
テクニカルAEO導入・実行

5分でできるAIクローラビリティ診断:robots.txt・レンダリング・schemaを確認

AI検索に自社サイトが表示されない原因は、コンテンツではなく、クローラーがページを読み取れないことかもしれません。5分間の簡易診断で、robots.txtがGPTBotをブロックしていないか、ページ表示がJavaScriptに依存していないか、schema構造化データが正しいかを確認。AIクローラビリティの問題点を素早く特定し、修正の優先順位を整理できます。

Tenten GEO 編集部公開日 2024-11-294 分で読めます
半開きのゲートを走査光が通過し、AIクローラーがWebページを読み取れるかどうかを表現した図

AI検索で自社サイトが見つからない原因は、コンテンツの質ではなく、クローラーがそのページを読み取れないことかもしれません。robots.txtがGPTBotをブロックしている、本文がJavaScriptに依存した領域に隠れている、ページに構造化データがまったくない。このうち1つでも当てはまれば、どれほど丁寧に記事を書いても、AIエンジンにとっては存在しないも同然です。こうした問題は、30日間の本格監査を待たなくても発見できます。5分・3ステップで確認してみましょう。

まず押さえたい前提:AIクローラーとGooglebotは別物です

AIエンジンはそれぞれ独自のクローラーを使って情報を収集しており、user-agentも挙動もGooglebotとは異なります。特に重要なのがJavaScriptへの対応です。Googlebotは検索順位を決めるためにページ上のJavaScriptを実行しますが、多くのAIクローラーは速度とコストを優先し、原則として元のHTMLを取得します。JavaScriptは限定的にしか実行しないか、まったく実行しません。したがって、「Googleに正常にインデックスされている」からといって、「ChatGPT、Perplexity、Claudeがページを読める」とは限りません。従来のSEOチェックリストを流用するのではなく、AIクローラーの視点で個別に診断する必要があります。

1分目:robots.txtを開き、AIクローラーがブロックされていないか確認する

自社ドメインの末尾に/robots.txtを付けて、ファイルを直接開きます。Ctrl+Fで以下の名称を検索し、Disallowでブロックされていないか、あるいは記載自体がないかを確認してください。通常、記載がなければアクセスは許可されています。多くのサイトでは、意図せずAIクローラーを遮断しています。セキュリティベンダー、CDN、プラグインなどの初期設定でGooglebot以外のクローラーが一律にブロックされ、その結果、AIエンジンまで締め出されているケースがあります。

  • GPTBot:OpenAIが学習用・検索用データの取得に使用するクローラーです。ブロックすると、ChatGPTが自社コンテンツを取得できなくなります。
  • OAI-SearchBotとChatGPT-User:それぞれChatGPT検索と、ユーザーから質問を受けた際のリアルタイムなページ取得に対応します。
  • ClaudeBot:AnthropicのClaudeがWebページの収集・検索に使用するクローラーです。
  • PerplexityBotとPerplexity-User:それぞれPerplexityのインデックス作成と、リアルタイムなページ取得に使用されます。
  • Google-Extended:コンテンツをGeminiで利用できるかどうかを制御します。ブロックしても通常のGoogle検索順位には影響しませんが、Geminiの回答には表示されなくなります。

2〜3分目:JavaScriptを無効にしてもコンテンツが残るか確認する

ここで確認するのは、テキストが「元のHTMLに書かれているか」、それともブラウザによるJavaScriptの実行に依存しているかです。手早く調べるには、Chrome DevToolsでJavaScriptを無効にしてページを再読み込みします。さらに確実なのは、URLの先頭にview-source:を付けてソースコードを開き、Ctrl+Fで記事本文の一文を検索する方法です。タイトル、本文、価格などが見つからなければ、そのコンテンツはフロントエンドでレンダリングされています。元のHTMLしか読まないAIクローラーが取得できるのは、中身のない外枠だけです。テキストだけでページを見ると考えてください。クローラーに見える情報だけが、AIの引用候補になります。

robots.txt、ページレンダリング、schemaの3段階で行う5分間のAIクローラビリティ診断
確認するのは3点だけです。クローラーがアクセスできるか、コンテンツを取得できるか、構造化データが正しいかを調べます。

4〜5分目:schemaが存在し、内容も正しいか確認する

先ほどと同じくview-sourceを使い、今度はapplication/ld+jsonを検索します。ページに構造化データが埋め込まれているか、そのタイプが正しいかを確認してください。記事ページならArticle、企業ページならOrganization、Q&AページならFAQPage、製品ページならProductが該当します。schemaが検索順位を直接押し上げるわけではありません。役割は、AIが「何についてのページか」「誰が書いたか」「信頼できるか」の3点を、低いコストで判断できるようにすることです。ただし、誤ったschemaは、schemaがない状態よりも問題です。FAQPageを指定しているのに該当する質問と回答がページ上に存在しない、あるいはマークアップした著者、日付、内容が実際の表示と一致しない場合、AIはページ情報の信頼性が低いと判断し、引用する可能性も下がります。

5分後に確認できているべきこと:1ページでわかる判定表

  1. robots.txt:上記のAIクローラーがDisallowでブロックされておらず、User-agent: *とDisallow: /によるサイト全体の遮断もありません。
  2. レンダリング:JavaScriptを無効にしても、タイトル、本文、価格や仕様などの重要な数値を元のHTMLで確認できます。
  3. Schema:ページに対応するタイプのJSON-LDがあり、マークアップされた内容が画面上の表示と一致しています。虚偽や期限切れの情報もありません。
  4. 3項目すべてに合格:AIクローラビリティの基盤に問題はありません。次は、コンテンツと引用されやすい構成を最適化します。
  5. 1項目でも不合格:新しいコンテンツを増やす前に、その問題を修正してください。今すぐ埋めるべきクローラビリティ上の欠落です。
AIクローラビリティは、引用されるための加点要素ではなく、最低条件です。この条件を満たさなければ、どれほど優れたコンテンツでも、AIは読み取ることも引用することもできません。Tenten GEO Consulting Team

問題が複数見つかったら、どれから直すべきか

修正には明確な優先順位があります。最初に対応すべきなのは、robots.txtによるブロックです。ルールを1行変更するだけでアクセスを許可でき、影響が最も大きく、通常は当日中に反映されます。次がレンダリングです。多くの場合、エンジニアの対応が必要になります。重要なコンテンツをサーバーサイドレンダリングへ変更するか、少なくとも元のHTMLにテキストを含めなければなりません。対応コストは上がりますが、AIがコンテンツを読めるかどうかを直接左右します。schemaの整備は最後です。これは基盤を0から1へ引き上げる施策ではなく、仕上がりを満点に近づける施策だからです。この順番で進めれば、少ない工数で最も致命的な問題から解消できます。

この5分間の診断で、目立つ問題の大半は発見できます。ただし、より深い問題までは把握できません。たとえば、サーバーがAIクローラーと一般ユーザーに異なるコンテンツを返している、引用対象となる段落の構成が散漫になっている、ページをまたいでエンティティや信頼性シグナルに矛盾がある、といった問題です。こうした領域まで含めて自社サイトの課題を把握したい場合は、30分間のGEO診断をご予約ください。TentenのGEO監査の視点からクローラビリティ上の欠落を洗い出し、すぐ着手できるリストに整理します。

よくある質問

AIクローラーとGooglebotは同じものですか?どちらか一方をブロックすると、どうなりますか?
同じものではありません。GPTBot、ClaudeBot、PerplexityBot、Google-Extendedはそれぞれ独立しているため、robots.txtで個別にアクセスを許可する必要があります。Googleに正常にインデックスされていても、ChatGPTやPerplexityがページを読めるとは限りません。両者は分けて確認してください。
JavaScriptで表示するコンテンツが、AIのクロールに影響するのはなぜですか?
多くのAIクローラーはJavaScriptを実行しないか、完全には実行せず、元のHTMLだけを読み取るためです。本文、タイトル、価格がフロントエンドでのレンダリングに依存していると、クローラーが取得できるのは中身のない外枠だけになり、引用できるコンテンツもないと判断されます。
schemaがないと、AIはページをまったく取得できないのでしょうか?
まったく取得できないわけではありません。ただし、schemaがあれば、AIはページのテーマ、著者、信頼性を素早く確認できるため、引用される可能性が高まります。なお、誤ったschemaや虚偽のschemaは、schemaがない状態よりも有害です。FAQを指定しながら該当する内容がページ上に存在しない場合、信頼できない情報だと判断されます。

次の一手へ

あなたのブランドはAIの回答にどれだけ登場していますか?

30分のGEO診断で、主要AIエンジンにおける可視性の課題と、優先して改善すべきポイントを確認します。

30分の診断を予約