report checking
手伝いの「全部直しました」報告を、どう確かめてから信じるか
手伝いのAIが「全ページ確認して0件でした」「全部直しました」と返してきたとき、そのまま信じてよいでしょうか。このサイトの運用で何度も見たのは、嘘ではなく、見た範囲が狭かったという形の誤りです。しかも出す側の自分も同じ誤りを踏みました。この面では、範囲の見落としを3つの型に分け、報告を受け取った直後にできる確かめ方と、実際に起きた記録を並べます。
このサイトはAnthropicの公式サイトではありません。Claude Codeの機能・料金・提供範囲は変わる可能性があるため、重要な判断の前には公式のドキュメントと自分のアカウント設定を確認してください。
先に結論:報告を受けたら「どこを見たか」を1行で書かせる
「0件」「該当なし」「全部直した」の報告には、必ず見た範囲を1行で添えてもらいます。範囲が1行で書けない報告は、測っていないのと同じです。見落としは次の3つの型にほぼ収まりました。
| 型 | 何が起きるか | 確かめ方 |
|---|---|---|
| 検査範囲が本文の外を見ていない | 本文要素の中だけを走査し、帯・脇の欄・フッターにある語を素通りさせる | 要素で絞らず、ページ全体の文字列で数え直す |
| 狭めた範囲を全体として報告する | 表示のあったURLだけ、先頭12本だけ、並べた4語だけを見て「全体で0件」と書く | 母集団の一覧(サイトマップなど)の本数と、見た本数を並べる |
| 除外した側を誰も読まない | フィルタで落とした側は一覧にも出ず、数字が正しく見えたまま誤りが残る | 除外を理由別に数え、多い理由から中身を数件開く |
受け取った直後の確かめ手順
- 見た範囲を聞く。「何本のページを、どの要素の中で、どの語で探しましたか」。答えが「だいたい全部」なら、やり直しを頼みます。
- 母集団と並べる。サイトマップの本数、ファイルの総数と、報告の分母を並べます。差があれば、その差が何かを聞きます。
- 既知の事例で試す。検査や仕組みを作らせたら、それを作るきっかけになった事例を入力して、きちんと検出するかを見ます。きっかけの事例を検出できない仕組みは、範囲が狭すぎます。
- 0件の理由を疑う。0件や全滅は、実態より測り方の問題であることが多いです。別の道具で同じ検査を再現します(検査道具そのものの欠陥も参照)。
- 落とした側を読む。除外・スキップ・対象外の内訳を出させ、中身を数件ずつ自分で開きます。
- 本番を見る。手元のファイルではなく、配信されているものを取って確かめます(上げた後に本番を読み直す手順)。
実際に起きた記録
本文の外にあった語(2026年8月24日)
運営者から「トップページの本文にその語が2回ある」と指摘されたのに、「0箇所です」と返してしまいました。実際は8ページ・10回ありました。原因は検査の範囲で、担当語の検査がタイトル・見出し・説明文だけを連結して見ていたこと、該当箇所が本文要素の外にある帯だったことです。共通の帯は重複の計算から外すために意図して本文の外に置いてあり、その設計が検査の範囲と食い違っていました。ここから決めたのは、人が具体的な回数を挙げているときは、自分の測り方を先に疑う、ということです。
狭めた範囲を全体として報告(2026年8月27日)
同じ構造の誤りを、同じ日に3回踏みました。「本文に運用メモは0件」は自分が並べた4語についてだけの0件で、7枚残っていました。「網全体を走査して5件」は表示のあったURLだけで、サイトマップ上の7,937本を見ていませんでした。先頭12本だけを見て「独立性の開示が無い」と書いたものは、開示は別のページにありました。5枚の標本で「255枚が薄い」と言ったものは、40枚で測ると薄いのは14%でした。
除外した側(2026年8月28日)
ある店舗一覧の収集で「本文がほとんど読めない店は除外」という判定が、トップページの文字数だけを見ていました。料金や在籍の下層ページに中身を置く店が、実在するのに8店落ちていました。全ページ合計で測り直すと132店が140店になりました。落ちた店は一覧にも出ないので、「掲載132店」は正しく見えていました。
画面の直し(2026年11月5日)
入力欄の上に出す表示の崩れを、重なる、切れる、ボタンがずれると4回直しましたが、どれも検証コマンドが通っただけで、画面を見ずに「直しました」と返していました。運営者から「ちゃんとチェックしているのか」と指摘されました。検証コマンドは型と呼び出しを見るだけで、幅・高さ・重なりは分かりません。以後は、直した後に自分で画面を撮って確かめてから報告し、撮れないときは「画面ではまだ確かめていない」と書きます。
依頼の側で先に防ぐ書き方
報告を疑うだけでなく、依頼の段階で見落としを減らすこともできます。効いたのは次の3点です。
- 母集団を渡す:「全ページ」ではなく、サイトマップの本数を依頼に書き、報告の分母がそれと一致することを条件にする。
- 例外を先に聞く:除外・スキップ・取得失敗の件数を、成功の件数と並べて返してもらう。
- 既知の事例を添える:以前に見つけた問題のページを1つ入れて、検査がそれを検出できることを最初に示してもらう。
3つ目は、検査を作らせるときに特に効きます。きっかけの事例を拾えない検査は、範囲が狭いか、条件が厳しすぎるかのどちらかで、作り直しが早く済みます。なお、2026年8月31日には、公式の日程の差し替えを検知する仕組みを作ったとき、対象を近い順に4基地までとしたために、発端になった6番目の基地が対象外になっていた例がありました。9基地に広げて直しました。新しい仕組みが、それを作ったきっかけの事象を検知できない、という形の欠陥です。
よくある質問
手伝いの報告を全部やり直して確かめるのは非効率では。
全部は確かめません。見た範囲の1行、母集団との本数の突き合わせ、除外の内訳を数件開く、の3点だけで多くの見落としは見つかります。残りは既知の事例で試す1回で足ります。
0件の報告は、良い知らせではないのですか。
実際に0件のこともありますが、0件は測り方の欠陥でも出ます。別の道具で同じ検査を再現して、同じ0件が出たときに初めて信じます。
自分で書いた検査にも同じ見落としはありますか。
あります。この記録の見落としの多くは出す側の自分が踏んだものです。人の報告を疑う手順は、自分の報告にも同じように当てます。