これで何ができるか
工程2に確認させると誤りは直る——健全なときほど、正しい項目を巻き添えにするには、著者自身が試していない対策が書いてありました。「対策の候補は『除外する基準は、工程1と同じ語(至急・今すぐ・本日中)の有無だけにしてください。業務停止の有無などの別の基準を作らないでください』のように、基準をこちらで固定することです。この一文も今回の8回のどこにも試していません」。
試しました。架空の社内ヘルプデスクへの問い合わせを使い、前の記事と同じ2つの場面——健全な5件だけを渡す条件と、「もう解決した至急」という誤りを1件混ぜた6件を渡す条件——の両方で、基準を固定する一文を足して材料2本×各2回ずつ試しました。
結果は、条件によってはっきり分かれました。誤りを混ぜた6件では、基準を固定した版が4回とも誤りだけを正しく検出・除外しました。健全な項目は一度も巻き込まれていません。ところが健全な5件だけの条件では、基準を固定しても巻き添えは消えませんでした。4回とも、これまでとは別の1件(1回は2件)が新たに除外されました。全部で24回、材料2本ぶんの記録は docs/evidence/narrowed-criteria-fixes-dirty-not-clean.md に生のまま置いてあります。
前提
| かかる時間 | 20分。工程2の指示文に一言足すだけです |
| 費用 | 無料。無料のチャットAIで足ります |
| 必要なもの | ブラウザで使えるAI(ChatGPT・Claude・Geminiなど)と、毎朝処理したいテキスト |
| プログラミング | 不要 |
⚠️ この記事は工程2に確認させると誤りは直るの続きです。工程1(至急を抜き出す)と、確認なし・確認ありの基本的な挙動は、先にあちらを読んでおいてください。この記事は、あちらが「試していない」と明記していた対策だけを扱います。
📌 材料は前の記事から引き継いでいます。工程1が実際に抜き出した5件(材料A: HD-2201・2203・2206・2210・2215/材料B: HD-3301・3303・3306・3310・3315)と、そこに誤り1件(HD-2211/HD-3311)を人手で加えた6件を、そのまま使いました。
AIへの頼み方
1. まず、対策なしの確認版を、健全な5件だけで試す(前の記事の再確認)
環境をそろえるため、前の記事の指示文をこの記事の実測環境(独立したAIの新規プロセス)でも撮り直しました。
材料2本×各2回、計4回試しました。4回とも、健全な5件のうち1件が誤って除外されました。材料A(丁寧な長文)は2回とも「HD-2203」(「本日17時までに、会議室のプロジェクターとの接続を確認していただけますか」)。材料B(口語)は2回とも「HD-3303」(同じ内容の口語版)でした。理由はどちらも「業務停止や具体的な支障の記述がない」という、工程1の基準(「至急」「今すぐ」「本日中」のような語の有無)とは別の基準です。
2. 対策なしの確認版を、誤りを混ぜた6件で試す
材料2本×各2回、計4回試しました。4回とも、挿入した誤り(HD-2211/HD-3311)は正しく検出・除外されました。ただし、材料Aの1回だけは、誤りに加えて健全な項目(HD-2203)まで一緒に除外しました。残る3回は、誤りだけがきれいに除外され、健全な5件は全部残りました。
3. 基準を固定する対策を足し、健全な5件で試す
材料2本×各2回、計4回試しました。対策を足しても、4回とも健全な項目が除外されました。ただし除外された項目が変わっています。材料Aは2回とも「HD-2206」(「PCが起動しません。本日15時からの取引先との重要な打ち合わせ資料が開けず困っています」)——理由は「『至急』『今すぐ』『本日中』に類する語が本文に無い」。材料Bは1回目が「HD-3303」と「HD-3306」の2件、2回目が「HD-3306」の1件でした。
🚨 HD-2206は、工程1が5件の中に含めていた項目です。「至急」「今すぐ」「本日中」という語を一字一句は含みませんが、「本日15時からの重要な打ち合わせ」という時刻指定から、工程1は今日中の対応が必要だと意味で判断していました。基準を固定する一文の「〜のように」を、確認版は一字一句そのものの有無として読み替えています。「これらの語のように」という基準が、「これらの語そのもの」という基準に狭まりました。
4. 基準を固定する対策を足し、誤りを混ぜた6件で試す
材料2本×各2回、計4回試しました。4回とも、誤り(HD-2211/HD-3311)だけが正しく除外され、健全な5件はすべて残りました。指示文2(対策なし)では材料Aの1回で健全な項目まで巻き込まれていましたが、対策を足すとその巻き添えも消えています。
🔑 同じ対策の一文が、条件によって正反対の働きをしました。誤りを混ぜた6件では検出率を保ったまま巻き添えを0にしましたが、健全な5件だけでは巻き添えの件数を減らせず、むしろ材料Bの1回は巻き添えが2件に増えました。
5. 軽い言い方でも、健全な5件で足りるか
「〜だけにしてください」という強い縛りを避け、短い一言に変えて試しました。
材料2本×各2回、計4回試しました。材料Aは2回とも指示文1と同じ「HD-2203」を除外(変わらず)。材料Bは1回が「HD-3303」を除外、もう1回は健全な5件を1件も除外せず、正しく処理できました。4回中1回だけ正しく、軽い言い方では安定しませんでした。
6. 誤りを混ぜた6件で、除外の根拠を引用させる
自動実行では、除外された理由の文章はどうせ読まれません。せめて、除外の根拠になった本文の語句をそのまま引用させれば、あとで人が数秒で検算できます。
材料2本×各2回、計4回とも、誤りだけが正しく除外され、健全な5件は全部残りました。4回とも、除外理由に添えられた引用は本文の実在する語句とそのまま一致していました。「引用箇所:『至急直して』って言われてたんだけど、もう直ったから急がなくて大丈夫です」のように、コピー元をそのまま貼っているので、除外が正しいかどうかを人が本文と見比べる手間が減ります。
うまくいかないときの言い直し方
対策を足したのに、健全な項目が除外され続ける
指示文3の症状です。除外された項目名を、工程1の実際の判定(記事や証拠にある一覧)と突き合わせてください。工程1が「意味で」含めていた項目(この記事ではHD-2206)が、確認版では「語そのものの有無」で除外されていないかを確認します。「〜のように」という言い方は、確認する工程では「〜そのもの」に狭まることがあります。
📌 この記事では、この崩れを直す言い方を見つけられませんでした。「〜のような語の有無」という表現を「〜に限らず、同じ意味を持つ表現も含めてください」に変える案は考えられますが、試していません。次に測るなら、そこから始めてください。
誤りが実際にあるときは対策が効くのに、無いときは巻き添えが出る
これは指示文3・4の対比そのものです。対策を「常に足す」のではなく、「実際に誤りが混ざっていそうなとき」と「健全だと分かっているとき」で使い分ける手があります。ただし、自動実行では事前にどちらか分からないのが普通なので、実務的には次のどちらかになります。
- 確認そのものをやめる(前の記事の指示文2=確認なし版。矛盾には気づくが行は消えない)
- 確認はするが、除外はせず「要確認」の印だけ付けさせ、消すかどうかは人が決める(次の一手)
除外の理由が信用できるか確かめたい
指示文6のように、除外の根拠にした語句を一字一句そのまま引用させてください。引用が本文に実在しない、または文脈と違う語句を指していたら、その除外は疑ってください。この記事の4回では、引用はすべて本文と一致していましたが、n=4なので過信はできません。
応用・次の一手
基準を固定する対策は、万能薬ではありませんでした。誤りが実際に混ざっているときは検出率を保ったまま巻き添えを消しましたが、健全なときの巻き添えは、対策を足しても消えず、除外される項目が変わっただけでした。前の記事の結論(「確認は、間違いを見つける力は強いが、間違いが無いときにも何かを見つけようとする」)は、この対策を足しても変わりませんでした。
⚠️ 自動実行に確認の一言を足すなら、「本当に健全な日」がどれくらいの頻度であるかを先に考えてください。誤りが混ざっている日が多いなら、この記事の対策(基準を固定する)は有効です。健全な日のほうが多いなら、対策を足しても巻き添えは消えないので、確認なしで気づきだけを残すほうが、この記事の材料では安全でした。
📌 除外ではなく印を付けるだけにする手は毎日同じ警告に、新しい1件だけ拾わせるの考え方と同じです。除外は取り消しがききませんが、印は人が見てから消せます。
📌 工程を分けたときに何が壊れるかの土台は「AIには工程を分けて頼め」を測った記事にあります。この記事と前の記事は、その続きです。
⚠️ この記事が実測していないこと=「〜のような語」という言い方を「〜に限らず同じ意味の表現も含む」に言い直した場合、健全・誤り以外の3つ目の条件(誤りが2件以上混ざる場合)、対策の一文を2回に分けて聞く(先に基準だけを確認させてから除外させる)場合の3つです。