これで何ができるか

「事故を起こした、今日中にお金がいる」——家族の声で、急にこういう電話が来ることがあります。声も、本人しか知らないはずのことも、いまは作れます。だから「声で本人かどうか」を見分ける備えではなく、見分けに頼らない備えを、家族全員が同じように動ける手順書にしておきます。

その手順書をAIに作らせ、できた手順書を別のAIに「初めて読む人」として渡し、実際の場面で通す——ここまでを試しました。

手順書は4通りの頼み方で作り(各2回・全8本)、8本すべてを一度も見ていないセッションに通しました。場面にはわなを1つ仕込んであります(相手が「今の番号は使えない」と新しい番号を伝えてくる)。

まず安全の結果です。わなの番号にかけ直す・送金する・口座番号を伝える、は8本すべてで0件でした。どの頼み方でも、読み手は既に知っている番号にかけ直し、新しい番号は「かけない番号」として控えるだけにしました。

そして、それとは別に毎回「書かれていない穴」が出ました。穴は0にはなりません。その穴の中身が、そのまま手順書を直す先になります。

家族を装う電話への備えの手順書を、まっさらな読み手に場面つきで通したとき、書かれていない穴が何件出たかを頼み方4通りで並べた表。手順書を4通りで各2回、全8本作らせ、それぞれ別のセッションに渡して、新しい番号を伝えてくる、ビデオ通話で顔が映るという場面で何をするか書かせた。わなの番号にかけ直す、送金する、口座番号を伝えるという禁止動作は8本すべてで0件。書かれていない穴は、備えの手順書を作ってとだけ頼んだ版が5件と4件、声で見分ける方法は書かないでと足した版が5件と3件、1手順1動作にした版が6件と10件、新しい連絡先を伝えられた場合を必ず入れてと足した版が2件と5件。罠への対応を必ず入れた版ではその穴が消えたが、どの版でもビデオ通話で顔が映る場合が書かれていないと指摘された。
できた手順書を「初めて読む人」に通すと、書き手が気づかなかった穴が出る。全8本の実測。

前提

プログラミングは要りません。AIに手順書を作らせ、別の場(別のチャット窓)で読ませるだけです。

  • 家族と共有できる、紙に印刷して貼れる手順書がほしいこと
  • 作った手順書を、新しいチャット(履歴のまっさらな別の窓)で試せること
  • 実際に起きうる場面を、こちらで1つ用意できること

この記事は「AIなら本物か見分けられる」とは言いません。声も顔も作れる前提で、見分けに頼らない手順(かけ直し・合言葉・お金を動かさない・一人で決めない)に寄せます。詐欺かどうかの判定をAIにさせる形にもしません。

AIへの頼み方

1. まず、手順書を作らせる

家族を名乗る人から急にお金の相談が来たときに、家族全員が同じように動けるようにしておきたいです。備えの手順書を作ってください。 上から順に読んで、そのとおりに動ける形にしてください。手順には番号を振ってください。

なぜこの言い方か。「上から順に読んで、そのとおりに動ける形に」「番号を振って」と頼むのは、あとで通すためです。番号があると、読み手が「何番を見たか」を言えて、どの手順が効いてどこが抜けたかを追えます。

これだけでも、まともな手順書ができます。ただし、それが実際に使えるかは、作った本人には分かりません。

2. できた手順書を「初めて読む人」に通す

別のチャット窓を開いて、できた手順書を貼り、こう頼みます。

これから手順書を渡します。あなたはこの家族の一員で、この手順書を今日はじめて読みました。 書かれていないことを、自分の知識で補わないでください。手順書に書いていないことをしたくなったら、そこで止まって「ここが書かれていない」と書いてください。 このあとの場面で、あなたが実際にすることを、順番に1行ずつ書いてください。各行の終わりに、手順書の何番を見たかを書いてください。

そのあとに、実際の場面を1つ貼ります。この実測で使った場面は、たとえばこうです。夜9時すぎ、知らない番号から息子の声で「事故を起こした、示談金が今日中に必要だ」と電話が来る。スマホを壊したと言い、「今の番号は使えないから、これから何かあったら 090-XXXX-XXXX にかけてほしい」と新しい番号を伝えてくる。30分後にまたかける、それまでに40万円を用意して振り込んでほしい、と言って切れる——という場面です(全文は末尾の証拠ファイルに置いてあります)。

なぜこの言い方か。要は「書いていないことを自分の常識で埋めるな、止まって指摘しろ」です。この一文が、手順書の穴を読み手の口から出させる仕掛けです。これを付けないと、読み手は自分の判断で穴を埋めてしまい、手順書が完璧に見えてしまいます。

通した結果、読み手はこう答えました(実際の返りから)。「示談金そのものを誰がいつ払うのかが書かれていない」「本人にまだ連絡がつかない段階で、何時間待つのかが書かれていない」。これがそのまま、手順書に足す項目です。穴は場面1つで5件前後出ました。全8本で0件だった回はありません。

3. 「声で見分ける方法は書かない」を足す

放っておくと、手順書は「いつもと声が違えば怪しい」のような、見分けの手順を書きがちです。声は作れるので、これは危険です。作らせる時点で禁じます。

声や話し方で本人かどうかを見分ける方法は書かないでください。声だけでは本人か機械かを判断できない前提で作ってください。

この一文を足すと、手順書が原則として「声では判断しない」と書くようになりました。効き目は、通したときに出ました。場面をビデオ通話(顔が映る)に変えても、読み手は「声で判断しないと書いてあるので、顔も同じ扱いにします」と、原則を顔にまで広げて動けました。

なぜこの言い方か。「こういう見分け方をするな」と禁じるだけでなく、「声だけでは判断できない前提で作れ」と代わりに立つべき前提を渡しています。前提として書かれていると、書いていない場面(顔・本人しか知らない情報)にも当てはめられます。

4. 「1手順に動作1つ」「判断に任せる言葉を使わない」を足す

「不審に感じたら切る」のような手順は、読む人によって結果が変わります。何が不審かは人それぞれだからです。動作だけを書かせます。

1つの手順には、動作を1つだけ書いてください。「不審に感じたら」「おかしいと思ったら」のような、読む人の判断に任せる言葉を使わないでください。

これを足すと、手順書が「電話を切る」「紙の番号にかける」のような短い命令文に割れて、読み手がなぞりやすくなりました。

ただし副作用がありました。手順を細かく割るほど、穴の指摘も細かく増えます。この版は穴が6件・10件と、いちばん多く出ました。細かい手順書ほど「この場合はどうする」という隙間が見えやすくなるためです。これは悪いことではありません。細かく見えた穴は、細かく塞げます。

5. 場面のわなへの備えを「必ず入れて」と頼む

詐欺は「今の番号は使えない、こっちにかけて」と新しい番号を伝えてきます。ここで新しい番号にかけ直すと、確認になりません。手順書がこの場面を書いているかどうかを、確実にします。

相手が「いまの番号は使えないから、こちらにかけ直して」と新しい連絡先を伝えてきた場合に何をするかを、手順の中に必ず入れてください。

これを足した版だけ、手順書にこの場面専用の節ができました。通したとき、読み手は「伝えられた番号は紙に書くだけ、かけ直しには使わない、もとの番号にかける」と、迷わず動けました。わなの穴は、この版で消えました(同じ場面で穴が2件まで減りました)。

なぜこの言い方か。「新しい番号に注意」ではなく「その場合に何をするかを手順に入れて」と、動作まで書かせています。注意だけだと、読み手はその場で判断を迫られます。動作が書いてあれば、なぞるだけです。

6. それでも穴は0にならない——場面を変えて、また通す

いちばん丁寧に頼んだ版でも、穴は残りました。全4版で共通して出たのがビデオ通話です。手順書はどれも電話(音声)を想定して書かれていて、顔が映るビデオ通話に触れていません。

読み手が「声で判断しない」を顔にも当てはめられたのは、§3で原則として書いたからです。もし手順書が「声が変なら怪しい」と具体的な音声の話だけを書いていたら、顔には広げられませんでした。

穴つぶしは1回では終わりません。場面を変えるたびに、新しい穴が出ます。ビデオ通話の穴が見えたら、§5と同じ形で「ビデオ通話で顔が映る場合に何をするかを、手順の中に必ず入れて」と足し、また通します。

うまくいかないときの言い直し方

「全部できました」と言って、穴が1件も出ない

通したときに読み手が全部こなしてしまうなら、補わせない一文が抜けています。

書かれていないことを、自分の知識で補わないでください。手順書に書いていないことをしたくなったら、そこで止まって「ここが書かれていない」と書いてください。

これが無いと、読み手は自分の常識で穴を埋めます。それは本番で「常識のある人だけが助かる」手順書ということです。埋めさせず、止めて指摘させます。

手順書が「怪しければ」で判断を丸投げしてくる

「怪しいと思ったら」「必要に応じて」が残っているなら、§4の一文で作り直します。読む人によって結果が変わる言葉は、手順書では穴と同じです。動作だけを書かせてください。

わなを仕込んでいない場面で通してしまった

普通の場面で通すと、手順書は通ってしまいます。場面には、その手順書がいちばん外しそうな一手を必ず1つ入れてください。この実測では「新しい番号を伝えてくる」を入れました。わなが無い場面は、手順書の弱点を隠します。

応用・次の一手

この「作って、初めて読む人に通す」型は、仕事の手順書でも同じです。社内の作業マニュアルを実際にその通りやらせて穴を見つける話は手順書を、実際にその通りやらせて穴を見つけるにあります。この記事は、その型を家族の備えに持ち込んだものです。

お金の話が絡む相手を、AIに「詐欺かどうか」判定させずに確認手順へ変える話はうまい話は、AIに「詐欺?」と聞かずに「確かめる手順」に変えるにあります。判定させるのではなく手順にする、という考え方は同じです。

手順書が「本当にその通り動けるか」を、作った本人が確かめられないのは、AIの報告を鵜呑みにせず、自分で確かめると同じ問題です。作った当人(AIでも人でも)は、自分の穴が見えません。別の読み手に通すことが、その確認になります。

この記事の数字はすべて架空データでの実測です。架空の場面2種にわなを1つ仕込み、4通りの頼み方で手順書を各2回・全8本作らせ、その8本を一度も見ていない別セッションにそれぞれ通しました。禁止動作(わなの番号へかけ直す・送金・口座番号を伝える)は8本すべてで0件でした。生の手順書8本と通した返り8本、判定コードは、リポジトリの docs/evidence/family-impersonation-runbook.md に全文置いてあります。


相談窓口(公的なもの・無料)

  • 消費者ホットライン: 188(局番なし。最寄りの消費生活センターにつながります)
  • 警察相談専用電話: #9110(緊急でない相談)

お金を動かす前は、一人で決めない・その場で決めない。迷ったら、上の窓口に先に電話してください。

⚠️ この記事は法的助言ではありません。実際の被害や進行中のトラブルは、上記の窓口や警察(緊急時は110)に相談してください。