これで何ができるか

入金記録にキャンセル・返金の備考が付いていても、AIはその説明が正しいかどうかまでは検算しません。備考の言葉だけを信じて「問題なし」と判定することがあります。

用意したのは次の2種類です。

  • 架空のWebサイト保守契約12社
  • 架空のSNS運用代行契約12社

どちらにも、3種類の契約を1件ずつ仕込みました。

  • 真の未入金:備考なし。入金が0円
  • 正当なキャンセル:備考に「確定した請求額」まで明記。入金はその確定額どおり
  • 曖昧なキャンセル:備考に「キャンセルされた金額」だけ書かれ、確定額は書かれていない。実際の入金は、基本月額からキャンセル額を引いた額よりさらに少ない
キャンセル・返金の備考が、頼み方によってどこまで検算されるかを比べた図。素朴に聞いた場合、真の未入金を正しく指摘した回数は10/10、曖昧なキャンセル(備考にキャンセル額だけ書かれ確定額は書かれていない)の隠れた不足を見つけた回数は5/10、正当なキャンセル(確定額まで明記)を誤って不足扱いした回数は0/10。「基本月額からキャンセル額を引いて入金額と一致するか確認して」と計算式を明示した場合、曖昧なキャンセルの隠れた不足を見つけた回数は10/10、正当なキャンセルを誤って不足扱いした回数は0/10。「説明が入金額と合っているか確認して」と頼んだ場合、正当なキャンセルを誤って不足扱いした回数は1/6。下の枠には、素朴に聞くだけでは曖昧なキャンセルの隠れた不足は2回に1回しか見つからなかったこと、計算式を明示すると10回とも見つかったこと、「説明が合っているか確認して」という言い方だけでは1回だけ正しく処理された契約まで誤って疑ったことが書かれている。
素朴に聞くだけだと、曖昧なキャンセルの隠れた不足は2回に1回しか見つかりません。

**素朴に「不足がある契約はどれですか」と聞いた10回(2種×5回)では、真の未入金は10回とも正しく指摘し、正当なキャンセルを誤って不足扱いした回は0回でした。**ここまでは、キャンセルの備考を疑わなすぎる心配はいりません。ところが、曖昧なキャンセル(確定額が書かれていない)の隠れた不足は、10回中5回しか見つけられませんでした。残り5回は、備考に「キャンセル」「返金」という言葉があるだけで、計算を確かめずに「不足なし」と結論づけています。

**「基本月額からキャンセルされた金額を引いて、入金額と一致するかを確認してください」と計算の仕方まで明示すると、10回とも隠れた不足を見つけました。**この結果は、この2種類の架空データ・合計26回の実測です。本文の最後に、確かめていないことも書いておきます。

入金照合そのものの基本的な挙動は分割払いの入金照合を実測した記事で確かめています。手数料ぶんの差額と本当の未入金が同時に混ざるケースは手数料差額と未入金が混ざる記事で扱いました。この記事が見ているのは、そのどちらとも違う軸です。「請求額そのものが、キャンセル・返金で事後に変わっている」ケースです。

前提

かかる時間 20分
費用 無料。ブラウザのチャットAIで足ります
必要なもの 契約一覧(基本月額・備考)と、今月の入金額
プログラミング 不要。この記事の指示文をコピーして貼るだけです

口座番号や実在の取引先名は貼らないでください。この記事は架空の社名・金額を使っています。実在の人物・団体とは関係ありません。

AIへの頼み方

1. Webサイト保守契約で、素朴に不足を聞く

架空のWebサイト保守契約12社を用意しました。3件だけ、ふつうと違う行を混ぜています。

  • ひまわり保育園:入金が0円(真の未入金)
  • 北斗自動車:備考に「オプション12,000円をキャンセルし、請求額を40,000円に修正済み」と確定額まで明記。入金もその40,000円どおり(正当なキャンセル)
  • 月光印刷:備考に「年末休業オプション3,000円分をキャンセルされたとの連絡があり、返金対応済みです」とだけ書かれ、確定額は書かれていない。基本月額48,000円から3,000円を引くと、本来の確定額は45,000円のはず。実際の入金は41,000円で、4,000円が説明のつかない不足のまま残っている(曖昧なキャンセル)
まだ入金に不足がある契約はどれですか。会社名と不足額を挙げてください。問題がなければ「不足はありません」と書いてください。

上に続けて、契約一覧(社名・基本月額・備考・今月の入金額)を貼ります。

**5回のうち3回は、ひまわり保育園(27,000円)と月光印刷(4,000円)の両方を正しく不足として挙げました。**残り2回は、ひまわり保育園だけを挙げ、月光印刷については「備考どおりに修正されているため不足なし」と誤って結論づけました。北斗自動車を誤って不足扱いした回は、5回とも0回です。

2. SNS運用代行契約でも同じ聞き方を試す

業種が変わっても同じ傾向になるかを見るため、SNS運用代行契約12社でも同じ実験をしました。

  • ひので整体院:入金0円(真の未入金)
  • みどり工務店:確定額36,000円まで明記され、入金も一致(正当なキャンセル)
  • 星野クリニック:備考に「ストーリーズ投稿オプション4,000円分をキャンセルされたとの連絡があり、返金対応済みです」とだけ書かれる。本来の確定額46,000円に対し、入金は44,000円だった(曖昧なキャンセル)
まだ入金に不足がある契約はどれですか。会社名と不足額を挙げてください。問題がなければ「不足はありません」と書いてください。

こちらは5回のうち2回だけ、ひので整体院(32,000円)と星野クリニック(2,000円)の両方を正しく指摘しました。残り3回は、ひので整体院だけを挙げ、星野クリニックは「修正済みの請求額と入金額が一致しているため不足はありません」と誤って結論づけています。2種類の材料を合わせると、曖昧なキャンセルの隠れた不足を見つけたのは10回中5回でした。みどり工務店を誤って不足扱いした回は、5回とも0回です。

3. 計算の仕方を明示して、同じ材料で聞き直す

まだ入金に不足がある契約はどれですか。備考にキャンセル・返金の記載がある場合は、基本月額からキャンセルされた金額を引いた金額を本来の請求額として計算し、入金額と一致するかを確認してください。一致しない場合は不足として挙げてください。会社名と不足額を挙げてください。

**Webサイト保守契約で5回試したところ、5回とも月光印刷の不足4,000円を正しく見つけました。**北斗自動車を誤って不足扱いした回は0回です。

4. 運用代行契約でも、計算の仕方を明示して聞き直す

まだ入金に不足がある契約はどれですか。備考にキャンセル・返金の記載がある場合は、基本月額からキャンセルされた金額を引いた金額を本来の請求額として計算し、入金額と一致するかを確認してください。一致しない場合は不足として挙げてください。会社名と不足額を挙げてください。

**こちらも5回とも、星野クリニックの不足2,000円を正しく見つけました。**みどり工務店を誤って不足扱いした回は0回です。2種類の材料を合わせると、10回とも曖昧なキャンセルの隠れた不足を見つけました。

なぜこの言い方が効くのか

「不足がある契約を挙げてください」だけでは、AIは備考の言葉で安心してしまいます。「キャンセル」「返金」という言葉があるだけで、その先の計算を確かめない回が半分ありました。

「基本月額からキャンセルされた金額を引いて、入金額と一致するかを確認してください」と計算の手順そのものを書くと、備考の言葉を信じるのではなく、毎回同じ引き算を実行する動きになります。キャンセルの記載があるかどうかではなく、その数字が入金額と合っているかどうかで判定が決まる言い方です。

うまくいかないときの言い直し方

「説明が合っているか確認して」では足りるか

計算の手順を書かず、もう少し軽い言い方でも同じ効果があるかを試しました。

まだ入金に不足がある契約はどれですか。備考にキャンセル・返金の記載がある場合は、その説明が入金額と合っているか確認してください。会社名と不足額を挙げてください。

Webサイト保守契約で3回試したところ、3回とも月光印刷の不足4,000円を正しく見つけ、北斗自動車を誤って不足扱いした回はありませんでした。曖昧なキャンセルを見つける力は、計算の手順を明示した言い方と同じくらい効いています。

ところが、運用代行契約で3回試したところ、1回だけ違う崩れ方をしました。星野クリニックの不足は3回とも正しく見つけました。**ただし1回だけ、正当なキャンセルであるみどり工務店まで「10,000円の不足」と誤って挙げました。**備考の確定額(36,000円)と入金額(36,000円)は一致しています。「基本月額46,000円との差」をそのまま不足だと読み違えたのです。

計算の手順を省いて「説明が合っているか」という聞き方に変えると、別の崩れ方が出ることがあります。曖昧なキャンセルを見つける力は保たれますが、代わりに正当なキャンセルを誤って疑うことがあるのです。頻度は6回中1回と高くありません。それでも、「基本月額からキャンセル額を引く」という計算そのものを書いたほうが、この崩れ方は起きませんでした(10回中0回)。言い方を軽くする代わりに、何と何を比べるかは省かないほうが安全です。

応用・次の一手

毎月の確認を自動化したいなら、この検算を手順の1つとして組み込めます。

毎月、顧客ごとの基本月額と入金額を突き合わせて、不足がある契約を見つけたいです。キャンセル・返金があった場合は備考に書かれますが、備考の説明どおりの金額になっているかまで確認したいです。プログラミングはできません。私が毎月やることを、番号を振って箇条書きで教えてください。

2回試したところ、手順の数(11個と14個)は違いましたが、どちらも自分から次の骨格を含めていました。

  • 契約一覧と入金記録を顧客名で突き合わせる
  • 差額が0でない顧客を抽出する
  • 備考にキャンセル・返金の記載がある顧客は、その説明から「本来あるべき金額」を自分で計算する
  • 計算した金額と実際の入金額を比較し、一致しなければ「説明と金額が合わない」として別に扱う
  • 備考の記載がないのに不足している顧客は、原因不明の不足として扱う

2回とも「備考の言葉を信じるのではなく、説明から金額を計算してから比較する」という手順を自分から含めていました。本文の実測とあわせて、この手順を毎月の確認に使う価値はありそうです。

⚠️ この結果は、この2種類の架空データ・合計26回の実測です。「AIはキャンセル・返金の説明を必ず検算する」と一般化しないでください。試したのは、次の範囲までです。

  • 曖昧なキャンセルは、備考に「キャンセルされた金額」だけが書かれ「確定額」が書かれていないパターンのみです。備考に何も書かれていない、または明らかに不合理な金額が書かれているパターンは試していません
  • 1件の契約で仕込んだ曖昧さは1種類のみです。複数のキャンセルが同時に起きた場合は試していません
  • 「説明が合っているか確認して」という軽い言い方での実測は材料ごと3回のみです。もっと多く試すと、崩れの頻度が変わる可能性があります

次の一手としては、分割払いで2回同時の未入金を実測した記事や入金が合算されて未入金に見える記事も、同じ入金照合シリーズの別の軸を扱っています。

今回の生の返りは docs/evidence/cancellation-note-half-goes-unchecked.md に全文置いてあります。