これで何ができるか

毎朝ひとりでに走らせている仕事が、ちゃんと動いているかを見る形です。30日ぶんたまった出来ばえをAIに渡して、何件か見せさせ、直すところを挙げさせます。

このサイトは報告の前に確かめさせるで、こう書いていました——「実際に生成されたものを3件見せてください」「3件出せば、平均的な出来が見えます」。同じ形はYouTubeの動画を自動で要約するにもあります。ところが「3件で足りる」という理由づけは、一度も数えていませんでした。

心配していたのはこうです。見せる3件を選ぶのはAI自身です。うまくいったものだけ選んで見せられたら、点検になりません。

そこで、架空の「毎朝ひとりでにAIが作った要約」を30日ぶん、2本(ニュース要約/問い合わせ日報)作り、不良を7件仕込みました(数字が1つも無い埋め草3件/「本文は読んでいません」と断っている2件/材料0行の日の空要約2件)。さらに紛らわしい良品を3件入れてあります(1文だけで薄く見えるが、数字は入っている)。見せ方を6通りに振って、材料2本 × 各2回 = 全24回通しました。

毎朝の出来ばえをAIに3件見せさせたとき、その3件に仕込んだ不良が何件入ったかを見せ方6通りで並べた図。架空の毎朝の要約を30日ぶん、ニュース要約と問い合わせ日報の2本用意し、不良を7件仕込んだ。内訳は数字が1つも無い埋め草3件、本文は読んでいませんという断り付き2件、材料0行の空要約2件である。6版かける材料2本かける各2回で全24回。そのまま3件見せてと頼んだ版は4回とも3件のうち2件が不良。1件目15件目30件目と位置を指定した版は4回とも1件。出来のよくないほうから3件と頼んだ版は4回とも3件。先に件数を数えてから3件と頼んだ版も4回とも3件。見せてきた3件に不良が1件も入らなかった回は16回中0回で、当て方を識別子で数える方法と不良の本文がそのまま引用されたかで数える方法の2通りに変えても同じだった。位置を指定した版が毎回1件なのは、指定した15件目がたまたま不良だったためである。保存版(不良の識別子だけを返す版)は3件を選ばせる形ではなく、この実測では毎回5件を返したので、この表には無い。
3件に不良が入らなかった回は、16回で0回でした。

分かったことは3つです。

① 心配は外れました。実際に3件を見せる4版(①〜④)・見せてきた3件に不良が1件も入らなかった回は、16回で0回です。当て方を2通り(識別子で数える/不良の本文がそのまま引用されたかで数える)に変えても、同じでした。それどころか、選んだ理由を自分から書いてきます。

30日ぶんを一通り読みました。まず実際に生成されたものを3件、原文のまま出します。直すのはまだしません。

同じ回の少し先に、こうあります。

意図的に「うまくいっている例」「推測で書いている例」「中身が空の例」を1件ずつ選びました。良いものだけ並べても、どこを直すかの手がかりになりません。

② かわりに割れたのは、合否の線でした。30件すべてを1行ずつ判定させると、同じ指示文なのに、材料が変わると「よくない」に入るグループが2つとも逆になりました

③ 位置を指定した版がいちばん当てになりません。「1件目・15件目・30件目を見せて」は4回とも不良1件でしたが、それはこちらが指定した15件目がたまたま不良だったからです。位置を決めた瞬間、結果はその位置に何があるかで決まります。

前提

かかる時間 25分。点検の頼み方を決めるときに1回だけやります
費用 無料。無料のチャットAIで足ります
必要なもの ブラウザで使えるAI(ChatGPT・Claude・Geminiなど)と、たまった出来ばえのテキスト
プログラミング 不要。1日1行のテキストを貼るだけです

📌 数字はすべて架空データでの実測です。30件それぞれに重複しない識別子(#K-8412 の形)を1つずつ付けてあります。どの件を見せてきたかを機械で追うための目印です。

⚠️ 仕込んだ7件のうち2件は、線引きが割れます。「材料が0行だった日に、空の要約を出す」ことを不良と呼ぶかどうかは、決める人の側の話です。この記事では割れたまま両方書きます。

AIへの頼み方

1. まず、既存の記事にある一文をそのまま使う

報告の前に確かめさせるに載っている頼み方です。

毎朝ひとりでにAIに作らせている要約が、30日ぶんたまっています。実際に生成されたものを3件見せてください。そのうえで、どこを直せば良くなるか案を出してください。いきなり直さず、案を見せてください。

このあとに 【毎朝の要約 30日ぶん】 として30行を貼ります。

4回とも、見せてきた3件のうち2件が仕込んだ不良でした。しかも4回とも、良い例を1件だけ混ぜています。もう1本の材料の回はこう書き出しました。

30日ぶん、実際に生成されたものです。まず3件そのまま見せます。壊れ方が3通りあったので、代表を1件ずつ選びました。

🔑 「たまたま上手くいったものを選んで見せられる」は、この材料・この回数では起きませんでした。

⚠️ かわりに、頼んでいないことをやります。3件しか頼んでいないのに、返りに出た識別子は 12件・6件・3件・3件でした。いちばん多い回は、頼まれてもいない30件の内訳を4種類に分けて件数まで書いています。読む量が回ごとに変わるので、毎朝そのまま貼るには向きません。

2. 見せる位置を、こちらで指定する

AIに選ばせないなら、位置を決めるのが素朴な手です。

毎朝ひとりでにAIに作らせている要約が、30日ぶんたまっています。1件目・15件目・30件目の3件を見せてください。そのうえで、どこを直せば良くなるか案を出してください。いきなり直さず、案を見せてください。

4回とも、指定どおりの3件が返りました。返りに出た識別子も4回とも3件ちょうどで、読む量は6通りでいちばん安定しています。

🚨 ただし、当たった不良は4回とも1件だけです。1件だけだったのは、こちらが指定した15件目が、たまたま「本文は読んでいません」の日だったからです。1件目と30件目は良品でした。位置を決めた点検は、その位置に何があるかで結果が決まります。次の月は同じ位置に何も無いかもしれません。

3. 出来のよくないほうから3件、と頼む

毎朝ひとりでにAIに作らせている要約が、30日ぶんたまっています。出来のよくないほうから3件見せてください。なぜよくないのかも書いてください。そのうえで、どこを直せば良くなるか案を出してください。いきなり直さず、案を見せてください。

4回とも3件とも不良でした。理由も4回とも付いています。⚠️ ただし読む量は増えます。返りに出た識別子は 13件・8件・10件・5件で、3件を見せるついでに周辺まで触れています。

4. 先に件数を数えさせてから、3件を見せさせる

毎朝ひとりでにAIに作らせている要約が、30日ぶんたまっています。まず、30件のうち出来のよくないものが何件あるかを数えて、その件数を書いてください。そのあとで、その中から3件を見せてください。そのうえで、どこを直せば良くなるか案を出してください。いきなり直さず、案を見せてください。

3件はやはり4回とも不良でした。面白いのは件数のほうです。申告された件数は 7件・5件・8件・8件に割れました。仕込みは7件です。

割れた理由は、返り自身が書いています。5件と答えた回はこうでした。

  • 別枠にした: 2件(9・18 番の「対象の記事が0件でした」)

8件と答えた回は、逆にこちらが良品として仕込んだ3件を「情報が薄い」として不良に入れました。同じ3件について、5件と答えた回はこう書いています。

なお、10・14・20 番は1文だけで短いものの、社数・品目・数字といった事実が入っているので合格に入れました。

🔑 どちらの回も、理由は筋が通っています。動いているのは腕前ではなく、どこから先を「よくない」と呼ぶかの線です。

5. 3件をやめて、30件すべてを1行ずつ判定させる

抜き取りをやめる版です。読む量は増えますが、選び方の問題は消えます。

毎朝ひとりでにAIに作らせている要約が、30日ぶんたまっています。30件すべてについて、1件を1行にして、識別子と「良い/よくない」を書いてください。3件だけを選ばないでください。そのうえで、どこを直せば良くなるか案を出してください。いきなり直さず、案を見せてください。

4回とも30件ちょうどが1行ずつ返り、誰が見ても不良の5件は4回とも5件すべてが「よくない」に入りました。ふつうの良品20件を「よくない」と呼んだ回も0回です。

毎朝の出来ばえを30件すべて判定させたときと、保存版で判定させたときに、どのグループを「よくない」と呼んだかを材料ごとに並べた表。仕込みは3つに分かれ、誰が見ても不良の5件、材料0行の日の空要約2件、1文だけだが数字は入っている3件である。誰が見ても不良の5件は、8回とも5件すべてがよくないと呼ばれた。材料0行の空要約は、ニュース要約の材料では2回とも2件ともよくないに入り、問い合わせ日報の材料では2回とも0件、保存版では4回とも0件だった。1文だけだが数字のある3件は、ニュース要約では2回とも0件、問い合わせ日報では2回とも3件ともよくないに入り、保存版では4回とも0件だった。つまり2つの列が材料をまたぐと逆に動いている。ふつうの良品20件をよくないと呼んだ回は8回で0件だった。
拾い漏れは起きません。動くのは、残り2グループの扱いです。

🚨 割れたのは残りの2グループで、しかも材料をまたぐと逆に動きました。

材料0行の空要約(2件) 1文だけだが数字あり(3件)
ニュース要約(2回とも) 「よくない」に入れた 「良い」にした
問い合わせ日報(2回とも) 「良い」にした 「よくない」に入れた

ニュース要約の回は、空要約2件を「よくない」の列に置いたうえで、同じ返りの中でこう書いています。

まずCについて。#K-8537 と #K-8659 は、実は失敗ではありません。「対象が無かった」と正直に書いているので、動作としては正しい。

判定の欄と、そのあとの説明が食い違っています。毎朝この一覧だけを見る形にすると、説明のほうは残りません。

6. 毎朝そのまま貼る保存版にする

自動実行のために、判定だけを短く返させます。

毎朝の点検です。下の要約について、次の2つだけを出してください。ほかには何も書かないでください。 ・1行目に「よくないもの: ◯件」 ・2行目から、よくないものの識別子を1行に1つずつ 判定の理由も、直した文も書かないでください。

4回とも、返りは6行ちょうどでした。件数も識別子も4回とも同じ、材料をまたいでも同じ、余計な文章は0回です。

よくないもの: 5件
#K-8459
#K-8503
#K-8578
#K-8618
#K-8712

🔑 そろった理由も、はっきりしています。4回とも5件で、⑤で割れた2グループはどちらも入っていません。そろったのは腕前が上がったからではなく、判定の幅がいちばん狭い形だったからです。⚠️ 空要約2件を不良として扱いたいなら、この保存版では毎朝落ち続けます。

うまくいかないときの言い直し方

3件は見られたが、返ってきた量が毎回違う

①では返りに出た識別子が 12件・6件・3件・3件、③では 13件・8件・10件・5件でした。3件しか頼んでいなくても、周辺まで触れてきます。

読む量を決めたいなら、位置を指定した②がいちばん安定します(4回とも3件ちょうど)。⚠️ ただし②は、当たる不良の数もその位置に何があるかで決まります。量の安定と、点検としての当てになりやすさは、この実測では逆を向きました。

件数の申告が、日によって5件と8件に変わる

④で 7件・5件・8件・8件に割れました。⚠️ 数え間違いではありません。割れているのは「どこから先を不良と呼ぶか」で、⑤の表のとおり材料が変わると逆に動きます。

線を引くのはこちらの仕事です。この記事で仕込んだ3グループのうち、真ん中(材料0行の空要約)と右(1文だけだが数字あり)は、あらかじめどちら扱いかを決めておかないと、毎朝ちがう数が出ます。

📌 決めた線を指示文に書く手が考えられますが、⚠️ この24回では試していません。6つの指示文のどれにも「材料0行の日は不良に数えない」とは書いていないためです。書けばそろうかどうかは、次の実測になります。

保存版にしたら、件数がぴたりとそろって安心してしまう

⑥は4回とも 5件・同じ識別子で、材料をまたいでも一致しました。そろっていること自体は、正しさの証拠になりません。そろったのは、判定の幅がいちばん狭い形だったからです。

⚠️ 保存版に切り替えるときは、その前に⑤(全件を1行ずつ)を1回だけ通して、どこが落ちるかを見てください。この実測では、⑤で「よくない」に入った件のうち、⑥では0件になったグループが1つありました(ニュース要約の空要約2件)。

「良い」と判定された中に、直したいものが混じっている

ふつうの良品20件が「よくない」と呼ばれた回は8回で0件でした。⚠️ 逆向きは測っていません。この実測の「良い」は20件とも、こちらが良品として作ったものです。AIが本当は不良のものを「良い」と呼んだかどうかは、仕込んだ7件の外では確かめていません。

応用・次の一手

3件見せさせる形は、この実測では点検として成立しました。実際に3件を見せる4版・16回とも不良が混じり、選んだ理由も添えてきます。報告の前に確かめさせるの一文は、そのまま使って構いません。

変えたほうがよいのは、その次の一歩です。3件を見て「だいたいこんな出来だ」と思うのは、この実測からは支持できません。返りが見せてくるのは平均ではなく、壊れ方の代表です。①の4回とも、良い例1件と壊れ方2種類という組み合わせでした。平均的な出来を知りたいなら、⑤のように全件を1行ずつ判定させるほうが早い(4回とも30件ちょうど、拾い漏れ0件)。

毎朝ひとりでに回すなら、渡した材料を毎回数えさせると同じで、先に自分の側で線を決めておくところまでが準備です。この記事の3グループのうち、真ん中と右は毎回動きました。動かなかったのは、線引きの要らない5件だけです。

同じ晩に公開した毎朝の仕事を工程に分けて回すも、同じ「定説を実測する」型です。あちらは自動処理の分け方(工程を分けたほうがよい、という定説)を測り、この記事は自動点検の見せ方(3件見せれば足りる、という定説)を測っています。

📌 この記事で測っていないこと=①〜⑥のどれも、線引きを指示文に書いた版がありません。「材料0行の日は不良に数えない」と書けばそろうのか、それとも別のところが割れるのかは分かりません。⚠️ また、7件の外に本当の不良が混じっていた場合に見つかるかも測っていません。仕込んだものしか数えていないので、この実測が言えるのは「仕込んだ不良は落ちなかった」までです。

同じ道具立て(不良を仕込んで複数回通す)で、見せる件数ではなく指示文の強さを動かしたのが「重要です」を足しても見逃しは減らないです。「これは重要な確認です」という念押しは、この記事の3件と同じく、検出数を動かしませんでした。