これで何ができるか
動画編集の副業で自動字幕を検品するとき、素朴な頼み方がどこまで通用するかの限界を実測しました。以前の記事では「保温時間が最大4時間(正しくは40時間)」のような、値そのものが不自然な誤りなら97.5%拾えることを確かめています。今回試したのは、値だけ見ても不自然に見えない誤りです。
- 「家族4人分」(正しくは3人分)
- 「8枚刃」(正しくは6枚刃)
- 「保証期間は2年間」(正しくは1年間)
架空のブレンダー・掃除機のレビュー動画キャプションに、それぞれ8件の「文脈上どちらでも成立する」誤りを仕込み、同じ素朴な指示文を5回ずつ試しました。結果は80回中23回(28.75%)。先行記事の97.5%から大きく下がりました。
「数値に注意して確認して」と指示を広げても、40%前後までしか上がりませんでした。16項目のうち8項目は、指示を変えても一度も拾われませんでした。
前提
| かかる時間 | 15分 |
| 費用 | 無料。ブラウザのチャットAIで足ります |
| 必要なもの | 動画編集ソフトやYouTubeから書き出した自動生成キャプションのテキスト |
| プログラミング | 不要。この記事の指示文をコピーして貼るだけです |
この記事は「音声を正しく直せるか」を測ったものではありません。測ったのは「キャプションのテキストだけを読んで、文脈上は自然だが値が違う数字に気づけるか」です。最終的な正しさは必ず元の音声か製品の仕様書で確認してください。
架空のブレンダー「ミックスマイスター」、架空の掃除機「クリーンエース」という設定で作ったキャプションを使っています。実在の企業・商品とは関係ありません。
動画の自動字幕検品そのものは先行記事で、不自然な数字や同音異義語なら97.5%拾えることを確かめています。文章の検品を受ける副業はAI原稿の直しを受ける記事も参考にしてください。
AIへの頼み方
1. ブレンダーのキャプションで、素朴に聞く
先行記事とまったく同じ指示文を使いました。
上に続けて、8件の誤りを仕込んだキャプション全文(14行)を貼ります。5回試した結果です。
| 仕込んだ誤り | 拾われた回数 |
|---|---|
| 8枚刃(正しくは6枚刃) | 4/5 |
| モーター冷却「約3分」(正しくは1分) | 3/5 |
| 保証期間「2年間」(正しくは1年間) | 2/5 |
| バッテリー「約40分」(正しくは20分) | 1/5 |
| 家族4人分(正しくは3人分) | 0/5 |
| 洗浄「30秒ほど」(正しくは60秒) | 0/5 |
| レシピ「50種類」(正しくは30種類) | 0/5 |
| パーツ「全部で7点」(正しくは5点) | 0/5 |
8件中4件(家族4人分・洗浄30秒・レシピ50種類・パーツ7点)は、5回とも一度も拾われませんでした。合計は10/40(25%)です。
2. 掃除機のキャプションでも、同じ指示文で試す
新しく作った掃除機のキャプションでも、同じ指示文を5回試しました。
| 仕込んだ誤り | 拾われた回数 |
|---|---|
| ヘッド幅「2人分の部屋」(正しくは1人分) | 5/5 |
| 保証期間「3年間」(正しくは2年間) | 4/5 |
| 吸引力「6段階」(正しくは4段階) | 3/5 |
| 満タンまで「2回の掃除」(正しくは3回) | 1/5 |
| バッテリー「約35分」(正しくは25分) | 0/5 |
| 充電時間「約4時間」(正しくは3時間) | 0/5 |
| フィルター掃除「月に1回」(正しくは週に1回) | 0/5 |
| ノズル「全部で4種類」(正しくは3種類) | 0/5 |
合計は13/40(32.5%)。2つの材料を合わせると、80回中23回(28.75%)でした。
なぜ、先行記事ほど拾えなかったのか
先行記事の誤り(保温時間「最大4時間」など)は、値そのものが文脈と矛盾していました。今回の誤りは、値だけ見ても不自然ではありません。「家族4人分」も「50種類のレシピ」も、それ単体では普通にありえる数字です。AIが誤りに気づくには、文章としての自然さではなく、製品としての典型的な仕様値を知っている必要があります。
実際、拾われやすかった項目(8枚刃・保証2〜3年間・吸引力6段階)には共通点があります。一般的なブレンダーの刃は4〜6枚、家電の保証は1年が多い、という「よくある範囲」から外れていました。逆に、よくある範囲に収まる誤り(4人分・30秒・50種類・7点など)は、ほぼ気づかれませんでした。
うまくいかないときの言い直し方
「数値に注意して」と明記すると直るか
指示文に、数値を注意して見るよう一文を加えて試しました。まずブレンダーで3回です。
ブレンダーは8/24(33%)でした。素朴な指示(10/40=25%)より多少増えましたが、家族4人分・洗浄30秒・レシピ50種類・パーツ7点の4件は、この指示でも3回とも一度も拾われませんでした。
同じ指示文を、掃除機でも3回試しました。
掃除機は11/24(46%)でした。素朴な指示(13/40=32.5%)よりは増えましたが、大きな改善とまでは言えません。
8回ずつ(素朴5回+「数値に注意して」3回)を項目別に合計すると、16項目中8項目は、どちらの指示でも一度も拾われませんでした。その8項目はこちらです。
- ブレンダー:家族4人分・洗浄30秒・レシピ50種類・パーツ7点
- 掃除機:バッテリー35分・充電4時間・フィルター月1回・ノズル4種類
言い方を変えるだけでは直らない見逃しがあるということです。
仕込みどうしが、お互いに矛盾を作ってしまうことがある
実測の途中で、材料そのものの作り方を2回直しました。最初は「連続使用時間は最大5分」と「バッテリーは満充電で約40分」を両方書いていました。すると「5分しか連続使用できないのに40分使えるのは数字が合わない」と、仕込んだ2つの誤りが組み合わさって矛盾を作ってしまいました。
それぞれの誤りは単体では文脈上どちらでも成立するはずでしたが、同じキャプションに入れると計算が合わなくなっていたのです。「連続使用時間」の行を、バッテリーの話と算数的につながらない「モーターの冷却には使用後、約3分置くのがおすすめです」という独立した文に差し替えて直しました。
- 自然な誤りを仕込むときは、1件ずつの自然さだけでなく、全部の仕込みを組み合わせて読み直す必要があります
- 数字が絡む仕込みは、他の数字と算数的に矛盾しないかを特に確かめてください
応用・次の一手
検品の進め方そのものを見直す案も聞きました。
返ってきた8項目のうち、今回の実測に直接効きそうなのは次の3点でした。
- 数字だけを先に全部抜き出させてから、正しさを確認させる。「全部確認して」という一回勝負ではなく、2段階に分ける
- キャプションの中だけで照合せず、メーカーの公式仕様(商品ページ・パッケージ)と突き合わせる。この記事が測ったのはキャプション内の文脈との整合性だけで、外部資料との照合は試していません
- 数字が出てくる項目をチェックリスト化し、全項目を埋めさせる。「気づいたら報告して」という頼み方は見つけた分だけのスポットチェックになりがちです
1つ目の「2段階に分ける」は、次の指示文で試せます。
このリストを先に出させてから、「このリストの数字が製品として一般的な範囲か、1件ずつ確認して」と続けて頼む2段階方式です。⚠️ この2段階方式そのものは、この記事では実測していません(判定なしの提案どまりです)。次に試す人は、この記事と同じ材料・同じ判定方法で比べると、効果がはっきり分かります。
同じ検品の副業について、発注前の内容確認は発注書どおりに検品する記事、動画編集の下ごしらえは台本と構成案の記事も参考にしてください。
⚠️ この結果は、架空の動画2本・仕込み誤り16件・計56回(素朴40回+注意喚起16回)の実測です。「自然な数字の誤りは絶対に拾えない」と一般化しないでください。試したのは、次の範囲までです。
- 誤りは持続時間・個数・人数の言い換えのみ。日付や固有名詞の言い換えは試していません
- 外部の仕様書と突き合わせる指示文は、今回は試していません(応用セクションの案どまりです)
- 材料は2本・各14行まで。10分を超える長尺動画は試していません
今回の生の返りと判定の詳細は docs/evidence/natural-number-swap-hides-from-naive-check.md に全文置いてあります。