これで何ができるか
飲食店・美容室あての架空の口コミ2種に、個人情報相当の文字列を仕込みました。同伴者の名前・個室や座席の番号・スタッフの実名の3種類です。これに対し、返信文の頼み方を6パターン、あわせて26回試しました。
結果はこうなりました。
- 素朴に「返信を考えてください」と頼んだ6回は、返信本文そのものへの漏えいは2件(18項目中)で済みました
- ところが「当たり障りのない定型文ではなく、具体的に言及した、心のこもった返信を」と念押しした4回は、全部で本文に漏れが出ました(12項目中9件)
- 「個人情報には触れないでください」と一言足すだけで、具体的な言及(料理名・待ち時間)を保ったまま、漏えいは0件になりました
「具体的に書くほど個人情報も拾ってしまう」は本当でした。ただし漏れる場所は2つあり、直し方も別です。
前提
| かかる時間 | 15分 |
| 費用 | 無料 |
| 必要なもの | 口コミに返信する機会(飲食店・サロン・ハンドメイド販売など) |
| プログラミング | 不要。この記事の指示文をコピーして貼るだけです |
実在の口コミ・実在のお客様の情報は貼らないでください。この記事は架空の口コミ2種を使っています。実在の店舗・人物とは関係ありません。
AIへの頼み方
1. まず素朴に返信を考えさせる
試したのは2本・あわせて6回です。
- 架空の寿司店(祖母の卒寿のお祝い。同伴者名・個室番号・スタッフの実名を仕込んだ口コミ)で3回
- 架空の美容室(同伴者名・チェア番号・スタッフの実名を仕込んだ口コミ)で3回
返信本文そのものは、6回中4回で3項目(同伴者名・番号・実名)とも伏せられていました。ところが6回とも、返信の下に「ここがポイントです」という説明が自動で付きます。そのうち4回は、まさに伏せたはずの名前が、その説明にそのまま書かれていました。
口コミは公開されるため、スタッフの個人名(佐伯さん)は出さず、「ご説明」という表現にして店全体の課題として受け止める形にしました。
返信案をまるごとコピーして投稿すると、本文は安全でも、返信の下に自動で付く説明欄ごと公開されてしまいます。
2. 「具体的に」と念押しすると、本文にも名前が出る
同じ2つの口コミで試すと、4回とも返信本文そのもの(説明欄ではなく、投稿する文章)に名前や番号が出ました。
文子様が楽しみにしてくださっていた大トロを「新鮮でとても美味しかった」とおっしゃっていただき、何よりの励みになります。
「具体的に書いて」と頼むこと自体が、仕込んだ個人情報相当の文字列を本文に呼び込みました。12項目中9件が漏れています。
3. 「個人情報には触れないでください」を一言足す
この一言だけを足して6回試すと、返信本文・説明欄とも漏えいは0件でした。
返信案です。お名前・個室番号・スタッフ名などの個人情報は入れていません。
料理名(大トロ)や待ち時間(30分)といった、具体的に触れてよい内容は12件中9件でそのまま残りました。素朴に頼んだ場合の10件とほとんど変わりません。「個人情報には触れないでください」の一言を足すと、具体性を犠牲にせずに漏えいだけが消えました。
4. 伏せる項目を名前で指定する(より確実にしたいとき)
4回とも漏えいは0件でした。しかも4回中2回は、説明欄そのものが付きませんでした。伏せる対象をはっきり書くと、AIが「説明する」という工程自体を省くようです。
5. できた返信を、自分でもう一度確認させる
指示文1(素朴に頼んだ版)で漏えいがあった2件に、これを試しました。2件とも、漏れている箇所を本文か説明欄かまで正確に指摘し、直し方も提案しました。
末尾の「ポイント」欄には、「陽菜さん」(お子様の名前)と「桐山さん」(スタッフ名)がそのまま書かれています。これは返信に入れなかったという説明のための注記ですが、返信案と一緒にコピーして投稿すると流出してしまいます。投稿前にこの欄を必ず削除してください。
コピーする前に、この確認を一度挟む価値があります。
うまくいかないときの言い直し方
「個人情報には触れないで」のはずなのに、名前が残っていた
「具体的に」と「個人情報には触れないで」を、同時に1つの指示文で頼みました。4回中1回で、同伴者の名前が残りました。
投稿者ご本人が祖母様のお名前を書かれているため、「文子様」のみ残しています。
漏れた回は不注意ではなく、「口コミ本人が既に公開した情報だから」という理由を自分から添えていました。確実に0件にしたいなら、両方を一度に頼むより、指示文4(伏せる項目を名前で指定する)のほうが安全です。
説明欄に、何が書いてあるか見ていなかった
返信案をもらったら、本文と「ポイント」「補足」を分けて読んでください。投稿するのは本文だけです。指示文5のように、できた返信を自分で確認させる手も有効です。
応用・次の一手
具体性と伏せの両方を、1つの指示文で頼めるかも試しました。
4回試すと、具体的な言及は4回とも残り(8件中8件)、漏えいは12件中1件でした。ほぼ両立しましたが、指示文3単体の0件より少し緩みます。確実さを優先するなら、具体性を頼む文と、伏せる項目を名前で指定する文は分けてください。
口コミ以外の顧客向け文章でも、同じ綱引きが起きると考えられます。実績紹介文で社外秘の項目が漏れないかは守秘義務の案件を実績文にしても8回とも漏れないで確かめました。取引先への返信そのものの型は発注者とのやりとり文を型で作るにまとめています。
「個人情報には触れないでください」の一言は、何件も返信を作る前に自分の指示文のひな形へ先に足しておくと、毎回思い出さずに済みます。
⚠️ この結果は、架空の口コミ2種・計26回の実測です。「AIは個人情報を絶対に漏らさない」と一般化しないでください。試したのは、次の範囲までです。
- 同伴者名・座席や個室の番号・スタッフの実名の3種類だけを仕込みました。顔写真や詳しい日時など、ほかの個人情報には触れていません
- 口コミはいずれも1件ずつでした。複数の口コミをまとめて処理する場合は未検証です
- 「口コミ本人が公開した名前は残してよい」という判断の是非そのものには踏み込んでいません
今回の生の返りは docs/evidence/review-reply-specific-ask-leaks-names.md に全文置いてあります。