2万トークンのプロンプト、中身を解説します

こんにちは、BUPPANコンサルタントの重富です。

前回のコラム（vol.534）で、AIは「確率計算機」だとお伝えしました。
先日のウェビナーでも同じテーマを扱ったのですが、参加者の方から「2万トークンのプロンプトって、中身はどうなってるんですか？」と聞かれました。

普段AIを使う時、多くの方は「～を教えて」「～を書いて」と、短い指示を出しているのではないでしょうか。それで返ってきた結果が微妙でも、「まあ、AIってこんなもんか」で終わってしまう。

実は、そこに大きな差が生まれています。

今回は、僕が実際にレビュー返信の自動化で使っている「2万トークンのプロンプト」の中身を解説します。

大きく分けて、4つのパートで構成されています。

1つ目。「役割の定義」

冒頭にまず「あなたはZitAブランドのカスタマーサポート担当者です」と書いてあります。

たったこれだけ？と思うかもしれません。でもこの一文があるかないかで、AIの返信の姿勢がガラッと変わります。

この一文を入れると、AIはお客様の声に寄り添い、不満があれば共感し、疑問があれば丁寧に答えるという基本姿勢で文章を組み立てるようになります。

書かないとどうなるか。AIは「一般的な丁寧な文章」を書こうとします。カスタマーサポートなのか、友人への返事なのか、ビジネスメールなのか、方向性が定まらない。結果、テンプレ感のある当たり障りのない文章になる。

役割を決めることで、確率の方向性が一気に絞り込まれるわけです。

2つ目。「商品知識ベース」

販売ページに書いてある商品の仕様、返品保証の内容、ブランドの哲学、消臭剤の性能、電池の互換性、、、商品とサービスに関するあらゆる情報が書かれています。

なぜここまで書くのか。

例えば、お客さんが「充電池が使えない」とレビューに書いたとします。AIに商品知識がなければ「申し訳ございません」と謝ってしまう。でも実際は、この商品はアルカリ電池専用の設計なんです。謝る必要はない。仕様を丁寧に説明すればいい。

AIは商品を見たことがありません。触ったこともない。販売ページも読んだことがない。だから、こちらが全部教えてあげる必要がある。教えなければ、AIは学習データの中から「それっぽい情報」を勝手に持ってくる。これがハルシネーション（もっともらしい嘘）の原因です。

3つ目。「対応方針」

ここが一番ボリュームが大きい部分です。そして、ここが最も重要なポイントなので、少し詳しく書きます。

対応方針は、階層構造になっています。上の層から順に判断していく仕組みです。

上の層：レビュー全体の方向性を決めるルール

AIはまず、レビュー全体を読んで「このお客さんにどう対応するか」の方向性を決めます。

大きく4パターンです。

「使い続けてくれそう」なら、共感しつつ商品の良さを伝える。「返品したい」なら、真摯に謝罪して返品を案内する。「不具合がある」なら、サポートに誘導する。「満足している」なら、感謝を伝える。

さらに、星の数で対応の深さを変えます。★1～3のレビューには各指摘に丁寧に対応する。なぜなら、これから買おうとしている見込み客が一番よく読むレビューだからです。★4～5なら、主要なポイントに絞って返す。

お客さんの不満が「仕様の範囲内」なのか「メーカー側の落ち度」なのかで、謝るか謝らないかも変わる。

こういった「全体を通して適用されるルール」が、上の層にあります。

下の層：個別トピックごとの対応テンプレート

上の層で方向性が決まったら、次は個別の指摘に対応します。

「充電池が使えない」「消臭剤が高い」「センサーが反応しない」「内蓋が落ちる」、、、お客さんが言及する可能性のあるトピック、50以上。

それぞれに「こう言われたら、こう返す」というテンプレートが用意されています。

例えば「フタの開閉音がうるさい」と言われた場合。主観的な感想なら共感だけ。異音なら不具合の可能性があるからサポートへ誘導。同じ「音」の話でも、対応が分かれる。

この階層構造が大切なんです。まず上の層で方向性を決め、その方向性に沿って下の層の具体的な対応を組み合わせる。AIはこの構造に従って判断していくので、一貫性のある返信ができるようになるわけです。

これがないとどうなるか。AIはすべてのレビューに「ご不便をおかけして申し訳ございません」と書きます。謝る必要のないものにまで謝ってしまう。見込み客が読んだら「問題だらけの商品なんだな」と思われかねない。

4つ目。「形式ルール」

返信の最後に必ず「ZitAカスタマーサポート」と署名を入れること。プログラム用の専門用語をお客さんに見せないこと。内部用語を使わないこと。

地味ですが、これがないと思わぬ事故が起きます。実際に、AIが内部で使っている専門用語をお客さん向けの返信にそのまま出してしまったことがありました。


確率を制御するとは、つまりこういうこと

以上、4つ。役割、知識、対応方針、形式ルール。

最初からこの形だったわけではありません。最初はもっと短かった。実際にレビューに返信させてみて、「ここが違う」「これが足りない」と気づくたびに書き足していったら、気づいたら50枚分になっていました。

大切なのは、プロンプトが長いこと自体ではありません。

「AIに何を教えれば、自分が欲しい出力に近づくか」を考えること。それが確率を制御するということです。

ぜひ、今お使いのAIへの指示を見直してみて下さい。

「何が足りないか」が見えてくるはずです。

今回は以上です。