AIがでたらめを答える不安は、範囲を決めれば抑えられる
結論から言うと、受付に使うAIは、何でも自由に答えさせるのではなく、答えられる範囲をこちらで決めておき、その外に出た質問は「確認して折り返します」と人に回す形にできます。だから、AIが知らないことをそれらしく答えて客に迷惑をかける、という不安は、設計の仕方で大きく抑えられます。ゼロにできると言い切ることはしませんが、範囲を狭め、外れたら人へ渡す仕組みにすれば、扱える範囲に収まります。
「AIは知らないことも自信ありげに答えてしまう」という話は、その通りです。手元に答えがないときでも、それらしい文章を作ってしまうことがあるからです。これを野放しにして料金でも可否でも自由に答えさせれば、事実と違う回答が客に出るのは避けられません。だから受付にAIを使うなら、自由に喋らせないことが前提です。ここを取り違えて「AIに全部任せる」と考えると、いちばん怖い使い方になります。
なぜAIは、知らないことまで答えてしまうのか
でたらめが出るのは、AIが「それらしい文章を作る」のは得意でも、「自分が知らないと気づいて黙る」のは苦手だからです。
AIは、大量の文章の並び方から「次に来そうな言葉」を選んで文を作ります。だから、聞かれたことに答えがなくても、それらしい言葉を並べて正しそうな文章を返してしまうことがあります。人間なら「分かりません」と言える場面でも、放っておくと知らないことまで埋めて答えてしまう。これがいわゆる「もっともらしい作り話」で、受付で放置すれば、ありもしない料金やできない約束を客に伝えかねません。
ただ、これはAIの性質であって、使い方でかなり抑え込めます。要は、AIに「自由に答える役」をさせないことです。答えていい範囲を決め、範囲の外は「確認します」と人に渡し、答えるときも渡した決まった情報だけをもとにする。これを効かせれば、でたらめが出る場面そのものが減ります。品質そのものへの不安はAIに任せると品質は落ちないのか、間違いが起きたときの責任はAIが間違えたら誰が責任を取るのかにも書いています。
でたらめを客に出さないための、三つの線引き
不安を抑える鍵は、AIに答えさせる範囲を狭め、外れたら人に渡し、決まった情報だけで答えさせることです。
一つ目は、答えられる範囲をこちらで決めることです。受付でAIに任せるのは、事実の聞き取りと、繰り返し聞かれる定型の案内までに絞ります。料金の提示や、受けられるかどうかの可否、日程の約束といった信用に直結することは、AIに答えさせず人が握ります。二つ目は、範囲の外に出たら「確認して折り返します」と正直に返させることです。知らないことを埋めるのではなく、分からないものは分からないと言って人に渡す——ここをAIの基本の振る舞いにしておきます。三つ目は、答えるときの元になる情報を、こちらが渡した決まった内容だけに限ることです。対応エリアや営業時間、サービスの流れといった、自社で確かめた情報だけをもとに答えさせれば、記憶から作る余地が狭まります。
この三つを効かせると、AIの役割は「なんでも答える物知り」ではなく、「決まったことだけ正確に返し、それ以外は人に渡す受付」になります。何を人に残し何をAIに渡すかの線引きは、AIに任せる仕事と人がやる仕事の線引きの考え方が土台になります。仕組みの全体像はAI従業員のサービス紹介で確認できます。
渡した情報が古びると、それも「でたらめ」になる
もう一つ、見落とされがちなのが、元にする情報が古いままだと、AIは古い内容を自信ありげに答えてしまう、という点です。
料金や対応エリア、サービスの内容が変わったのに、AIに渡した情報を古いままにしておけば、AIは悪気なく古い案内を返します。これは作り話とは別の「でたらめ」で、防ぐには変わったところをその都度差し替えることが要ります。よく変わるものは、そもそもAIに固定で答えさせず「担当が確認します」に回しておくのが安全です。情報を新しく保つ考え方はAIは古い情報で答えないかにまとめています。
AIに任せる範囲は、こう決めていく
いきなり全部を任せる必要はありません。順番があります。
まず、繰り返し聞かれていて、答えが決まっている質問から任せます。対応エリア、営業時間、サービスのおおまかな流れ、持ち物や予約の取り方など、事実として固まっているものです。次に、聞き取りを任せます。名前や連絡先、用件、希望の日時といった、受け止めて整理するだけの部分です。そして、料金や可否、約束ごとは人に残します。ここを外して設計すれば、AIがでたらめを言える余地は、最初からかなり狭くなります。使いながら、実際にどんな質問が来て、どこで「確認します」に回ったかを見て、任せる範囲を少しずつ調整していきます。
よくある質問
AIがでたらめを答える可能性を、ゼロにできますか？
ゼロにできるとは言えません。AIには、知らないことをそれらしく答えてしまう性質があるからです。ただし、答えられる範囲を狭め、外れたら人に渡し、決まった情報だけで答えさせる設計にすれば、でたらめが客に出る場面は大きく減らせます。大事なのは、AIに何でも自由に答えさせないことと、料金や可否といった間違えられない判断を人に残すことです。
料金や「できます」の返事を、AIが勝手に言ってしまいませんか？
その心配があるからこそ、料金の提示や、受けられるかどうかの可否は、AIに答えさせない設計にします。AIが受け持つのは、事実の聞き取りと、答えの決まった定型の案内までです。料金や約束ごとは「担当が確認して折り返します」と返させ、人が確かめてから答える形にしておきます。
AIが分からないことを聞かれたら、どうなりますか？
「確認して折り返します」と正直に返し、その内容を人が引き取れる形で残します。知らないことを埋めて答えるのではなく、範囲の外は人に渡す——これをAIの基本の振る舞いにしておきます。だから、答えに詰まったときに作り話をするのではなく、人につなぐ動きになります。
うちの業種の専門的な質問に、間違ったことを答えないか不安です。
専門的な判断は、AIに答えさせない範囲に置きます。受付でAIに任せるのは、事実の聞き取りと定型の案内までで、専門的な相談は「担当が確認します」と人に回す設計です。むしろ、その手前の聞き取りをAIが済ませておくことで、人が判断に入りやすくなります。
それでも心配な場合、どう試せばいいですか？
いちばん答えの決まっている、繰り返しの質問一つから小さく始めるのがおすすめです。対応エリアや営業時間のような、事実として固まっているものです。実際にどんな回答が返るか、どこで人に渡っているかを見ながら、任せる範囲を広げるか狭めるかを決められます。全部を一度に任せる必要はありません。
まとめ
「AIは知らないことも自信ありげに答えてしまう」という不安は、受付でAIに何でも自由に答えさせようとすると現実になります。逆に、答えられる範囲をこちらで決め、その外は「確認します」と人に渡し、自社の決まった情報だけをもとに答えさせれば、でたらめが客に出る場面は大きく減らせます。ゼロにできるとは言いませんが、範囲を狭め、外れたら人へ渡す設計で、扱える範囲に収まります。
僕は足立区で合同会社9Zという会社を、一人で回しています。事業を広げたくて外部への委託を増やしていたころ、こちらが伝えたつもりの話が相手の中で食い違い、誰がどこまで答えたのか分からなくなって、かえって行き違いが増えたことがありました。そこから、対応を人の記憶頼みにするのをやめ、答えの決まったことは決まった形で返し、判断の要ることは自分に集めるよう整理しました。いまは自社の受付でも、AIに答えさせるのは事実の聞き取りと定型の案内までにして、料金や可否は僕が握っています。AIが怖いのは、何でも答えさせたときです。答える範囲を決めて外れたら人に渡す——その一線さえ引いておけば、でたらめを恐れて導入そのものを止める必要はない、というのが使ってみた感覚です。
御社のどの質問なら、答えを決めてAIに任せられ、どこから人が握るべきか、15〜30分の無料診断で、AI化しやすい1業務まで見据えて一緒に確認してみませんか。
診断後、AI化しやすいと判断した1業務は、簡易版のAI従業員として無料で作ります。
