ボイスボットの誤回答を防ぐには？生成AIに任せる範囲と公開後の直し方

• ボイスボット
• 誤回答
• ハルシネーション
• 生成AI
• AI電話
• RAG
• 有人転送
• コールセンター

2026/10/29

• シェア
• Tweet

生成AIのボイスボットが誤った料金や条件を案内したら、利用者はそれを会社の回答として受け取ります。ボイスボットの誤回答はゼロにはできません。間違えたら困る案内は事前に確認した文言で読み上げ、資料に答えがない質問や判断が必要な相談は、人の担当者へ回す設計が必要です。
用件ごとに生成AIへ任せる範囲を決める表を先に示し、公開後に誤案内を見つけた場合の直し方と、導入前にベンダーへ確かめる質問を続けます。

• お問い合わせ
• 資料請求

・ボイスボットの誤回答はゼロにできる？

・ボイスボットの誤回答を防ぐには？用件ごとに答え方を決める

・迷った電話は、用件を添えて人へ回す

・公開後に誤回答を見つけて直す5つの手順

・導入前にベンダーへ確かめる6つの質問

・DHK CANVASで誤回答を抑える仕組み

・よくある質問

・まとめ

ゼロにはできません。生成AIを使うかどうかに関係なく、ボイスボットによる音声の聞き取りは100%ではなく、AIが答えを作る仕組みでは、もっともらしい誤りが混じることがあるためです。誤りが起きる場面を分けると、それぞれに合った防ぎ方を決められます。

3つは別々に起きるとは限りません。聞き間違いをそのまま使って答えれば答え間違いになり、用件を聞き違えれば別の窓口へつながります。入口の聞き取りを確かめることが、ほかの2つを防ぐ土台になります。

「3月」を「7月」と受け付けたまま案内すれば、回答の文言が正しくても利用者には誤った内容が届きます。日付や番号など、案内の内容を変える項目は確定前に読み上げて確認し、聞き取れない場合は別の入力方法か人の担当者に切り替えます。

ハルシネーションとは、生成AIが事実と違う内容を、もっともらしい文章で作ってしまうことです。生成AIは、質問に対してそれらしい答えの文を組み立てる仕組みのため、手元の資料に答えが無い質問でも、それらしい答えを返すことがあります。

電話の窓口でいえば、「学生割引はありますか」と聞かれて、実在しない割引を案内してしまうような誤りです。料金を改定したのにAIが参照する資料が古いままで、前の料金を答えるという誤りもこれに近いものです。生成AIとボイスボットを組み合わせたときにできることの全体像は、生成AI×ボイスボットでできることの解説にまとめています。

つなぎ間違いは、AIが用件を取り違えたり、分類した先の転送設定が漏れていたりして、関係のない担当へつながる誤りです。案内の内容は正しくても、利用者はもう一度説明し直すことになり、受けた側も用件が分からないまま電話に出ることになります。

株式会社電話放送局が2026年10月に、職場で電話対応に携わる20〜60代の255名に行った調査では、自動音声から人に代わる電話の経験者の32.5%が「用件と関係のない窓口・担当につながり、案内し直しになった」と答えています（株式会社電話放送局の調査結果、調査概要）。つなぎ間違いは、実際に利用者が経験している問題です。

音声の案内は画面の文字のように読み返せず、根拠のページもその場で示しにくいためです。料金や条件の確認が必要な場合は、SMSで該当ページを送る方法があります。事業者側も誤りを後から調べられるよう、案内の記録を残します。

誤回答を防ぐうえで最初にやるべきことは、AIの性能を上げることより、用件ごとに「AIにどこまで答えさせるか」を先に決めることです。その基準になるのが、その用件で案内を間違えたときに何が起きるか、という見方です。用件と答え方の対応を表で示します。

直近1か月の入電理由を書き出し、1つずつ「この案内を間違えたら何が起きるか」を考えて4つのどれかに振り分けます。答えを作らせてよいか迷う用件は、決めた文言に固定するか、人へ回す設計にします。分類だけをAIに任せる場合も、転送先や後続の手続きが誤らないよう確認が必要です。

日本予防医薬株式会社の導入事例では、解約電話の電話番号・顧客番号・郵便番号をプッシュ入力で受け、自由な発話で受けた解約理由を生成AIが分類しています。本人の特定はRPAが社内システムと照合します。年間7万件の解約電話のうち40.9%が完全自動処理で完結し、年間3,800時間の削減につながりました。これは生成AIを回答文の作成ではなく、理由の分類に使う例です。

4つは生成AIに任せる度合いの順番ではありません。案内する内容を固定するか、登録資料から答えるか、分類だけ任せるか、人へ回すかを、用件ごとに選ぶための区分です。

① 料金・契約条件は決めた文言で読み上げる

料金や解約の条件は、言い回しが少し違うだけで意味が変わります。「解約できます」と「解約の手続きはできますが、違約金がかかります」では、利用者の受け取り方がまったく違うはずです。こうした案内は、AIに文章を組み立てさせず、事前に社内で確認した文言をそのまま読み上げる形にします。AIの役割は、どの文言を流すかを聞き分けるところまでです。

② 営業時間や手続きは登録したFAQから答える

営業時間や必要書類のように、答えが資料に書いてある質問は、資料を参照して答える候補です。ただし、必要書類や期限の誤りも利用者の手続きに影響します。AIが参照してよい資料を決め、そこに答えが無い質問には「担当者におつなぎします」と返す設定ができるかも確認点です。電話で読み上げるFAQの書き方は、コールセンターのFAQをAIが電話で自動回答する方法で詳しく解説しています。

③ 理由や要望は、AIに聞き取って分類させるだけにする

解約の理由や要望は、言い方が人によってばらばらで、選択肢のボタンでは拾いきれません。一方で、AIが答えを返す必要はない用件でもあります。自由に話してもらった内容を文字にして、社内の分類に振り分けるところだけをAIに任せれば、生成AIが作った誤った案内を読み上げる場面を減らせます。ただし、分類を誤ると担当部署や後続の手続きがずれるため、受付結果の確認は必要です。

④ 健康・苦情・判断が要る相談は、人へ回す

健康や命に関わる相談、怒っている利用者からの苦情、個別の事情を聞いて判断する相談は、AIに答えさせない用件です。AIの役割は、用件を聞き取って担当者へ正しく回すことに絞ります。苦情の電話をどの段階で上位の担当者へ回すかは、コールセンターのクレーム対応で引き継ぐ基準が参考になります。

複雑な契約の変更や、判断に迷う相談です。弊社が2026年4月に50〜70代の男女241名に行った調査では、人間のオペレーターに対応してほしい場面の上位は「契約内容の複雑な変更があるとき」49.4%、「判断に迷っていて相談したいとき」36.1%、「商品の使い方を具体的に教えてほしいとき」29.0%でした。「命や健康に直結する緊急の問い合わせ」も21.2%が挙げています（コールセンター利用とAI自動応答に関する意識調査）。

同じ調査で、ボイスボットに最も不安を感じる点は「自分の話した内容を正しく聞き取ってもらえるか不安」22.4%、「結局オペレーターにつながるなら二度手間ではないか」22.0%、「想定されたパターン以外の用件に対応できないのではないか」19.5%でした。間違えたら困る用件は人へ回し、回すときは二度手間にさせない。表の④は、この2つの声に応えるための答え方です。

表の4つの答え方は、1本の電話の中で組み合わせて使えます。たとえば解約の電話なら、契約者番号はプッシュ入力で受け、解約の条件は決めた文言で読み上げ、解約の理由は自由に話してもらってAIが分類する、という流れです。シナリオ型と生成AI型のどちらか一方を選ぶ話ではありません。

シナリオ型と生成AI型の仕組みの違いは対話型AIボイスボットと従来型の違いで、プッシュ操作・音声・生成AIを入力の種類ごとに選ぶ考え方はルールベースAIと生成AIの電話対応での使い分けで解説しています。

RAGを使うと誤回答は起きにくくなりますが、なくなるわけではありません。RAG（検索拡張生成）は、AIが答える前に、登録したFAQや業務マニュアルから関係する部分を探し、その内容をもとに答えを作る仕組みです。生成AIに答えさせる用件では、AIが何を根拠に答えるかを自社で決めておくことが欠かせません。

根拠にする資料が古かったり、答えが無いのにAIが答えを作ったりすれば、RAGを使っていても誤回答は出ます。押さえたいのは次の3点です。

• 参照する資料は、料金改定や制度の改正のたびに直す担当を決めておく
• 資料に答えが無い質問には、答えを作らずに人へ回す設定にする
• 参照する資料どうしで内容が食い違わないようにする（古い版を残さない）

デモでは、回答に使ったFAQの版と該当箇所を後から確認できるかを尋ねます。さらに、改定前の料金を聞く質問と、資料に答えがない質問を試し、古い案内を出さずに人へ回せるか確かめてください。

FAQやマニュアルを1か所にまとめて管理する方法は、ナレッジベースの作り方が参考になります。

ボイスボットにとって「答えない」ことは失敗ではなく、正しい応答の1つです。誤回答を防ぐ最後の守りは、迷った電話を人へ回す条件を決めておくことと、回すときに聞き取った内容を担当者へ渡すことです。転送の条件と担当者へ渡す情報を先に決めます。

前出の弊社調査（2026年10月・255名）では、自動音声から人に代わる電話の経験者の33.0%が「自動音声で伝えたはずの要件を、もう一度説明する必要があった」と答えました。導入するなら満たしてほしい条件として「必要なときに確実に人に代われる」「人に代わるときに用件が引き継がれる」のどちらかを選んだ人は41.2%にのぼります（株式会社電話放送局の調査結果）。人へ回すときも、聞き取った用件を渡す設計が必要です。

資料に答えが無い質問で「お答えできません」と言って電話を終えると、利用者はかけ直すしかありません。人へ回す、営業時間外なら折り返しの予約を受ける、SMSで問い合わせフォームを送るなど、次に進める出口を必ず用意しておきます。行き止まりを作らない出口の考え方は、チャットボットのシナリオの作り方の「行き止まりを防ぐ分岐の決め方」も参考になります。

人へ回すときに、AIが聞き取った内容を担当者へ渡す方法は、主に3つあります。担当者の画面に表示する、メールで通知する、つなぐ前に音声で伝える、のいずれかです。担当者が用件を知ったうえで電話に出られれば、利用者に同じ説明をさせずに済みます。通話の内容を要約して後処理を減らす仕組みは、AI通話要約の解説で紹介しています。

公開後にも誤回答は見つかります。テストでは想定していなかった言い方や、料金の改定といった変化が後から起きるためです。誤案内を見つけた後は、案内を止める判断から再開まで確認します。

最初にそろえるのは、あとから見返せる記録です。通話の録音に加えて、AIが何と聞き取り、何と答え、どこへ回したかを1件ごとに残しておくと、電話対応の誤りがどの段階で起きたのかを切り分けられます。導入前に、どこまで記録が残るのかをベンダーに確かめておきます。

誤回答は、人へ回した通話だけを見ても見つかりません。自動回答で完了した通話も定期的に抜き出し、実際に読み上げた内容を、通話時点で有効だった案内文やFAQと照らし合わせます。聞き取った用件や転送先も確認の対象です。

人へ回した電話は、「聞き取れなかった」「資料に答えが無かった」「人の判断が必要だった」など、理由別の件数も記録します。点検の頻度と件数は、入電量と誤案内の影響に応じて決めてください。山口県総合交通センターの導入事例では、電話放送局の営業担当者と毎週定例会を開き、県民と職員の声をもとに応答を見直しています。

誤った回答が見つかったら、録音と記録で実際に流れた文言、質問、参照した資料、転送先を確認します。通話時点で有効だった料金表や案内文と照らし、どの用件で同じ回答が出るかを調べてください。誤案内が続くおそれがある用件は、自動回答を一時停止するか、確認済みの文言への切り替え・人への転送で受け付けます。窓口責任者は、同じ案内が流れた通話を記録から抽出し、利用者への訂正が必要なものと連絡を担当する人を決めます。誤案内の内容と影響を確認し、連絡する期限も決めて記録してください。

原因が古いFAQなら資料を更新し、登録外の質問へ答えていたなら「答えずに人へ回す」設定を見直します。分類や転送先の誤りなら、用件と担当部署の対応を修正してください。修正後は誤案内が起きた質問に加え、言い換えた質問と資料に答えがない質問を試し、正しい案内または有人転送になることを確かめてから自動回答を再開します。

答えられずに人へ回した質問が繰り返し出る場合は、FAQへの追加も検討してください。ただし料金や契約条件は、AIに自由な回答を作らせず、確認済みの文言で案内する対象として扱います。コールセンターのFAQの作り方も参照できます。

料金改定やキャンペーン終了に合わせて、固定文言・FAQ・転送先に古い情報が残っていないか確認します。山口県総合交通センターの事例では、法改正などに合わせてコールフローを頻繁に直す必要があり、改修費用が何度でも無料であることを導入の決め手の一つとしています（山口県総合交通センターの導入事例）。更新にかかる日数や費用の条件は、導入前に確かめておくと、古い案内を残さずに済みます。

誤回答の起きにくさは、デモの印象だけでは分かりません。商談とデモでは、次の6つを具体的に聞いておくと、導入後の運用まで見通せます。質問ごとに、なぜ聞くのかと、答えを聞いたときの判断の目安をまとめました。

製品ごとの比べ方や費用の考え方は、ボイスボットの費用相場の解説もあわせて確認しておくと、見積もりの比較がしやすくなります。

存在しない割引を聞くなど、AIが答えを作ってしまいやすい質問を自社で用意して試します。ベンダーが用意した台本は、そのサービスが得意な流れで作られていることが多いためです。見るところは、AIが答えを作ってしまうか、答えずに人へ回すかです。

• 存在しない割引やプランを聞く（「学生割引はありますか」など、実際には無いもの）
• 前提が間違った質問をする（「先月値下げしたと聞いたのですが」など、事実と違う前提）
• 条件が2つ重なる質問をする（「土曜の午後に、代理人でも手続きできますか」など）
• 途中で用件を変える（予約の話をしていて、途中で解約の話に変える）
• 判断が要る相談をする（「この症状なら、今日行ったほうがいいですか」など）

1つ目と2つ目で、AIが「ございます」「はい、値下げしました」と答えてしまうなら、答え間違いの対策が足りていません。5つ目で人へ回せるかどうかは、表の④の設定ができるかの確認になります。

弊社の電話自動化サービス「DHK CANVAS」は、用件によってシナリオ型の案内とAIによる応答を使い分けます。

DHK CANVASのサービスページに記載している仕組みは、次のとおりです。

• 注文・予約・住所変更などの決まった手順は、シナリオに沿って処理する
• 営業時間・場所・手続きなど繰り返し聞かれる内容は、AIが音声で回答する
• 聞き取れない場合は、言い直しや要約確認を挟む
• AIで完結しない用件は、聞き取った内容を添えて担当部署・担当者へ転送する
• 通話の録音、聞き取った内容の記録、担当者へのメール通知に対応する
• 応答フローを管理画面から作成・変更でき、営業時間や案内内容の修正をその場で反映できる

自治体向けには、生成AI（LLM）とRAG（検索拡張生成）を使った自然発話型のボイスボットも用意しています。住民の発話をLLMが文脈から解釈し、RAGがFAQを参照して応答する仕組みで、ハルシネーションはRAGを使って極力抑える手法で運用します。職員へ転送するときに、AIとの会話を要約して職員に用件を伝えてから住民とつなぐ機能もあります（公共・自治体向けサービス）。

山口県総合交通センターでは、よくある問い合わせにAIが答え、病気に関する相談は職員へ転送します。前橋市国民健康保険課では、自動音声で解決できる用件と職員が直接聞くべき用件を分けました。日本予防医薬は、前述のとおり生成AIを解約理由の分類に使っています。いずれも、生成AIにすべての案内を作らせる事例ではありません。

Q. 生成AIのボイスボットの誤回答は、ゼロにできますか？

ゼロにはできません。音声の聞き取りは100%ではなく、生成AIは資料に無いことでも、もっともらしい答えを作ることがあるためです。そのため、料金や契約条件のように間違えたら困る案内は決めた文言で読み上げ、資料に答えが無い質問は人へ回す設計にして、誤回答が利用者に届く場面を減らします。

Q. ハルシネーションとは何ですか？電話でも起きますか？

ハルシネーションとは、生成AIが事実と違う内容を、もっともらしい文章で作ってしまうことです。生成AIに答えを作らせるボイスボットなら、電話でも起きます。電話の答えは音声で流れて消えるため、利用者が誤りに気付きにくい点に注意が必要です。

Q. シナリオ型のボイスボットなら、誤回答は起きませんか？

決めた文言を読み上げるので、答えの中身が勝手に作られることはありません。ただし、利用者の声を聞き違えたり、用件を取り違えて別の案内を流したり、別の窓口へつないだりする誤りは起きます。要約を読み上げて確かめる手順と、迷ったら人へ回す設定は、シナリオ型でも必要です。

Q. AIの誤回答でお客様に損害が出たら、誰の責任になりますか？

責任の所在は、事案の内容やベンダーとの契約によって異なります。事業者の窓口から流す案内として、間違えたら困る用件はAIに答えさせず、案内の記録を残す設計にします。契約上の分担は導入前に確認し、個別の法的判断が必要な場合は専門家に相談してください。

Q. AIに答えさせてよい範囲は、どうやって決めればよいですか？

決め手は、用件ごとに「その案内を間違えたら何が起きるか」です。料金や契約条件は決めた文言で読み上げ、営業時間や必要書類は登録したFAQから答え、理由や要望は聞き取って分類するだけにし、健康や苦情の相談は用件を確認して人へ回す、という4つに分けます。AIに答えさせるか迷う用件は、決めた文言に固定するか、人へ回します。

Q. 導入後に誤回答に気付くには、どうすればよいですか？

通話の録音に加えて、AIが何と聞き取り、何と答え、どこへ回したかを記録します。自動回答で完了した通話も抜き出し、通話時点の案内文やFAQと照合してください。誤案内が見つかった用件は自動回答を止めるか人へ回し、修正後に同じ質問で再テストしてから再開します。

Q. AIに答えさせない用件ばかりだと、自動化の効果は出ませんか？

AIが答えを返さない使い方でも、自動化できる業務はあります。弊社の導入先の日本予防医薬では、生成AIを解約理由の分類だけに使い、年間7万件の解約電話のうち40.9%が完全自動処理で完結するようになりました。用件の聞き取り、番号の受付、担当への振り分けを自動にする方法も検討できます。

導入前によく出る疑問への答えをまとめます。

ボイスボットの誤回答はゼロにはできませんが、電話対応の誤りを聞き間違い・答え間違い・つなぎ間違いに分ければ、それぞれに打てる手があります。料金や契約条件のように間違えたら困る案内は決めた文言で読み上げ、聞き取った内容はその場で確かめ、迷った電話は用件を添えて人へ回す。この3つが、誤回答を利用者に届けないための骨組みです。

最初の一歩として、直近1か月の入電理由を書き出し、用件ごとに「間違えたら何が起きるか」を考えて、4つの答え方に振り分けてみてください。そのうえでデモに臨めば、ベンダーに確かめるべき点がはっきりします。株式会社電話放送局の電話自動化サービスの導入実績は1,500社以上です。用件の振り分けから応答の流れの設計、公開後の見直しまで、ご相談いただけます。具体的な使われ方は導入事例もあわせてご覧ください。

【本資料は、下記の関心をお持ちの方におすすめです】
・シナリオ型とAIエージェント型の比較軸を整理したい
・ボイスボットを成功させる運用設計

監修者情報

• シェア
• Tweet