メインコンテンツへスキップ
       

AI受付・チャットボットが苦情を増幅するとき―人への引継ぎ,カスハラ予防,記録及び委託契約(AI作成)

第1 本記事の対象と結論

1 AI受付を使う企業・法律事務所の問題

AI受付が同じ回答を繰り返し,利用者が人へ相談できず,最後に担当者へ不満が集中することがある。この場面では,顧客の言動だけでなく,受付の設計,誤回答及び引継ぎの途切れも調べる必要がある。
本記事は,顧客対応にAI受付・チャットボットを用いる企業及び法律事務所を対象とし,人への引継ぎ,従業員の保護,記録及び委託契約を一つの運用として整える方法を述べる。AIが常に苦情を増やすという実証結果を示すものではない。

2 法律上の措置と運用提案を区別する

令和8年10月1日から適用される厚生労働省のカスハラ指針は,正当な苦情までカスハラと扱わず,事業主側の不適切な対応が原因・背景となる場合にも留意するよう求めている。従業員の保護とサービスの改善を並行して検討する必要がある。
以下の受付条件,記録項目及び試験方法は,その考え方をAI受付へ当てはめる本記事の運用提案である。法律が一律に特定のボタン,応答時間又はログ形式を定めたという説明ではない。資料の確認日は令和8年10月13日である。

第2 苦情の理由と危険な言動を分ける

1 AIとのやり取りを先に確認する

例えば,返金条件を尋ねた利用者にAIが誤った案内をし,訂正の申出にも同じ回答を返した場合,後から電話した利用者の口調だけを見て判断すると経緯を取り違える。
受付責任者は,利用者の質問,AIが実際に表示した回答,参照した規約・FAQの版,人への引継ぎの申出,待ち時間及び再問合せを確認する。AIの要約が原文を落としていないかも調べる。苦情の内容に理由があるかと,要求の手段・態様が相当かを別々に記録する。

2 保護を改善完了まで待たせない

AI受付に落ち度があっても,暴行,脅迫又は人格を傷つける言動を従業員が受け続ける運用にしない。危険があるときは,上席交代,応対者の退避その他の安全確保を優先する。同時に,誤案内の訂正と本来の申入れへの回答を別の担当者が進める方法が考えられる。
顧客へは,確認できた受付上の問題,対応する窓口及び回答予定を具体的に伝える。原因未確認の段階で責任を断定したり,AIが作った謝罪文を確認なく送ったりしない。サービスの停止・提供拒否は,業法,契約及び利用者の権利への影響を個別に確認する。

第3 人への引継ぎを実際に完了させる

1 利用者が自分で選べる経路を残す

人への相談方法を最初の画面と行き詰まった回答の近くへ示し,受付時間,時間外の方法及び緊急時の連絡先を分かる形にする。「担当者に確認してください」と表示しても,連絡方法がなければ引継ぎは実行できない。
読みにくい表示,音声入力の誤認識,又は障害等によってAI受付を利用しにくい人に備え,電話,書面その他の代替経路を検討する。代替経路も同じAIへ戻るだけになっていないかを試す。合理的配慮の申出それ自体をカスハラと扱わないことにも留意する。

2 自動処理を止める条件を決める

人へ戻す条件には,利用者の明示的な希望,同じ回答の反復,資料不足,規約と回答の不一致,期限のある手続,個別の返金・解除判断,危険又は健康への影響などを挙げる方法がある。回数や時間の閾値は業務ごとに決め,緊急案件をその閾値まで待たせない。
法律事務所では,受任の諾否,利益相反,法的期限及び個別の事件方針を受付AIだけで確定しない。「相談を受け付けた」と「弁護士が受任した」を区別し,担当弁護士が確認する経路を設ける。

3 受付番号だけで完了としない

受付番号の発行,担当窓口への送信,担当者による受領,最初の回答及び案件の解決を分ける。AIが「引き継ぎました」と述べた時点では,担当者が受領したとは限らない。
担当窓口では,受付日時,担当者,回答期限又は次回確認時刻を付け,期限超過を上席へ知らせる。担当者が不在のときの代替者も決める。利用者には,受付の段階と次に何が起こるかを正確に知らせ,決まっていない回答日時をAIに約束させない。

第4 記録と個人情報を一緒に設計する

1 経緯を再現できる記録を残す

一つの受付番号で,①利用者の申出,②実際のAI回答と時刻,③参照資料の版,④人への引継ぎ条件と申出,⑤送信先・受領時刻・担当者,⑥訂正又は最終回答,⑦従業員保護の措置をたどれるようにする。回答の要約だけでは,誤案内や反復を検証できないことがある。
障害によって未送信,送信済み又は成否不明となった受付を区別する。復旧後に同じ依頼を二重送信しないよう,担当窓口の現在値と照合する。AIの会話履歴だけに未処理案件を置かず,AIが使えなくても確認できる台帳を持つ方法が考えられる。

2 全履歴を無期限に集めない

個人情報保護委員会の生成AI利用の注意喚起は,入力の必要性,利用目的及び応答以外の取扱い等の確認を求めている。受付履歴の検証が必要であっても,全ての相談内容を外部AIへ再入力してよいという意味ではない。
利用目的,必要な記録範囲,閲覧者,保存期間,削除及び紛争時の保全を定める。顧客情報と従業員の健康・相談情報は閲覧範囲を分け,改善試験には公開情報又は架空の設例を使う。法律事務所の相談情報では,守秘義務と依頼者との関係も確認する。

第5 委託契約と稼働前の試験

1 ベンダーへの質問と契約事項

調達担当者は,次の事項を仕様書,契約,運用手順及び実際の設定に対応させる。
①AIが回答できる範囲と,人へ戻す条件
②人の受付窓口,受付時間,担当者が受領する方法及び未受領時の通知
③AI回答,参照資料,受付番号及び引継ぎ履歴を取り出す方法
④誤案内を訂正し,問題のある機能を止める権限と連絡先
⑤障害時の代替受付,復旧時の未処理案件照合及び重複防止
⑥モデル,FAQ,プロンプト又は再委託先の変更通知と再試験
⑦入力・出力・ログの利用目的,学習利用,人的アクセス,保存・削除及び契約終了時の返還
⑧事故通知,調査協力,責任分担及び応答・復旧の約束

契約でベンダーの担当を決めても,事業主側の顧客対応と従業員保護が自動的に完了するわけではない。窓口運営部門,法務,人事及び情報システム部門の責任者を対応させ,実行できる体制かを確認する。

2 回答の正しさから引継ぎまで通して試す

稼働前には,正しい質問だけでなく,曖昧な質問,誤った前提,資料のない質問,同じ質問の反復,人への相談希望,期限が近い申出及び時間外の申出を用意する。画面の案内から担当者の受領までを実際に通し,履歴が渡るか,利用者が説明をやり直さずに済むかを確認する。
合格条件は,想定回答との一致だけでなく,危険・例外案件を人へ戻すこと,期限超過を検知すること及び記録を再現できることにも置く。受領できない経路や重大な誤案内が残る場合は,その機能の導入範囲を縮小し,代替受付を確保してから利用を開始する方法が考えられる。

3 導入効果の分母を決める

「AIだけで終了した件数」には,解決した件だけでなく,諦めて離脱した件や人へ渡らなかった件が混ざり得る。AIの終了件数,解決を確認できた件数,未解決,反復,離脱,人への引継ぎ未受領及び再問合せを分けて集計する。
集計対象期間,受付総数,同じ人の再問合せの扱い及び状態不明の件数を併記する。離脱理由が分からないものを自動的に解決扱いしない。担当者の確認・手戻り・苦情対応を含む時間も測り,受付件数の減少だけから効率化を断定しない。

第6 関連記事と一次資料

1 関連記事

カスハラ対策の制度全体と現場対応は,令和8年10月1日施行のカスハラ対策義務化で整理している。
法律事務所のAI利用と事故対応は,法律事務所の生成AI利用ガイドラインの作り方を参照されたい。社内の法務受付については,会社が社内向けの法務AIアシスタントを作るときの法的チェックリストで,企業内部の用途と誤判定への備えを扱っている。

2 一次資料と確認範囲

①厚生労働省カスハラ指針(令和8年告示第51号)。PDF2~6頁,12~24頁。正当な申入れ,事業主側の対応,労働者保護及び再発防止の根拠である。AI受付固有の仕様を定めるものではない。
②個人情報保護委員会生成AIサービスの利用に関する注意喚起等。全3頁。個別サービスの適法性を保証する資料ではない。
③NIST Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile(NIST AI 600-1)。PDF26頁の手作業を含む代替処理及びベンダー契約に関する項目。米国の任意のリスク管理資料であり,日本法上の義務そのものではない。本記事では代替受付と契約点検の参考として用いた。