事例実践事例 / 公開物 / case
02. 何をAIに任せ、何を人間に残したか
問い合わせの性質を分け、自然言語処理と根拠検索はAIへ、専門判断と例外対応は人間へ残す責任境界を整理する。
2026-09-28更新履歴
読む目的： AI導入・責任・評価 / 事例・実務
このBookの目次（全9章）
現在位置：第2章・全9章
問い合わせを一律に自動化しない
同じ顧客サポートでも、問い合わせの性質は異なります。このケースでは、過去の問い合わせを次の三つに分けて考えます。
- 既存文書に回答根拠があり、確認事項も比較的定型的である
- 既存文書に根拠はあるが、症状の切分けや専門判断が必要である
- 個別調査や開発部門への確認が必要である
AIの主な対象は1です。2と3まで自動化率を上げるためにAIへ任せると、根拠の弱い回答や、影響を判断できない案内が増えます。自動化率ではなく、責任を持って回答できる範囲を先に決めます。
Responsibility Boundary
＋の付いた項目を選ぶと、詳しい説明が下に表示されます。
詳しい説明
気になる項目を選ぶと、その役割や判断理由を確認できます。
問い合わせ
問い合わせ。次の工程：AI。
AI
AI。次の工程：既存システム / Knowledge。
既存システム / Knowledge
既存システム / Knowledge。次の工程：回答条件を満たすか。
回答条件を満たすか
回答条件を満たすか。次の工程：満たす：根拠に基づく回答／満たさない：人間へ引継ぎ。
根拠に基づく回答
根拠に基づく回答。この工程の位置と前後のつながりを確認します。
人間へ引継ぎ
人間へ引継ぎ。この工程の位置と前後のつながりを確認します。
自然な表現の理解
自然な表現の理解。この工程の位置と前後のつながりを確認します。
不足情報の追加質問
不足情報の追加質問。この工程の位置と前後のつながりを確認します。
Knowledge検索
Knowledge検索。この工程の位置と前後のつながりを確認します。
根拠に沿った回答案
根拠に沿った回答案。この工程の位置と前後のつながりを確認します。
専門判断
専門判断。この工程の位置と前後のつながりを確認します。
個別調査
個別調査。この工程の位置と前後のつながりを確認します。
影響の大きい判断
影響の大きい判断。この工程の位置と前後のつながりを確認します。
例外対応
例外対応。この工程の位置と前後のつながりを確認します。
| 担当 | 保持する役割 |
|---|---|
| AI | 自然な問い合わせの解釈、不足情報の確認、検索要求の構成、根拠に沿った回答案 |
| 人間 | 専門判断、個別調査、高影響の操作、例外の処理、最終的な責任 |
| 既存システム / Knowledge | マニュアル、仕様、FAQ、確認済み障害情報、機種・版・公開可否などの事実と制約 |
既存システムの役割はKnowledgeの保管だけではありません。顧客・契約・製品の状態、権限、受付番号、変更やトランザクションの確定は、生成AIとは別の責任境界へ置きます。AIは必要な情報を要求できますが、権限判定や更新結果を推測して確定してはいけません。
問い合わせごとに実行権限を変える
| 問い合わせの状態 | AIが行うこと | 人間が行うこと | 既存システムが担保すること |
|---|---|---|---|
| 公開文書だけで回答できる | 意図整理、追加質問、根拠検索、根拠範囲内の回答 | 原則として介在しない | 製品・版・公開状態の確定 |
| 根拠はあるが症状の判断が必要 | 情報収集、候補根拠、確認済み事項の整理 | 原因切分け、回答の採否、次の調査判断 | 障害・契約・製品状態の参照 |
| 設定変更や高影響操作を含む | 注意点と根拠の提示、有人移行 | 影響判断、承認、顧客への最終案内 | 権限、実行、監査ログ、状態更新 |
| 根拠がない、または矛盾する | 回答を停止し、停止理由を記録 | 個別調査、必要なら開発部門へ確認 | 調査結果や新しいKnowledgeの登録先 |
採用しなかった境界
「すべてAIが回答し、人間が後で監査する」方式は採りません。顧客へ提示した後では取り消せない案内があり、事後監査だけでは責任境界にならないためです。
一方、すべての回答を人間が承認する方式では、定型的な問い合わせも全件有人のままになり、変えたい業務構造が残ります。
また、AI自身が出すConfidence Scoreだけで委任レベルを決めません。回答文の自己評価より、機種・版・公開可否、根拠の有無、高影響操作かどうかといった外部から確認可能な条件を優先します。
委任レベルを変える
回答根拠と確認事項が明確な問い合わせでは、AIへ対話から回答まで委任できます。専門判断が必要なら、AIは情報収集と候補提示までに留めます。個別調査が必要なら、入口で必要情報を集め、人間へ渡す支援に限定します。
同じシステムの中でも、問い合わせのリスクと不確実性に応じて委任レベルを変える設計です。これは「AIを使うか、使わないか」の二択ではありません。どこまで任せ、どこから人間が受理するかを決めることです。
詳しい原則は、AIと人間の責任境界で扱っています。
この責任分担をPoCの評価単位へ落としたものが、次章のRetrieval、Generation、Business Acceptanceです。