事例実践事例 / 公開物 / case
第10章 評価結果をKnowledgeと回答範囲の改善へ戻す
評価で見つかった誤情報・根拠不足・粒度の不統一・不完全データを修正する。Knowledgeの改善と再評価を繰り返し、回答の一貫性と信頼性を高める過程を示す。
2026年3月更新履歴
読む目的: 自然言語サービス・RAG・ナレッジ / AI × ソフトウェア開発 / 事例・実務
このBookの目次(全12章)
- 全体構成
- 第1章 仕様を答えられない状態から、復元すべき情報を決める
- 第2章 対象システムの変更を妨げる構造と知識の不足を整理する
- 第3章 調査の起点を作るため、ファイルとクラスの役割を整理する
- 第4章 コードから仕様と依存関係を復元する
- 第5章 処理の流れを復元し、変更影響を追えるようにする
- 第6章 人が読む仕様とAIが使うKnowledgeを分ける
- 第7章 UI操作と内部処理を結び付け、操作結果を追えるようにする
- 第8章 復元したKnowledgeを、根拠を確認できるQAへつなぐ
- 第9章 正しさ・出典・回答拒否から、QAの利用可否を評価する
- 第10章 評価結果をKnowledgeと回答範囲の改善へ戻す
- 第11章 仕様変更に追従できるKnowledge更新フローを作る
- 第12章 QAで暗号処理を調査し、人間の変更判断へつなぐ
現在位置:第10章・全12章
回答だけを直しても、同じ根拠から誤りが繰り返される
評価で見つかったのは、誤った事実、根拠の未記載、記述粒度のばらつき、不完全な情報に基づく推測だった。出力の文章を直すだけでは、検索される知識の問題が残る。
そのため、該当するRAGデータへ戻り、実装と異なる説明を修正した。参照元を明確にし、出典を回答へ結び付け、同じ粒度で情報を揃えた。根拠のない情報や推測に基づく不完全な記述は削除した。
修正後も、同じ観点で回答を確認する
改善は一度の作業では終わらせず、評価で問題を特定し、データを修正し、再評価するサイクルで進めた。構造化されていることと、内容が正しいことを区別し、検索対象と回答の両方を確認した。
この過程で誤答を減らし、回答の一貫性と信頼性を高めていった。ここでは既存の定性的な改善を述べており、新たな精度や削減率は示さない。
修正した状態も、仕様変更に追従しなければ古くなる。次章では、Knowledge、人向け資料、操作手順を合わせて更新する流れを扱う。