Rosarium

実践事例 / 公開物 / case

第10章 評価結果をKnowledgeと回答範囲の改善へ戻す

評価で見つかった誤情報・根拠不足・粒度の不統一・不完全データを修正する。Knowledgeの改善と再評価を繰り返し、回答の一貫性と信頼性を高める過程を示す。

公開:最終更新:

更新履歴

  1. 公開

ai / 設計 / リファクタリング / レガシー / rag

読む目的: 自然言語サービス・RAG・ナレッジ / AI × ソフトウェア開発 / 事例・実務

このBookの目次(全12章)
  1. 全体構成
  2. 第1章 仕様を答えられない状態から、復元すべき情報を決める
  3. 第2章 対象システムの変更を妨げる構造と知識の不足を整理する
  4. 第3章 調査の起点を作るため、ファイルとクラスの役割を整理する
  5. 第4章 コードから仕様と依存関係を復元する
  6. 第5章 処理の流れを復元し、変更影響を追えるようにする
  7. 第6章 人が読む仕様とAIが使うKnowledgeを分ける
  8. 第7章 UI操作と内部処理を結び付け、操作結果を追えるようにする
  9. 第8章 復元したKnowledgeを、根拠を確認できるQAへつなぐ
  10. 第9章 正しさ・出典・回答拒否から、QAの利用可否を評価する
  11. 第10章 評価結果をKnowledgeと回答範囲の改善へ戻す
  12. 第11章 仕様変更に追従できるKnowledge更新フローを作る
  13. 第12章 QAで暗号処理を調査し、人間の変更判断へつなぐ
目次
  1. 回答だけを直しても、同じ根拠から誤りが繰り返される
  2. 修正後も、同じ観点で回答を確認する

現在位置:第10章・全12章

回答だけを直しても、同じ根拠から誤りが繰り返される

評価で見つかったのは、誤った事実、根拠の未記載、記述粒度のばらつき、不完全な情報に基づく推測だった。出力の文章を直すだけでは、検索される知識の問題が残る。

そのため、該当するRAGデータへ戻り、実装と異なる説明を修正した。参照元を明確にし、出典を回答へ結び付け、同じ粒度で情報を揃えた。根拠のない情報や推測に基づく不完全な記述は削除した。

修正後も、同じ観点で回答を確認する

改善は一度の作業では終わらせず、評価で問題を特定し、データを修正し、再評価するサイクルで進めた。構造化されていることと、内容が正しいことを区別し、検索対象と回答の両方を確認した。

この過程で誤答を減らし、回答の一貫性と信頼性を高めていった。ここでは既存の定性的な改善を述べており、新たな精度や削減率は示さない。

修正した状態も、仕様変更に追従しなければ古くなる。次章では、Knowledge、人向け資料、操作手順を合わせて更新する流れを扱う。