記事モデル・確率・振る舞い / AI理論 / principle
LLMを確率モデルとして設計するという立場
LLMを次トークンの確率モデルとして捉え、出力の揺らぎと制約を整理する。プロンプトやRAGを小技ではなく、不確実性を前提とした出力分布の設計として考える。
2026-02-28更新履歴
読む目的： AI理論・モデルの性質
LLMは「プロンプトで操る対象」ではない。
出力分布を設計する対象である。
本アカウントでは、LLMをテクニックではなく構造として扱う立場から発信する。
LLMは何をしているのか
大規模言語モデル（LLM）は、
次のトークンを予測する確率モデルである。
出力は「正解」ではなく、
確率分布からのサンプルに過ぎない。
したがって、
- 出力の揺らぎ
- ハルシネーション
- 温度による変化
これらはすべて確率分布の性質として説明できる。
LLMを魔法のように扱うのではなく、
確率空間上の振る舞いとして理解する必要がある。
プロンプトは何をしているのか
プロンプトは魔法の呪文ではない。
それは、
出力分布にバイアスを与える制約条件
である。
プロンプトを書くという行為は、 出力分布の重みを調整しているに過ぎない。
重要なのはテクニックではなく、
- どの確率空間を扱っているのか
- どの条件を与えているのか
- どの制約を設計しているのか
である。
なぜ「設計」が必要か
LLMは決定的な関数ではなく、
分布からのサンプリングによって出力が決まる。
このような不確実なモデルを業務で扱うには、
- 評価基準を定義する
- 制約を設計する
- 期待値で考える
- 破綻条件を想定する
必要がある。
これはプロンプトの工夫ではなく、
出力分布を制御する設計の問題である。
本アカウントで扱うこと
- LLMを確率モデルとして捉える視点
- ハルシネーションの構造的理解
- RAGを設計対象として扱う議論
- 不確実性を前提にした設計論
扱わないこと：
- プロンプト小技集
- ツール比較
- 感想ベースの議論
立場の宣言
LLMは万能ではない。
そして魔法でもない。
確率モデルである以上、
そこには構造と制約が存在する。
本アカウントでは、
LLMを「使いこなす」のではなく
出力分布を制御する設計対象として扱う。
これが立場である。