確率関数は、なぜ不確実性を表現できるのか──AIが「もっともらしさ」を計算する仕組み

books :AIはどんな数学観の上に作られているのか: 有限ルールから生成モデルへ

先週は、超越関数とAIについて考えた。

指数関数、対数関数、三角関数のような超越関数は、単純な四則演算だけでは表せない、変化・成長・周期性・連続的な変換を記述する。AIが複雑な関係を学び、入力から新しい表現を生み出せる背景にも、こうした非線形な数学の構造がある。

しかし、AIが扱わなければならないのは、複雑さだけではない。

現実には、常に不確実性がある。

明日の需要はどれほどになるのか。
設備の異常は本当に起きているのか。
顧客は離反するのか。
この文章の次には、どの言葉が続くのか。

AIは、唯一の正解をあらかじめ知っているわけではない。複数の可能性を比較し、それぞれに「もっともらしさ」を与えながら、予測や生成を行っている。

そのための基本的な構造が、確率関数である。

確率関数は、未来を一つに決める関数ではない

通常、関数と聞くと、入力に対して一つの答えを返すものを想像する。

[
y=f(x)
]

たとえば、気温を入力すると電力需要を返す。商品の価格を入力すると販売量を返す。このような関数は、入力と出力の対応を表している。

しかし、現実の出来事は一つの値に決まらない。

同じ気温、同じ曜日、同じ地域であっても、明日の売上は変わる。雨が降る可能性もあれば、降らない可能性もある。人の行動には、観測できない事情や偶然も含まれる。

そこで確率関数は、単一の答えではなく、起こり得る複数の結果に重みを割り当てる。

[
P(Y=y \mid X=x)
]

これは、「条件 (X=x) が与えられたとき、結果 (Y=y) が起きる確からしさ」を表す。

重要なのは、確率関数が「未来を当てる魔法」ではないことだ。

確率関数は、未来に存在する不確実性を消し去るのではない。複数の可能性を、比較可能な形で表現する。

なぜ数値が確率になるのか

単に候補ごとに数値を付けただけでは、それは確率ではない。

確率として扱うためには、少なくとも二つの重要な条件がある。

第一に、各結果に与えられる値は、0以上1以下でなければならない。

[
0 \leq P(y) \leq 1
]

第二に、考えられるすべての結果の確率を合計すると、必ず1になる必要がある。

[
\sum_y P(y)=1
]

これは、全体で1しかない「可能性の総量」を、複数の候補に配分していると考えると分かりやすい。

たとえば、明日の天気についてAIが次のように出力したとする。

[
P(\text{晴れ})=0.65
] [
P(\text{曇り})=0.25
] [
P(\text{雨})=0.10
]

合計は1になる。

AIは「明日は晴れだ」と断定しているのではない。晴れ・曇り・雨という複数の未来を並べ、それぞれがどれほど整合的かを、一つの分布として示している。

この構造によって初めて、私たちは「晴れが最も有力だが、雨の可能性も無視できない」と理解できる。

確率とは、曖昧さの別名ではない。
複数の可能性を秩序立てて表現するための数学的な構造である。

AIは、確率をどのように作るのか

AIの内部では、最初から確率が計算されているわけではない。

多くの場合、モデルはまず候補ごとに、生の評価値を計算する。この値は、logit（ロジット）と呼ばれる。

[
z_1, z_2, \ldots, z_n
]

たとえば画像を見て、それが「猫」「犬」「鳥」のどれに近いかを考えるAIは、各候補に対して点数を出す。

• 猫：2.8
• 犬：1.4
• 鳥：-0.7

この段階の数値は、確率ではない。負の値も取り得るし、合計しても1にはならない。

そこで使われる代表的な仕組みが、Softmax関数である。

[
P(y_i \mid x)=\frac{e^{z_i}}{\sum_{j=1}^{n}e^{z_j}}
]

この関数は、各候補の点数を指数関数によって正の値へ変換し、それを全候補の合計で割る。

すると、二つのことが同時に実現する。

• すべての値が0から1の間に収まる
• すべての候補の値を足すと1になる

つまりSoftmax関数は、AI内部の比較的自由な評価値を、確率分布という制約を持つ表現へ変換する。

大きな点数を持つ候補は、指数関数によってより強く際立つ。一方で、他の候補が完全に消えるわけではない。

AIは「これが答えだ」と即座に決める前に、候補間の関係を確率分布として組み立てているのである。

LLMは、次の言葉の確率分布をつくっている

大規模言語モデル（LLM）も、この基本構造の上で動いている。

たとえば、

「AIは不確実性を」

という文脈があるとき、LLMは次に続く多くのトークンに対して評価値を計算する。

「扱う」
「理解する」
「減らす」
「表現する」
「判断する」

そして、それらをSoftmax関数によって確率分布へ変換する。

[
P(\text{次のトークン} \mid \text{それまでの文脈})
]

文章生成とは、もっとも確率が高い次の言葉を連続して選ぶ過程であり、あるいは確率分布に基づいて候補を選ぶ過程でもある。

ここで温度（temperature）という設定が意味を持つ。

温度を低くすると、最も確率の高い候補がより選ばれやすくなる。出力は安定しやすいが、似た表現に収束しやすい。

温度を高くすると、低い確率の候補も選ばれやすくなる。出力の多様性は増すが、意外な表現や誤りも増え得る。

これは、AIの創造性と信頼性のトレードオフを、確率分布の形として調整していることを意味する。

確率が高いことと、真実であることは違う

ここで、最も重要な点がある。

AIがある答えに0.95の確率を与えたとしても、それは「95％の確率で真実だ」という保証ではない。

それは、モデルが学習してきたデータ、与えられた文脈、モデル内部の表現のもとで、その候補に高い重みを与えたという意味である。

学習データに偏りがあれば、確率も偏る。入力情報が欠けていれば、もっともらしいが誤った分布がつくられる。現実の変化が学習時点と異なれば、過去に基づく確率は十分に機能しない。

さらに、LLMが出すトークン確率は、外部世界における事実の確率そのものではない。

それは、あくまで「この文脈で次にどの表現が続きやすいか」という言語的な確率である。

だからこそ、AIを現実の判断や行動に接続するとき、確率だけに委ねることはできない。

確率を、判断と行動へつなぐために

確率は、判断にとって重要な入力である。

しかし、確率そのものが判断ではない。

たとえば、設備故障の確率が高いという予測が出たとしても、直ちに操業停止すべきとは限らない。安全への影響、停止コスト、代替手段、センサーの信頼性、現場の確認可能性を合わせて考える必要がある。

同じように、顧客離反の確率が高いからといって、AIが自動的に値引きを提示してよいとは限らない。顧客との関係、契約条件、ブランド方針、担当者の知見、説明責任が関わる。

AIの確率出力を行動へつなぐには、少なくとも次の層が必要になる。

[
\text{Probability}
\rightarrow
\text{Context}
\rightarrow
\text{Constraint}
\rightarrow
\text{Human Gate}
\rightarrow
\text{Decision Trace}
]

確率は可能性を示す。
Contextは、その可能性を現実の状況に置き直す。
Constraintは、越えてはならない安全・法務・倫理・権限の境界を定める。
Human Gateは、人が介入すべき判断を残す。
Decision Traceは、何を根拠に、誰が、どのように決めたかを記録する。

ここに、AIを単なる予測器ではなく、社会や組織のなかで責任を持って協調する存在へ近づけるための設計がある。

不確実性を消すのではなく、引き受ける

確率関数は、曖昧な世界を単純化して、確実な答えを与えるためだけのものではない。

複数の可能性を比較可能な形にし、不確実性の下で判断できるようにするための構造である。

AIが確率を扱えることは重要だ。しかし、AI時代に本当に必要なのは、確率を高めることだけではない。

その確率は何に基づいているのか。
どの程度の不確実性を含んでいるのか。
誰がその結果を利用してよいのか。
どの行動には人の承認が必要なのか。
判断の結果を、後から説明し改善できるのか。

Knowledge Flowが判断の根拠をつなぎ、Trust Infrastructureが行動の境界を定め、Decision Traceが判断の責任を支える。

確率は、AIに不確実性を扱わせるための数学である。
そして、その不確実性を人・AI・組織がどのように引き受け、より良い行動へ変えるか。そこに、これからのAI基盤の本質がある。