Decision Trace ModelとLedger — なぜAIシステムには「消せない履歴」が必要なのか —

AIシステムを設計するとき、多くの企業は次のように考える。

  • モデルを作る

  • APIを作る

  • データを保存する

つまり、AIはアプリケーションの一部として扱われる。

しかしAIが社会の意思決定に関わるようになると、
この設計はすぐに問題に突き当たる。

それは

「なぜこの判断が行われたのか」

を説明できないことである。

ここで重要になるのが

Decision Trace Model
そして
Ledger（改ざんできない履歴）

という考え方である。

AIの問題は「予測」ではなく「判断履歴」

AIは予測を行う。

  • 不正検知

  • 信用審査

  • レコメンド

  • 医療診断

  • 自動運転

しかし社会で重要なのは

予測そのものではない。

重要なのは

その予測がどのように意思決定に使われたか

である。

例えば

Event
↓
Signal（AIの予測）
↓
Decision（行動）
ここで問題になるのは

  • なぜこのSignalが採用されたのか

  • 他のSignalはあったのか

  • Boundaryはどう適用されたのか

  • 人間はどこで関与したのか

である。

つまり必要なのは

Decision Trace

である。

Decision Trace Model

Decision Trace Modelは、

判断の経路を記録するモデル

である。

AIシステムの最小構成は次のようになる。

Event
↓
Signal
↓
Decision
↓
Boundary
↓
Human
↓
Log
ここで重要なのは

すべての判断経路を記録すること

である。

つまり

Event
Signal
Decision
Boundary
Human override
これらをすべて

Trace（履歴）

として保存する。

このとき重要になるのが

Ledger型のデータ構造

である。

なぜLedgerが必要なのか

通常のデータベースは

状態を保存する。

例えば

user_status = blocked
しかしAIの判断では重要なのは

状態ではない。

重要なのは

判断がどう変化したか

である。

例えば

Event: transaction detected
Signal: fraud_probability = 0.82
Boundary: threshold = 0.8
Decision: freeze_account
Human: manual_review_required
この一連の流れが

Decision Trace

である。

つまり保存すべきものは

状態
ではなく履歴
なのである。

Ledger型データベース

Ledgerとは

追記型（append-only）の履歴データベース

である。

特徴は次の通り。

  1. 履歴が消えない

  2. 過去の状態を再現できる

  3. 改ざんできない

  4. 監査が可能

つまり

UPDATE
DELETE
を基本的に行わない。

代わりに

INSERT
INSERT
INSERT
を続ける。

例：

t1 fraud_probability = 0.72
t2 fraud_probability = 0.82
t3 decision = freeze_account
t4 human_override = review
この構造は

金融システムの台帳

に非常に近い。

AIシステムは「判断の台帳」である

AIシステムを正しく理解すると、

それは

推論エンジン

ではなく

判断台帳

になる。

つまりAIシステムは

判断の履歴

を積み重ねる装置なのである。

ここでLedgerが重要になる。

Ledgerは

何が起きたか
誰が判断したか
どのBoundaryが適用されたか
をすべて記録する。

これにより

AIの責任構造

が明確になる。

Immutable Database

Ledgerのもう一つの重要な概念が

Immutable Database

である。

Immutableとは

変更できない

という意味である。

つまり

過去を書き換えない

データベースである。

これはAIシステムにとって非常に重要である。

なぜなら

AIの問題の多くは

後から履歴が分からない

ことで起きるからだ。

例えば

  • なぜこの判断が行われたのか

  • モデルはどのバージョンだったのか

  • データは何だったのか

これが分からないと

事故の原因を追跡できない。

Decision Trace × Immutable Ledger

Decision Trace ModelとLedgerを組み合わせると、

AIシステムは次のようになる。

Event Ledger
Signal Ledger
Decision Ledger
Boundary Ledger
Human Ledger
つまり

すべての判断を台帳として記録する。

これは

AIの監査可能性（AI auditability）

を作る。

AIの責任構造

AIの責任問題はよく議論される。

  • AIの責任なのか

  • 開発者の責任なのか

  • 企業の責任なのか

しかし実際には

責任は構造で決まる。

そしてその構造を作るのが

Decision Trace
+
Boundary
+
Ledger
である。

つまり

AIの責任はログに書かれる。

AIは「判断の履歴システム」になる

AIの未来は

巨大なモデルではない。

AIの未来は

判断履歴システム

である。

AIは

Event
Signal
Decision
Boundary
Human
を生成する。

そしてそれらすべてが

Ledger

に書き込まれる。

つまりAIは

判断の台帳を作る機械

になるのである。

結論

AIシステムの本質は

モデルではない。

AIシステムの本質は

Decision Trace

である。

そしてDecision Traceを成立させるためには

Ledger
Immutable Database

が必要になる。

AIの未来は

より賢いモデル

ではなく

より透明な判断履歴

によって作られる。

ledgerシステムに関する技術的な詳細は”time-aware-data-for-ai“にも述べている、興味のある方はそちらも参照のこと。

コメント

タイトルとURLをコピーしました