AIシステムの設計図 ― Event / Signal / Decision / Boundary / Human / Log が作る判断アーキテクチャ ―

AIについて語るとき、
多くの議論は

モデル
データ
アルゴリズム

に集中する。

しかし、実際のAIシステムは
モデルだけでは動かない。

AIが社会で安全に動くためには

判断の構造

が必要になる。

AIシステムは
次の6つの要素で構成される。

Event
Signal
Decision
Boundary
Human
Log

これは

AIシステムの設計図

である。

AIシステムの基本構造

AIシステムの構造は
次のようになる。

Event
 ↓
Signal
 ↓
Decision
 ↓
Boundary
 ↓
Human / Action
 ↓
Log

この構造は

AIの判断プロセス

そのものを表している。

1 Event（事象）

最初に入るのは

Event

である。

ユーザーの行動
取引データ
問い合わせ
センサーデータ
ログ

AIは

Eventを理解しているわけではない。

AIは

Eventを

入力データ

として受け取る。

つまりEventは

AIシステムの原材料

である。

2 Signal（AIモデル）

次に

AIモデルが

Signal

を出す。

例えば

不正確率
購買確率
分類ラベル
生成テキスト

Signalは

AIの予測

である。

しかしここで重要なのは

Signalは

判断ではない

という点である。

AIが出しているのは

あくまで

確率的な提案

にすぎない。

3 Decision（判断）

Signalを使って

行動を決める

のが

Decisionである。

例えば

score > 0.8 → 承認
score < 0.2 → 拒否
それ以外 → 人に戻す

これは

ビジネスロジック

であり

判断構造

である。

AIの出力を

どう使うかは

人間が設計する。

4 Boundary（境界）

AIシステムで
最も重要な要素が

Boundary

である。

Boundaryとは

AIが

どこまで判断してよいか

を定義する仕組みである。

例えば

信頼度が低い
未知データ
重大影響
倫理判断
モデル不一致

この場合

AIは

判断を停止する

そして

判断を

人間に戻す

Boundaryは

AIの安全装置

である。

5 Human（人間）

AIシステムでは

最終的な責任は

人間

が持つ。

Boundaryが発動したとき

AIは

判断を人に戻す。

つまり

人間は

例外処理装置

ではない。

人間は

責任主体

である。

AIシステムは

人間を排除するのではなく

責任構造の中に配置する

必要がある。

6 Log（記録）

最後に必要なのが

Log

である。

AIシステムでは

すべての判断を

記録する必要がある。

Event
Signal
Decision
Boundary発動
Human判断

これを

すべて記録する。

これが

Decision Trace

である。

Decision Trace Model

AIシステムでは

最終結果だけではなく

判断の経路

を記録する必要がある。

つまり

Event
→ Signal
→ Decision
→ Boundary
→ Human

この流れを

すべて保存する。

これが

Decision Trace Model

である。

Decision Traceがあると

AIシステムは

次のことができる。

なぜこの判断になったか説明できる
事故の原因を特定できる
判断構造を改善できる
知識を再利用できる

つまり

Decision Traceは

AIシステムの知識資産

なのである。

判断構造を書く人

ここで重要なことがある。

AIシステムの品質は

モデルではなく

判断構造

で決まる。

つまり

Event
Signal
Decision
Boundary
Human
Log

この構造を書いた人が

AIシステムの本当の設計者

である。

AI時代に必要なのは

モデル開発者だけではない。

必要なのは

判断構造を書ける人

である。

AI設計の本質

AIシステムを作るとは

モデルを作ることではない。

AIシステムを作るとは

判断構造を書くこと

である。

Eventが
世界を持ち込む。

Signalが
予測を作る。

Decisionが
行動を決める。

Boundaryが
事故を止める。

Humanが
責任を持つ。

Logが
判断を記録する。

この6つが揃ったとき

AIは

初めて

社会で動くシステム

になる。

AI設計とは

モデル設計ではない。

AI設計とは

判断アーキテクチャの設計

なのである。