製造業では、
最も重要な問いがある。
それは
不良品とは何か
という問いである。
工場では
製品を作ることよりも先に
不良品の定義
を決める。
なぜなら
不良品の定義がなければ
品質管理ができない
からである。
興味深いことに
AIシステムの多くは
この最初の問いを
まだ持っていない。
AIは判断を量産する
AIシステムは
判断を量産する。
不正検知
レコメンド
信用審査
広告配信
カスタマーサポート
これらはすべて
毎日
数万
数百万
数億
の判断を出す。
つまりAIは
判断の工場
である。
そして工場には
必ず存在するものがある。
それが
不良品
である。
AIの不良品とは何か
AIの不良品とは
単純に言えば
社会的に成立しない判断
である。
例えば
誤ブロック
誤課金
誤BAN
誤診断
誤推薦
しかし
AIの不良品は
もう少し複雑である。
AIの不良は
大きく3つに分かれる。
1 誤判定（Wrong Decision）
最も分かりやすい不良である。
AIが
間違った判断
を出す。
例えば
正常ユーザーを不正と判定する
安全な取引を拒否する
誤った回答を返す
これは
モデル精度の問題
である。
しかし
AI事故の多くは
ここでは起きない。
2 判断してはいけない判断（Illegal Decision）
AIが
判断してはいけない状況で判断する
これが
実は最も危険な不良である。
例えば
データ不足
未知パターン
信頼度が低い
倫理判断
重大な影響
この場合
AIは本来
止まるべき
である。
しかしBoundaryがないと
AIは
そのまま判断してしまう。
これは
設計不良
である。
3 説明できない判断（Untraceable Decision）
AIシステムでは
もう一つの不良がある。
それは
説明できない判断
である。
例えば
なぜこの顧客を拒否したのか
なぜこの広告を出したのか
なぜこの回答になったのか
もし
ログ
判断理由
Decisionルール
が残っていなければ
この判断は
監査不能
になる。
これは
社会システムとしては
不良品
である。
AI不良の構造
AI不良は
次の3種類に分類できる。
| 不良タイプ | 原因 |
|---|---|
| 誤判定 | モデル |
| 判断してはいけない判断 | Boundary |
| 説明不能判断 | システム設計 |
重要なのは
AIの不良の多くは
モデル以外の原因
で起きることである。
AI歩留まりの本質
AIの歩留まりとは
AI判断のうち
不良品ではない判断の割合
である。
つまり
AI歩留まり = 総判断数 − 不良判断
不良を減らす方法は
モデル改善だけではない
という点である。
むしろ重要なのは
Boundary
Decision
ログ設計
である。
これは
半導体工場と同じである。
半導体企業は
チップを完璧にすることで
歩留まりを上げたのではない。
検査工程
冗長設計
不良解析
によって
歩留まりを上げた。
AIも同じ道を通る。
AI設計の本質
AIシステムを作るとは
モデルを作ることではない。
AIシステムを作るとは
不良を設計すること
である。
つまり
何が不良か
どこで止めるか
どう記録するか
を設計することである。
AIは
Signalを出す。
Decisionが
行動を決める。
Boundaryが
不良を止める。
そして
その結果として
AIの歩留まり
が決まる。
AIの未来は
モデル競争ではない。
AIの未来は
品質工学
なのである。
Chinoba — Runtime Society and Coordination Systems:
chinoba.org
Chinoba
Intelligence as Relationship
Research Platform
founded by
Masao Watanabe
AI Systems Architecture
Decision Trace
Human–AI Coordination
Algorithmic Governance
Related Research
この記事は Chinoba Knowledge Base の一部です。
コメント