前編で述べた通り、
AIは世界を理解していない。
やっているのは、なめらかな関数近似にすぎない。
それでもなお、
AIを意思決定に使いたいと私たちは考える。
そのとき、次に直面するのがこの問題だ。
「では、誰の判断をAIにさせるのか？」
この問いに、単一の答えは存在しない。
現実の意思決定は、そもそも断絶している
従来のAI設計には、暗黙の前提があった。
1つの賢いモデルが、すべてを理解し、最適解を出す
しかしこれは幻想である。
なぜなら、現実の意思決定は、最初から分断されているからだ。
- 営業の判断と法務の判断は違う
- 現場最適と経営最適は一致しない
- 短期利益と長期価値はしばしば衝突する
これらは「情報不足」でも「ノイズ」でもない。
役割と責任が異なる以上、判断軸が異なるのは当然なのである。
つまりこれは、
調整すべき誤差ではなく、
構造として存在する断絶
だ。
断絶を「消す」のではなく「残す」
多くのAIプロジェクトが失敗する理由はここにある。
異なる判断を、
・平均化し
・統合し
・「最適化」という名で潰してしまう
その結果どうなるか。
誰の判断でもない「それっぽい答え」が出てくる。
責任の所在は曖昧になり、
なぜそう決めたのか、誰も説明できない。
マルチエージェント設計は、この逆を行く。
断絶を解消しない。
断絶を、そのまま設計に組み込む。
これが出発点だ。
マルチエージェントとは「理解の分業」ではない
ここで重要な誤解を一つ潰しておく。
マルチエージェントとは、
「複数のAIが協力して世界をより深く理解する仕組み」
ではない。
そもそも、誰も理解していない。
各エージェントが持つのは、
世界観ではなく、判断軸だ。
- 制約を破っていないかだけを見るエージェント
- 効率や期待値だけを最大化するエージェント
- リスクの兆候だけを検知するエージェント
- 「これは人間が決めるべきだ」と止めるエージェント
彼らは合意しない。
合意できないことを前提に、
それぞれの立場から「異議」を出す。
合意はゴールではない
ここが最も重要な点だ。
マルチエージェント設計において、
合意は前提ではない。
合意は、あくまで結果である。
ときには、合意しないまま止まることも正解だ。
- 制約が破られている
- リスクが説明できない
- 判断根拠が契約に書かれていない
そういう状態で進まないために、
エージェントは「割れる」。
これは失敗ではない。
判断が割れること自体が、健全さの証拠なのだ。
全体知性という幻想を捨てる
マルチエージェントは、
「全体として賢くなる」ための仕組みではない。
むしろその逆だ。
全体を一つの知性として扱うのを、意図的にやめる設計
判断を分解し、
責任を分離し、
衝突を可視化する。
AIに世界を理解させる代わりに、
人間の意思決定構造を、そのまま写す。
それが、マルチエージェントの本質である。
小さな結論
AIは理解していない。
マルチエージェントも、理解を生まない。
それでも意味があるのは、
「誰の判断が、どこで、なぜ割れたのか」を
構造として残せるからだ。
それが残る限り、
人間は責任を引き取れる。
そしてそのためにこそ、
AIは使われるべきなのだ。
Related repositories
本稿で述べた
「断絶を消さず、判断を分離したまま扱うAI設計」は、
以下の設計ノート群として公開している。
完成形ではなく、
誰の判断が、どこで割れ、なぜ止まるのかを
構造として残すことを目的としたものだ。
-
multi-agent-orchestration-design
Readable and auditable multi-agent process orchestration - decision-pipeline-reference
Contract-first AI decision system design to prevent PoC failure
- multi-agent-local-value-system
Multi-agent system design treating local currency as distributed decision infrastructure
これらは
「合意を作るためのAI」ではない。
合意できないまま止まることを、正しく記録するための設計である。
コメント