🎥 YouTubeでも公開しています
全体最適と創造性 ― AI時代に「安全に逸脱できる自由」を設計する
Books: AIはどんな数学観の上に作られているのか: 有限ルールから生成モデルへ
AIエージェントを複数動かす話になると、つい「何体のエージェントを用意するか」「どのモデルに何を任せるか」という話から始めてしまう。
けれど本当に難しいのは、個々のエージェントを賢くすることだけではない。局所的な判断が、全体の目的・制約・責任とどうつながるかを設計することだ。
この問題を考える際に、仏教思想にある因陀羅網（いんだらもう）と、数学・自然科学で知られるフラクタルは、強い示唆を与える。一見すると別の概念だが、どちらも「部分と全体は切り離せない」という見方を持つ。そして、その見方は、これからのマルチエージェント・システムを設計する上で重要になる。
因陀羅網──一つの珠に、全ての珠が映る
因陀羅網は、帝釈天の宮殿を覆う無数の網として語られる。その交点には宝珠があり、それぞれの宝珠が他のすべての宝珠を映している。ある珠を見れば、そこには他の珠が映り、その像の中にもまた無数の珠が映る。
この比喩が示すのは、物事が単に「多数集まった全体」ではないということである。
一つの存在は独立して見えても、他者との関係の中で成り立っている。一つの変化は、その周囲だけでなく、網全体の見え方を変える。反対に、全体の状態は、それぞれの珠のふるまいに現れる。
華厳思想の言葉でいえば、これは一即多・多即一である。一は多と切り離せず、多は一を離れて存在しない。
これは「全員が同じである」という意味ではない。珠はそれぞれ異なる位置にあり、異なる反射を持つ。違いを保ったまま、相互依存しているという意味である。
フラクタル──部分に、全体と似た秩序が現れる
フラクタルは、拡大しても似た形や規則が繰り返し現れる構造を指す。木の枝、海岸線、雲、血管、ブロッコリーなどに、完全ではないにせよ自己相似的なパターンを見ることができる。
フラクタルが大切なのは、単なる形の面白さではない。大きな構造を、同じ生成原理が異なるスケールで支えている点にある。
幹の分岐、太い枝の分岐、細い枝の分岐は、規模こそ違っても似た原理で生まれる。全体を中央から細部まで命令しなくても、局所的な規則が積み重なり、全体として秩序ある形になる。
ただし、ここにも誤解がある。フラクタルは「どの部分も全体のコピーである」ことではない。各部分は局所の条件に応じて異なる形を取りながら、共通の生成規則と接続している。
因陀羅網が相互反映を示すなら、フラクタルは異なるスケールを貫く生成原理を示す。
マルチエージェントに必要なのは、役割分担だけではない
マルチエージェント・システムでは、調査するエージェント、計画するエージェント、実行するエージェント、検証するエージェント、人にエスカレーションするエージェントなどを分けられる。
役割分担は必要である。しかし、役割を分けただけでは、システムは因陀羅網にもフラクタルにもならない。単に連携しにくい部品の集まりになり得る。
一つの実行エージェントが外部APIを呼ぶとき、その操作には少なくとも次の全体的な文脈が必要になる。
- その操作の目的は何か
- どの根拠データとルールに基づくのか
- 誰が、どの条件で許可したのか
- どの範囲まで実行できるのか
- 実行結果を誰が検証し、どこに記録するのか
この文脈が局所のエージェントから失われると、全体として正しい目的を掲げていても、現場では危険な操作や説明不能な判断が起こる。
ここに因陀羅網の視点が効く。各エージェントは、全体を無制限に知る必要はない。しかし、自分の判断がどの目的・根拠・制約・責任につながるかを参照できなければならない。各エージェントの判断に、全体の「反射」が必要なのである。
「全体を知る」ことと「全権限を持つ」ことは違う
ここで重要なのは、因陀羅網を、すべての情報をすべてのエージェントに公開する設計だと取り違えないことだ。
むしろ、マルチエージェントでは逆である。役割と権限は限定されているべきだ。調査エージェントに送金権限は不要であり、実行エージェントに顧客情報の全件閲覧は不要かもしれない。
必要なのは、全データの共有ではなく、判断に必要な文脈を、検証可能な参照として渡すことである。
例えばエージェントが持つべきものは、顧客データそのものではなく、承認済みデータの参照、適用可能なポリシーの版、操作対象のハッシュ、実行予算、承認の有効期限といった形にできる。
これにより、局所のエージェントは自律的に動ける一方、勝手に目的や条件をすり替えられない。全体との接続を保ちつつ、権限は最小化できる。
フラクタルな統治──同じ原理を、異なる粒度に置く
フラクタルの観点から見ると、組織とエージェントの統治には、スケールをまたいで繰り返すべき原理がある。
たとえば、会社全体のAIガバナンス、部門の業務フロー、個別エージェントのTool Callは、粒度が異なる。しかし、次の問いはどの粒度でも共通する。
- 何を目的としているか
- どの根拠とルールに基づくか
- 誰にどこまでの権限があるか
- どの条件で人に引き渡すか
- 結果をどう記録し、検証し、学ぶか
この五つを、全社ポリシーだけに書いても実行されない。逆に、各Tool Callだけに閉じても組織の責任とつながらない。
全社の原則が部門の運用ルールへ、運用ルールがエージェントの実行条件へ、実行条件が一件ごとのDecision Traceへと落ちていく必要がある。細部から見ても、上位の原則に戻れる必要がある。
これは、同じルールを機械的にコピーすることではない。上位では「顧客への外部送信は承認が必要」という方針になり、下位では「送信先・本文・添付・ポリシー版を固定し、承認後に再照合する」という実行条件になる。原理は共通でも、表現と精度は粒度に応じて変わる。
因陀羅網の接続と、フラクタルの境界
マルチエージェントを健全に動かすには、二つの設計を同時に置く必要がある。
因陀羅網から学ぶべきは、接続である。各エージェントの提案・判断・実行が、他のエージェント、人、データ、ルール、結果とどう関係するかを辿れるようにする。
フラクタルから学ぶべきは、境界を越えて保たれる原理である。組織、チーム、ワークフロー、エージェント、Tool Callのどこにおいても、根拠、権限、承認、記録、検証という基本形を失わない。
接続だけを強めると、すべてが相互依存しすぎて、責任の所在が曖昧になる。境界だけを強めると、局所最適のサイロが増え、全体の目的が失われる。
だから必要なのは、「何でもつなぐ」ことではなく、根拠と責任を伴ってつなぐことである。
実装へ落とすための五つの部品
この考えを概念に終わらせないために、マルチエージェントの実装には少なくとも次の部品が必要になる。
1. Operational Ontology
業務上の概念、関係、前提条件を、エージェントが実行前に参照できる形にする。「顧客」「契約」「承認」「例外」といった言葉を揃えるだけでなく、どの条件なら何が可能かを定義する。
2. Authorized Data
AIがもっともらしいと判断したデータではなく、原文根拠、適用範囲、承認者、版、利用制約を伴うデータを使う。各エージェントは、判断の出典を指し示せる。
3. Capability Boundary
エージェントごとに、呼び出せるTool、対象、回数、時間、金額、ネットワーク先を制限する。自律性は、広い権限ではなく、明確な許可範囲によって安全になる。
4. Approval Binding
人が確認した対象と、実際に実行する対象をハッシュなどで結び付ける。承認後に内容、宛先、ポリシー、実行条件が変わっていれば、再承認へ戻す。
5. Decision Trace
提案、参照した根拠、適用したルール、承認、実行、結果、評価を一続きに残す。これは単なるログではない。局所の行為を全体の目的と結果へ再接続するための構造である。
自律性とは、孤立して動くことではない
AIエージェントの自律性を高めるとは、人間から離して好きに動かすことではない。
自分に許された範囲を理解し、必要な根拠を参照し、越えてはならない境界を守り、例外では人へ戻り、その結果を次の判断へ還元できること。それが業務で意味を持つ自律性である。
因陀羅網は、孤立した知性という見方をほどく。一つのエージェントの判断は、データ、ルール、人、他のエージェント、過去の結果と無関係には存在しない。
フラクタルは、全体を一か所から管理し続けなくても、共通の原理が各所に埋め込まれていれば、複雑さの中に秩序を作れることを示す。
マルチエージェントの未来は、「多くのAIを並べること」にあるのではない。一つひとつが局所で役割を果たしながら、全体の目的、根拠、制約、責任を映し返せることにある。
一即多、多即一。
この言葉は、AIが働く社会において、中央集権でも無秩序な分散でもない、新しい実行設計の原理になり得る。
Chinoba
Intelligence as Relationship
Research Platform
founded by
Masao Watanabe
AI Systems Architecture
Decision Trace
Human–AI Coordination
Algorithmic Governance
Related Research
この記事は Chinoba Knowledge Base の一部です。
コメント