Runtime Society AI同士が働く社会

🎥 The YouTube version is also available:

Runtime OSとは？ AIエージェント・マルチエージェント時代に必要な新しいAI基盤

Books :ライタイム社会論: AI時代の社会OSと協調知能の設計原理

はじめに

生成AIは、これまで主に「人の質問に答える道具」として使われてきました。

文章を作る。

資料を要約する。

コードを書く。

問い合わせに答える。

しかし、AIエージェントが普及すると、この構図は大きく変わります。

AIは人から一つずつ指示を受けるだけではなく、

目的を理解し、

必要な情報を集め、

他のAIへ仕事を依頼し、

結果を評価し、

次の行動を決めるようになります。

さらに、複数のAIが異なる役割を持ち、互いに協調しながら業務を進めるようになります。

例えば、

営業AIが顧客の要望を理解し、

契約AIが条件を確認し、

在庫AIが供給可能性を判断し、

価格AIが見積もりを作り、

リスクAIが問題を検出し、

承認AIが人間へ確認を依頼する。

このとき、AIは単独で動いているのではありません。

複数のAIが、一つの社会のように役割を分担しています。

私たちは、このように人、AI、組織が実行時に協調する仕組みを Runtime Society と呼びます。

Runtime Societyとは、AIが単に存在する社会ではありません。

AIが役割を持ち、判断し、協調し、責任の境界を守りながら働く社会です。

AIは単体では十分ではない

一つのAIにすべてを任せようとすると、多くの問題が起こります。

営業も契約も品質も法務も、すべてを一つのAIが理解し、判断し、実行することは簡単ではありません。

業務ごとに必要な知識も異なります。

適用されるルールも異なります。

持つべき権限も異なります。

例えば、営業AIは顧客との関係を重視します。

価格AIは利益率を重視します。

在庫AIは供給可能性を重視します。

法務AIは契約リスクを重視します。

それぞれの判断は正しくても、全体としては衝突する可能性があります。

営業AIは値引きを提案したい。

価格AIは利益率を守りたい。

在庫AIは納期を延ばしたい。

顧客対応AIはすぐに回答したい。

このような状況では、単にAIの数を増やすだけではうまくいきません。

必要なのは、

• 誰が何を担当するのか
• どのAIが最終判断するのか
• 意見が対立したときにどうするのか
• どこで人間へ戻すのか
• 誰が責任を持つのか

を定める仕組みです。

Runtime Societyは、この協調構造を設計するための考え方です。

Runtime Societyとは何か

Runtime Societyは、複数のAI、人間、組織が、実行時に役割を持って協調する環境です。

ここで重要なのは、「実行時」という点です。

あらかじめ決められた固定的なワークフローだけではありません。

実際の状況に応じて、

誰が対応するか、

どの知識を使うか、

どのAIへ依頼するか、

どのルールを適用するか、

どこで人間の判断を求めるか

を動的に決めます。

Runtime Societyでは、主に次の要素が必要になります。

• Agent：行動する主体
• Role：担当する役割
• Goal：達成すべき目的
• Context：現在の状況
• Policy：従うべきルール
• Boundary：越えてはいけない境界
• Coordination：協調の仕組み
• Negotiation：意見調整
• Escalation：人間や上位主体への移管
• Decision Trace：判断履歴
• Human Gate：人間が介入する地点

これらが組み合わさることで、複数のAIが安全に働けるようになります。

AIにも役割が必要になる

人間の組織では、役割が明確です。

営業。

開発。

法務。

品質。

経理。

管理者。

それぞれが異なる責任と権限を持っています。

AIにも同じことが必要です。

例えば、企業内に次のAIがいるとします。

• Sales Agent
• Contract Agent
• Risk Agent
• Inventory Agent
• Pricing Agent
• Customer Support Agent

Sales Agentは顧客との関係を理解します。

Contract Agentは契約条件を確認します。

Risk Agentは法務や信用リスクを評価します。

Inventory Agentは在庫と納期を確認します。

Pricing Agentは価格と利益率を計算します。

Customer Support Agentは顧客へ回答します。

それぞれが専門性を持つことで、一つの巨大なAIよりも正確な判断が可能になります。

しかし、専門化すると協調が必要になります。

ここでRoleの設計が重要になります。

Roleには、少なくとも次の要素が必要です。

• 目的
• 担当業務
• 利用可能な知識
• アクセスできるデータ
• 実行できる操作
• 判断できる範囲
• エスカレーション条件
• 責任主体

AIの能力だけでなく、役割と境界を定義することで、組織の中で安全に働かせることができます。

AI同士はどのように協調するのか

複数のAIが働く社会では、協調の方法が必要です。

単純な場合は、順番に処理できます。

例えば、

顧客要望を受け取る。

営業AIが内容を整理する。

契約AIが条件を確認する。

価格AIが見積もりを作る。

承認後に顧客対応AIが回答する。

これは従来のワークフローに近い形です。

しかし現実の業務では、順番だけでは処理できません。

複数のAIが同時に異なる判断を行い、結果を調整する必要があります。

例えば、ある顧客から短納期での大量注文が来たとします。

営業AIは受注したいと考えます。

在庫AIは供給が難しいと判断します。

価格AIは緊急対応費を加算したいと考えます。

顧客対応AIは早く回答したいと判断します。

この場合、Runtime Societyには次のような協調が必要です。

1. 各AIが自分の立場から判断する
2. 判断根拠と制約を共有する
3. 共通のGoalを確認する
4. 衝突する条件を検出する
5. 代替案を生成する
6. 合意できない場合は人間へ戻す

AI同士の協調は、単なるメッセージ交換ではありません。

Goal、Context、Policy、Boundaryを共有しながら、全体として意味のある判断を作ることです。

AI同士にも対立が起こる

複数のAIが異なる目的を持てば、当然対立が起こります。

例えば、

売上最大化

利益率維持

顧客満足

在庫最適化

法令遵守

リスク最小化

は、常に同じ方向を向くとは限りません。

顧客満足を優先すれば、利益率が下がるかもしれません。

在庫を減らせば、納期リスクが高まるかもしれません。

売上を優先すれば、法務リスクが高まる可能性もあります。

人間の組織でも、部門間の対立は起こります。

AI組織でも同じです。

そのためRuntime Societyでは、Conflict Resolutionが重要になります。

対立を解決する方法には、例えば次のようなものがあります。

• 優先順位ルール
• 共通KPI
• Policyによる制約
• リスクレベルによる判定
• 上位Agentによる調停
• 投票
• スコアリング
• 人間へのEscalation

重要なのは、どの方法を使うかを事前に設計しておくことです。

AIが勝手に妥協点を決めるのではなく、組織の価値観と責任構造に基づいて対立を解決する必要があります。

共通Goalがなければ協調できない

AI同士がうまく協調するためには、共通のGoalが必要です。

例えば、

「売上を増やす」

だけをGoalにすると、過剰な値引きや強引な提案が起こるかもしれません。

一方、

「顧客との長期的な関係を維持しながら、利益ある成長を実現する」

というGoalであれば、短期売上だけではない判断が可能になります。

Runtime Societyでは、個々のAIに局所的なGoalを与えながら、全体として共有するGlobal Goalを定義する必要があります。

例えば、

Sales Agent
顧客ニーズに合う提案を作る

Pricing Agent
利益率と市場競争力を両立する

Risk Agent
許容できないリスクを防ぐ

Global Goal
顧客との信頼関係を維持しながら、持続可能な取引を実現する

このGlobal Goalがあることで、各AIの判断を全体最適へ向けることができます。

Runtime SocietyとCommunity Graph

前回の記事では、人、AI、組織、知識、イベントの関係を表現するCommunity Graphを紹介しました。

Runtime Societyは、このCommunity Graphの上で動きます。

Community Graphが示すのは、

• 誰が誰と関係しているか
• どのAIがどの組織に所属しているか
• どの知識へアクセスできるか
• 誰がどの判断に責任を持つか
• どのAgent同士が協調するか

という構造です。

Runtime Societyは、その構造を使って実際に業務を実行します。

つまり、

Community Graphが社会の構造を表し、

Runtime Societyが社会の動きを表します。

静的な組織図ではなく、実際に動く社会モデルです。

Runtime SocietyとTrust Infrastructure

AI同士が協調するためには、相互に信頼できる仕組みが必要です。

あるAIが出した情報は正しいのか。

そのAIには判断権限があるのか。

許可されたデータだけを使っているのか。

結果を改ざんしていないか。

問題が起きた場合に追跡できるか。

これらを支えるのがTrust Infrastructureです。

Runtime Societyでは、各Agentについて次の情報を確認できる必要があります。

• Identity
• Role
• Authority
• Policy
• Boundary
• Knowledge Source
• Decision Trace
• Responsible Organization

例えば、価格AIが見積もりを生成した場合、

どの価格表を使ったのか。

どの割引Policyを適用したのか。

その割引権限を持っていたのか。

誰が最終承認したのか。

を確認できなければなりません。

Trust Infrastructureがなければ、Runtime Societyは複雑なブラックボックスになります。

Trust Infrastructureがあることで、AI同士の協調を説明可能で統制可能なものにできます。

Human Gateはどこに必要か

Runtime Societyでは、すべてをAIだけで完結させる必要はありません。

むしろ、どこで人間が介入するかを設計することが重要です。

例えば、次のような場合です。

• 高額な契約
• 法的責任が発生する判断
• 人権や雇用に影響する判断
• 重大な品質リスク
• AI同士の意見が一致しない
• 前例がない
• Policyが矛盾している
• 利用者から異議申し立てがある

こうした場合、Human Gateを通して人間へ判断を戻します。

重要なのは、人間を単なる最終承認者にしないことです。

AIが、

何を検討したか。

どこで意見が分かれたか。

どのリスクが残っているか。

どの選択肢があるか。

を整理して提示する必要があります。

Human Gateは、人間がゼロから考え直す場所ではありません。

AIが判断を構造化し、人間が責任を持って最終決定する場所です。

AI同士の会話だけでは不十分

複数のAIが自然言語で会話すれば協調できるように見えます。

しかし、会話だけでは十分ではありません。

自然言語には曖昧さがあります。

前提が異なる可能性があります。

重要な制約が見落とされることもあります。

そのためRuntime Societyでは、AI同士が共有する構造化情報が必要です。

例えば、

• Goal
• Context
• Role
• Intent
• Constraint
• Policy
• Candidate
• Risk
• Decision
• Confidence
• Evidence
• Escalation Reason

などです。

AI同士の協調では、

「私はこう思います」

ではなく、

「このGoalに対して、このEvidenceとPolicyに基づき、このConstraintを考慮した結果、この判断を提案します」

という構造が必要です。

これにより、他のAIや人間が判断を検証できます。

Decision Traceが社会の記憶になる

Runtime Societyでは、毎日多くの判断が行われます。

どのAgentが何を提案したか。

どのAIが反対したか。

どのPolicyが適用されたか。

どこでHuman Gateを通したか。

最終的にどの結果になったか。

これらをDecision Traceとして残すことで、Runtime Societyは学習できます。

同じ状況が起きたとき、過去の判断を参照できます。

失敗した協調パターンを改善できます。

不要なEscalationを減らせます。

Policyの矛盾も発見できます。

つまりDecision Traceは、個別AIのログではありません。

社会全体の経験を蓄積する記憶です。

人間社会が制度や判例、慣習を蓄積してきたように、Runtime Societyも判断履歴を通じて成熟していきます。

Runtime Societyの実装イメージ

例えば、企業の受注業務をRuntime Societyとして設計するとします。

登場するAgentは次のようになります。

• Customer Agent
• Sales Agent
• Pricing Agent
• Inventory Agent
• Contract Agent
• Risk Agent
• Approval Agent
• Human Manager

処理の流れは次のようになります。

Customer Request
↓
Sales Agentが要望を整理する
↓
Inventory Agentが供給可能性を確認する
↓
Pricing Agentが価格を計算する
↓
Contract Agentが契約条件を確認する
↓
Risk Agentがリスクを評価する
↓
各Agentの判断をCoordination Agentが統合する
↓
Boundary内なら自動実行
↓
Boundaryを超える場合はHuman Gate
↓
結果を顧客へ通知
↓
Decision Traceを保存する

ここで重要なのは、単なる業務フローではないことです。

各Agentが状況に応じて参加し、必要に応じて追加情報を要求し、別のAgentへ仕事を依頼します。

つまりRuntime Societyは、固定的な自動化ではなく、状況に応じて構成が変わる動的な組織です。

地域社会にもRuntime Societyは応用できる

Runtime Societyは企業内だけの考え方ではありません。

地域社会でも利用できます。

例えば、大規模イベントが開催される日を考えてみます。

• Event Agentが来場者数を予測する
• Mobility Agentが交通混雑を分析する
• Store Agentが周辺店舗の状況を確認する
• Weather Agentが天候リスクを評価する
• Tourism Agentが観光ルートを提案する
• Safety Agentが危険を監視する
• Community Agentが住民への影響を確認する

これらのAIが協調すれば、

混雑を避ける移動案内。

周辺店舗への送客。

観光客の分散。

安全情報の提供。

地域住民への配慮。

を一体として実行できます。

一つの企業だけを最適化するのではなく、地域全体の価値を高めることができます。

これはCommunity Intelligenceを実行するRuntime Societyです。

Runtime SocietyとRelationship Economy

Relationship Economyでは、人、AI、組織の継続的な関係が価値を生み出します。

Runtime Societyは、その関係を実際の行動へ変換する仕組みです。

Knowledge Flowが知識を届ける。

State Understandingが現在を理解する。

Community Graphが関係性を表現する。

Trust Infrastructureが安全な境界を定める。

Runtime Societyが複数の主体を協調させる。

Decision Traceが結果を記憶する。

この循環によって、

Knowledge
↓
Understanding
↓
Coordination
↓
Decision
↓
Action
↓
Trust
↓
Relationship
↓
Value

が生まれます。

Runtime Societyは、AIを自動化ツールから社会の一員へ変えるための実行基盤です。

Runtime Societyのリスク

Runtime Societyには大きな可能性があります。

一方で、複数のAIが連携すると、単体AIにはないリスクが生まれます。

例えば、

• AI同士が誤った前提を共有する
• 一つの誤判断が連鎖する
• 責任の所在が不明確になる
• Agent同士が互いの判断を過信する
• 不必要な処理が繰り返される
• 目的が少しずつずれる
• 利害が衝突して停止する
• 人間が全体を理解できなくなる

といった問題です。

そのため、実装には次の仕組みが必要です。

• 明確なRole
• 最小権限
• 共通Goal
• Boundary
• Timeout
• Deadlock Detection
• Escalation
• Decision Trace
• Audit
• Human Override

AIの数を増やすことと、知能が高まることは同じではありません。

適切な協調設計がなければ、複雑性だけが増える可能性があります。

おわりに

AIエージェントが普及すると、AIは一人の人を支援するだけではなく、他のAIと協調しながら働くようになります。

営業AI。

契約AI。

価格AI。

リスクAI。

地域AI。

公共AI。

それぞれが役割を持ち、共通のGoalに向かって判断し、実行します。

しかし、AI同士を接続するだけでは社会にはなりません。

役割。

責任。

権限。

境界。

信頼。

対立解決。

人間の介入。

判断履歴。

これらを設計して初めて、複数のAIは安全に働くことができます。

Runtime Societyとは、AIが自由に行動する社会ではありません。

人、AI、組織が互いの役割と境界を理解し、協調しながら価値を生み出す社会です。

そして、この協調の仕組みが、Relationship Economyを実際に動かす実行基盤になります。