SFの話。でも、すぐそこにある未来の話

今日は少しSFのような話をします。
でもこれは、遠い未来の話ではありません。

すでに始まっている未来の延長線上の話です。

■ マルチエージェントはすでに増え続けている

いま、私たちは次の段階に入りつつあります。

• 単一のAIから
• 複数のAI（マルチエージェント）へ

すでに、現実のプロダクトの中でこの流れは始まっています。

例えば：

• Anthropic の Claude Code / Computer Use
  → AIがツールを操作し、タスクを分解しながら実行する
• OpenAI の Assistants / function calling
  → 複数のツールやAPIを呼び分けながら処理を進める
• Microsoft の Copilot
  → ドキュメント理解・検索・生成・実行が統合された形で動く
• Google の Gemini + Workspace
  → 文脈理解、推論、実行が横断的に連携する

これらは一見「一つのAI」に見えますが、内部では：

• 意図を解釈する処理
• 文脈を構築する処理
• リスクや制約を評価する処理
• 実行を行う処理

複数の役割が分かれ、連携して動いている

そして次に起きることはシンプルです。

これらが「お互いにつながり始める」

■ エージェント同士が会話し始めると何が起きるか

ここで重要なのは：

彼らは現実そのものではなく、「他のエージェントの出力」に反応する

ということです

例えば、人間の世界で考えてみます。

• センサーが直接「現実」を見る
  → これは現実への反応です

しかしマルチエージェントでは：

• エージェントAが解釈する
• エージェントBは「Aの解釈」に反応する
• エージェントCは「Bの解釈」に反応する

つまり：

現実 → 解釈 → 解釈 → 解釈 → …

という構造になります。

■ 図で見るとこうなります

（現実）
 ↓
Agent A（解釈）
 ↓
Agent B（解釈）
 ↓
Agent C（解釈）
 ↓
Agent A（再解釈）

ループしているのは「現実」ではなく「解釈」

だということです

■ なぜこれが重要なのか

現実に反応している場合：

• ノイズがあっても補正される
• 外界が基準になる

しかし、解釈に反応している場合：

• 誤解もそのまま増幅される
• 一度ズレると戻りにくい

つまりこれは「現実のフィードバック」ではなく
「思考のフィードバック」になる

と言う現象が起きていることになります

これを一言でいうと

AIは現実と会話しているのではなく、
他のAIの「理解」と会話している

といえます。

■ だから何が起きるか

エージェント同士が「現実」ではなく「解釈」に反応し続けると、次のようなことが起きます。

① 同じ方向の解釈が強化される

最初は小さな判断だったものが、他のエージェントによって補強されます。

例えば、あるエージェントが、

「これは少し危険かもしれない」

と出力したとします。

次のエージェントがそれを受けて、

「危険性があるなら、慎重に扱うべきだ」

と解釈する。

さらに別のエージェントが、

「慎重に扱うべきなら、止める方向で考えるべきだ」

と判断する。

このように、最初は弱いSignalだったものが、ループの中でだんだん強くなっていきます。

つまり、

少し危険かもしれない
↓
慎重に扱うべき
↓
止めた方がよい
↓
止めるのが正しい

② 異なる視点が消える

本来なら、別の見方もあり得ます。

例えば、

• 本当に危険なのか
• 条件付きで進められないか
• 人が確認すればよいのではないか
• リスクよりも機会損失の方が大きくないか

といった視点です。

しかし、同じ方向の解釈が強くなると、こうした別の視点はだんだん弱くなります。

なぜなら、各エージェントが前のエージェントの解釈を前提にしてしまうからです。

結果として、

「危険である」

という前提だけが強くなり、
他の可能性が検討されにくくなります。

③ 特定の意味だけが残る

最終的には、複雑だった状況が一つの意味に圧縮されます。

本来は、

リスクはある
しかし条件付きで実行可能
顧客価値もある
人の確認を挟めば進められる

しかし共振が進むと、

という一つの意味だけが残ります。

逆に、攻めの方向に共振すれば、

だけが残ることもあります。

つまり、思考の共振とは、

複雑な状況が、特定の意味だけに押し込められていく現象

です。

そしてこれが強くなると、マルチエージェントは多様な知性の集合ではなく、
一つの偏った判断を増幅する装置になってしまいます。

■ ここで起きる現象：共振（Resonance）

このループの中で、ある現象が起きます。

特定のSignalが強化され続ける

これは物理でいうところの「共振」です。

■ レーザーとのアナロジー

レーザーはこうして生まれます：

• 光がミラーの間を往復する
• 位相が揃う
• 特定の波長だけが増幅される

同じことがマルチエージェントでも起きます。

■ 思考の共振とは何か

同じ方向の解釈がループの中で強化されること

例えば：

• Risk Agent：「危険」
• Context Agent：「確かに危険そう」
• DecisionっぽいAgent：「止めるべき」

これがループすると：

「止める」という方向だけがどんどん強くなる

逆も同じです：

「進める」共振も起きる

■ これはシンギュラリティなのか？

多くのシンギュラリティ議論は、

この共振が無限に続く状態

を想定しています。

• 自己改善
• 自己強化
• 加速

しかし現実には：

完全な共振は起きにくい

■ 現実に起きるのは「局所共振」

実際に起きるのは：

• 特定の領域だけ強化される
• 他の視点が消える

偏った最適化

です

■ 偏った最適化はどうなるか

最初はうまくいきます。

• 効率が上がる
• 指標が改善する

しかしその後：

• 重要なSignalが無視される
• フィードバックが歪む
• 自己強化ループになる

そして最終的に：

システムは破綻します

■ ここからが本題：DTMがない世界

DTMがない場合、この共振はどうなるか。

■ Decisionが存在しない

• 誰も決めていない
• でも何かが起きている

「なんとなくそうなった」世界

■ Boundaryがない

• 止める条件がない
• エスカレーションがない

共振は止まらない

■ Humanがいない

• 位相をずらす存在がいない

同調が崩れない

■ Logがない

• なぜそうなったか分からない

改善できない

■ 結果

マルチエージェントは「制御されていない共振系」になる

■ では、何が足りないのか？

ここで一度立ち止まる必要があります。

問題は、AIの精度ではありません。
問題は、エージェントの数でもありません。

問題は「構造」がないことです。

本来必要なのは：

• 解釈（Signal）と
• 採用（Decision）を分けること

そして、

• どこで止めるか（Boundary）
• いつ人が介入するか（Human）
• 何が起きたかを残すこと（Log）

です。

つまり、共振そのものではなく
共振を扱う「枠組み」が必要になる

■ そこで初めてDTMが登場する

DTMは、この問題に対する一つの答えです。

■ DTMは「共振を止める技術」ではない

まず前提をクリアにすると：

DTMは共振を消すものではない
共振を「制御可能な形にする」もの

つまり：

• 共振＝悪ではない（創造性の源）
• 無制御共振＝危険
• 制御された共振＝価値

■ DTMがあると何が起きるか

ここで初めて、構造が変わります。

■ SignalとDecisionが分離される

「解釈」と「採用」が分かれる

■ Boundaryが入る

共振を「途中で切れる」ようになる

■ Humanが入る

位相がずれる（共振が固定化しない）

■ Logが残る

共振が後から分析できる

■ ここで重要な誤解を避ける

ここで一つ重要な点があります。

DTMは万能の特効薬ではない

DTMは、マルチエージェントの問題をすべて解決するものではありません。
むしろ、

新しい「トレードオフ」を導入する構造です

■ DTMがある世界の価値

DTMが入ることで、確かに大きな変化が起きます。

• 意思決定が見える
• 暴走が止められる
• 責任が明確になる
• 学習可能になる
• エージェントが「システム」になる

無秩序な共振は、制御可能な意思決定へと変わる

■ しかし、その代償がある

ここが本質です。

■ ① スピードが落ちる

• Decision評価
• Boundaryチェック
• Human介入

即応性は確実に下がる

■ ② 探索空間が狭くなる

本来、共振は：

• 極端な仮説
• 新しい解釈

を生みます。

しかしDTMは：

それを安全な領域に収束させる

ブレークスルーが出にくくなる可能性

■ ③ 設計コストが高い

• Decision設計
• Boundary設計
• DSL設計

「考えなくていいAI」ではなくなる

■ ④ 過剰制御のリスク

• すぐ止まる
• 何も進まない

安全だが価値を生まない状態

■ ⑤ 「正しく間違える」

• 構造は正しい
• しかし前提が間違う

綺麗に破綻する

■ 本質的なトレードオフ

ここがこの話の核心です。

■ DTMなし

• 自由
• 高速
• 創発的
• 危険

Exploration（探索）に強い

■ DTMあり

• 安定
• 再現性
• 制御可能
• 制約あり

Exploitation（活用）に強い

つまりこれは「どちらが良いか」の問題ではない

どこで使い分けるかの問題である

■ 正しい設計思想

ここで設計の話に入ります。

DTMは「全てに入れるものではない」

■ 推奨構造

共振は上流で起こし、Decisionは下流で制御する

■重要な洞察

「問題は共振ではない。
共振をどこで止めるかである。」

■ ここで視点を変える：可能世界論理

ここで、もう一つ別の視点を入れてみます。

物理ではなく、論理学の話です。

■ 可能世界論理とは何か

可能世界論理とは：

「前提が違えば、別の世界として扱う」

という考え方です。

例えば：

• 雨が降る世界
• 雨が降らない世界

どちらかが間違いなのではなく、それぞれが成立する世界

そして重要なのは：

それぞれの世界の中では、一貫した論理が成り立つ

可能性界については”可能世界と論理学と確率と人工知能と“でもう少し詳しく述べています。

興味のある方はそちらもご参考ください

■ 意思決定との接続

現実の意思決定も同じです。

• リスクを重視する世界
• コストを重視する世界
• スピードを重視する世界

それぞれが合理的な「別の世界」

■ 問題の本質

通常のシステムでは：

これらを混ぜるか、潰す

結果：

• 矛盾
• ブレ
• 偏り

一つの世界に収束してしまう

■ DTM Ledgerが変えるもの

DTMでは、これが変わります。

前提ごとに世界を分離して保持できる

混ぜない、潰さない、残す

■ Decisionの再定義

ここでDecisionの意味が変わります。

従来：

正しい答えを選ぶ

DTM的：

どの世界（前提）を採用するかを決める

意思決定とは、事実を選ぶことではない
前提を選ぶことである

■ 共振との関係

ここで最初の話に戻ります。

共振とは：

特定の世界が強化される現象

• リスク世界だけ残る
• 攻めの世界だけ残る

これは「世界の淘汰」となります

これが

DTMなしでは、

一つの世界に収束し、それが現実になる

DTMあでは

複数の世界を保持し、後から選択できる

DTMは、可能世界を潰さずに扱うための構造である

■ シンギュラリティへの現実的な答え

• 無制御共振 → 危険
• 完全制御 → 停滞

必要なのは「制御された不安定性」

この話はSFのように聞こえるかもしれません。

しかし現実はすでに：

• マルチエージェントは増え続けている
• エージェント同士は接続され始めている

そして問題は、

「AIがどれだけ賢いか」ではない

「その相互作用を制御できるかどうか」

AIの問題は精度ではない。
自由と制御のバランスである。

Chinoba

Chinoba

Intelligence as Relationship

Research Platform

founded by

Masao Watanabe

AI Systems Architecture
Decision Trace
Human–AI Coordination
Algorithmic Governance