AIは、世界をよく近似する。
驚くほど精密に、
なめらかに、
現実の構造を写し取る。
それでも私たちは、ときどき強い違和感を覚える。
「言っていることは正しい。
でも、意味が分かっていない」
この違和感の正体は、
性能不足ではない。
もっと根本的な問題だ。
それは、
近似できるものと、
原理的に近似できないものの違い
である。
AIがやっていることは「連続近似」
まず事実から始めよう。
現在のAIの中心にあるのは、
-
分布の推定
-
関数の近似
-
勾配に沿った更新
である。
つまりAIは、
連続的な世界の近似
を行っている。
似ていれば近い。
少し違えば少し変わる。
0.49
0.50
0.51
この差は基本的に
なめらかに扱われる。
この性質があるからこそ、
AIは驚くほど自然に振る舞う。
世界は連続に見える
物理世界も、
多くのデータも、
一見すると連続だ。
-
温度
-
速度
-
売上
-
確率
だから私たちはついこう思ってしまう。
「意味もきっと連続的に近似できるはずだ」
しかしここに
決定的な誤解がある。
意味は「断絶」で生まれる
意味は、
連続の中には存在しない。
意味が生まれるのは、
断ち切りの瞬間
だ。
例えば、
0.49
0.51
この差は、
ある瞬間に
-
合格 / 不合格
-
許可 / 拒否
-
安全 / 危険
-
合法 / 違法
に変わる。
ここには
飛躍
がある。
この飛躍は
連続近似の外側
にある。
近似がうまいほど、意味は消える
ここで皮肉な現象が起きる。
AIが滑らかに近似すればするほど、
境界はぼやけ
禁忌は薄まり
文脈の緊張は消える。
結果として、
意味が発生していた断絶点
が埋め戻される。
だから私たちは、
「正しいけど、違う」
と感じる。
意味とは「どこで切るか」である
意味を構造的に言い換えるとこうなる。
意味とは、
-
何を含めるか
-
何を含めないか
-
どこで線を引くか
の結果である。
これは
判断
であり、
確率
勾配
最適化
からは直接導けない。
意味はどこに残るのか
意味は、
モデルの中には入らない。
データにも完全には現れない。
ではどこにあるのか。
意味は、
ロジックの断絶点
に残る。
例えば、
-
この条件では適用しない
-
この場合は判断を止める
-
このケースは人に戻す
つまり、
境界・停止条件・例外処理
として現れる。
ここに意味が宿る。
GNN(Graph Neural Network)
ここまでの話を整理すると、
AI技術は大きく二つの世界に分かれる。
連続近似の世界
-
LLM
-
CNN
-
Transformer
これは
ベクトル空間
で動く。
もう一つは
意味の世界
である。
そこでは、
-
Ontology
-
Semantic Web
-
Rule
-
DSL
といった
論理構造
が使われる。
つまり
AIの世界には
連続世界と意味世界
という二つの層がある。
ここで興味深い技術が登場する。
それが
GNN（Graph Neural Network）
である。
GNNは「構造」を学習する
GNNは少し特殊なAIだ。
通常のAIは
ベクトルを扱う。
しかしGNNは
グラフ
を扱う。
グラフとは、
-
ノード（対象）
-
エッジ（関係）
からなる構造だ。
例えば、
商品 ├カテゴリ ├レビュー └購買履歴
患者 ├症状 ├検査 └診断
設計案 ├Option ├Concern ├Rejected Reason └Stop Condition
これらはすべて
関係構造
である。
GNNは、
この関係構造を使って
情報を伝播させながら学習する。
GNNは意味に近づく
ここが重要なポイントだ。
意味は、
多くの場合
関係
から生まれる。
例えば、
ある設計案が却下された理由は、
-
部品制約
-
安全基準
-
過去事故
-
コスト
といった
関係のネットワーク
の中で決まる。
つまり、
意味の多くは
グラフ構造
として存在する。
GNNは
この構造を学習できる。
そのため、
GNNは
意味に最も近い機械学習
といえる。
しかしGNNでも意味は完全には扱えない
ここで重要なことを言わなければならない。
GNNは
意味を理解するわけではない。
GNNが学習するのは
関係の統計
である。
つまり、
A → B → C
という構造が
よく現れる
ということは学べる。
しかし
ここで止める
という判断は
設計されたルール
である。
つまり、
GNNは
意味構造を近似する
しかし
意味の断絶を決めることはできない
AIの三層構造
ここまでの議論をまとめると、
AIは三層構造になっている。
連続近似 (LLM / Deep Learning) ↓ 関係構造 (GNN) ↓ 意味断絶 (Ontology / Rule / Boundary)
つまり
AIは
世界を近似する
GNNは
関係を学習する
設計は
断絶を書く
設計とは何か
ここで最初の問いに戻る。
AIが意味を扱えないのなら、
誰が意味を書くのか。
答えは
設計
である。
設計とは、
AIの限界を理解し、
意味が発生する
断絶点
を
あらかじめ
書いておく行為
である。
例えば、
-
この確率以下は判断しない
-
このケースは自動化しない
-
この場合は人に戻す
こうした
Boundary
が、
意味の居場所になる。
まとめ
AIは
世界を連続的に近似できる。
GNNは
関係構造を学習できる。
しかし、
意味が生まれるのは
断絶
である。
その断絶は、
モデルの中には生まれない。
それは、
設計された境界
として存在する。
AIは、
世界を写す。
GNNは、
関係を学ぶ。
しかし、
意味を生むのは
どこで切るかを決めた人間
だけだ。
AI時代に問われているのは、
「意味を理解するAIは作れるのか？」
ではない。
「意味が生まれる断絶を
誰がどこに書いているのか？」
という、
設計の問いなのである。
GNNに関連する技術的詳細は、”グラフニューラルネットワーク“に述べている。また意味を扱うAI技術としてはセマンティックウェブ技術や、オントロジー技術がある。興味のある方はそちらも参照のこと。
AIシステム設計・意思決定構造の設計を専門としています。
Ontology・DSL・Behavior Treeによる判断の外部化、マルチエージェント構築に取り組んでいます。
Specialized in AI system design and decision-making architecture.
Focused on externalizing decision logic using Ontology, DSL, and Behavior Trees, and building multi-agent systems.
