Decision Trace Modelを支えるGNN設計 — 判断構造を「学習可能」にするためのグラフモデル —

近年、AIシステムは単なる予測モデルから、判断を生成するシステムへと進化しています。

その中心にあるのがDecision Trace Modelです。

Decision Trace Modelとは何か

Decision Trace Modelは、AIの判断プロセスを

Event（事象）
Signal（特徴・推論）
Decision（判断）
Boundary（制約・停止条件）
Human / Execution（実行・人間介入）
Log（記録）

という構造で表現するモデルです。

これはAIの「判断の流れ」を明示化する設計です。

この構造はどうやって作るのか？

多くのシステムでは

ルールは手書き
関係性は暗黙
判断のつながりはブラックボックス

になっています。

つまり構造はあるが「学習されていない」状態です。

GNNによる構造学習

ここで重要になるのがGraph Neural Network（GNN）です。

GNNは「関係性そのもの」を学習するモデルとなります。

Decision Traceは本質的にグラフ構造を持っています。

Decision Traceをグラフとして定義する

ノード設計

各要素をノードとして定義：

Eventノード
Signalノード
Decisionノード
Boundaryノード
Humanノード
Logノード

エッジ設計

関係性をエッジとして定義：

Event → Signal（特徴抽出）
Signal → Decision（判断生成）
Decision → Boundary（制約適用）
Boundary → Execution（実行許可）
Decision → Log（記録）

これにより「判断の流れ」そのものがグラフになります

具体的なGNNモデル設計

GNNには様々なモデルが存在しています。その中でDecision Trace Modelに適用できるモデルについて以下に述べます。

① 基本構造：GraphSAGE

最も実用的なのはGraphSAGEです。

理由としては以下のようなものになります。

新しいノード（新しい判断）に対応可能
動的グラフに強い
大規模データに対応

GraphSageの更新式

GraphSageの更新式は以下のように表されます。

\[
h_v^{(k+1)} = \sigma \left( W \cdot \mathrm{concat} \left( h_v^{(k)}, \mathrm{AGG} \left( \{ h_u^{(k)} \mid u \in \mathcal{N}(v) \} \right) \right) \right)
\]

これは「周囲の判断文脈を取り込んで更新する」という意味になります。

② Attention強化：GAT

より高度なモデルとしてGraph Attention Network（GAT）があります。

特徴としては以下のようなものがあります。

重要な関係に重みをつける
ノイズを抑制
判断の説明性が向上

これにより

「リスクシグナル」は強く効く
「弱い特徴」は無視される

ことが期待れ覚ます。

GATの更新式

GATの更新式は以下のように表されます。

\[
h_v^{(k+1)} =
\sigma\left(
\sum_{u \in \mathcal{N}(v)}
\alpha_{vu}^{(k)} W^{(k)} h_u^{(k)}
\right)
\]

\[
\alpha_{vu}^{(k)} =
\mathrm{softmax}_u \left(
\mathrm{LeakyReLU}
\left(
a^\top
\left[
W^{(k)} h_v^{(k)} \,\|\, W^{(k)} h_u^{(k)}
\right] \right)
\right)
\]

これは近傍ノードを平均するのではなく、重要なノードに大きな重みをつけるものになります。

③ 異種グラフ：Heterogeneous GNN

Decision Traceではノードの種類が異なるため、Heterogeneous GNN（R-GCNなど）も有効なアプローチとなります。

例えばノードタイプ

Event
Signal
Decision
Boundary
Human

エッジタイプ

triggers
influences
constrains
executes

の時、様々な意味を内包した関係性を学習できます

Heterogeneous GNNの更新式

Heterogeneous GNNの更新式は以下のように表されます。

\[

h_v^{(k+1)} =

\sigma\left(

\sum_{r \in \mathcal{R}}

\sum_{u \in \mathcal{N}_r(v)}

\frac{1}{c_{v,r}}

W_r^{(k)} h_u^{(k)}

+

W_0^{(k)} h_v^{(k)}

\right)

\]
これは、relationごとに異なる意味を持つ影響を分離して学習するものになります。

学習タスク設計

Decision Trace ModelにおけるGNNは、単なるノード分類ではなく、
判断構造そのものを学習するためのタスク設計が重要になります。

① Decision Prediction: 次の判断を予測

説明：
EventとSignalから、どのDecisionが選択されるかを予測するタスク。
これは、AIが過去の判断パターンを学習し、意思決定の再現・自動化を行う基盤となる。

入力：

Event（事象：ユーザー行動、取引、センサーデータなど）
Signal（特徴量：スコア、推論結果、異常度など）
Context（履歴情報、環境条件、ユーザー属性など）

出力：

Decision（選択された判断）
Decision Probability（各候補判断の確率分布）
Optional：Decision Explanation（判断根拠、寄与したSignal）

② Risk Detection: 危険な判断を検出

説明：
特定のDecisionがリスクを伴うかどうかを判定するタスク。
不正検知や異常検知に近く、「その判断をしてよいのか？」を評価する層として機能する。

入力：

Decision
関連するSignal（リスクスコア、異常度など）
Context（ユーザー情報、履歴、環境条件など）

出力：

Risk Score（リスク確率）
Risk Label（High / Medium / Low など）
Optional：Risk Explanation（どの要因がリスクか）

③ Boundary Violation Prediction: 制約違反の予測

説明：
DecisionがBoundary（ルール・制約）を逸脱するかどうかを予測するタスク。
これにより、AIの判断がポリシーやコンプライアンスに適合しているかを事前にチェックできる。

入力：

Decision
Boundary（ルール、ポリシー、制約条件）
Context（取引条件、法規制、時間・場所など）

出力：

Violation Probability（違反確率）
Violation Flag（True / False）
Violated Rules（違反したルールの一覧）

④ Policy Optimization: 最適な判断フローを学習

説明：
どのDecisionを選択すれば最も良い結果（利益・安全性・満足度など）になるかを学習するタスク。
強化学習的なアプローチと組み合わせることで、意思決定の最適化が可能になる。

入力：

State（Event + Signal + Context）
Candidate Decisions（選択可能な判断）
Reward Signal（利益、成功率、ユーザー満足度など）

出力：

Optimal Decision（最適な選択）
Policy（状態 → 判断のマッピング）
Value / Q-value（各判断の期待値）

実装例（PyTorch Geometric）

GraphSAGEを用いたDecision Trace用GNNの基本実装

import torch
import torch.nn.functional as F
from torch_geometric.nn import SAGEConv


class DecisionGNN(torch.nn.Module):
    """
    Decision Trace Model 用の基本的な GNN 実装例

    このモデルは、グラフ上の各ノード表現を
    GraphSAGE によって更新し、
    最終的に各ノードの埋め込み表現を出力する。

    想定するノード例:
    - Event
    - Signal
    - Decision
    - Boundary
    - Human
    - Log

    想定する用途:
    - Decision Prediction
    - Risk Detection
    - Boundary Violation Prediction
    """

    def __init__(self, in_channels, hidden_channels, out_channels):
        """
        Parameters
        ----------
        in_channels : int
            各ノードの入力特徴量次元
        hidden_channels : int
            中間層の埋め込み次元
        out_channels : int
            出力次元
            たとえば Decision のクラス数や、
            最終埋め込みの次元数に対応する
        """
        super().__init__()

        # 1層目:
        # 各ノードが近傍ノードの情報を集約し、
        # 入力特徴から中間表現へ変換する
        self.conv1 = SAGEConv(in_channels, hidden_channels)

        # 2層目:
        # さらに近傍情報を取り込みながら、
        # より高次の文脈表現へ更新する
        self.conv2 = SAGEConv(hidden_channels, hidden_channels)

        # 出力層:
        # ノード埋め込みを最終的な予測空間へ写像する
        self.classifier = torch.nn.Linear(hidden_channels, out_channels)

    def forward(self, x, edge_index):
        """
        Parameters
        ----------
        x : torch.Tensor
            ノード特徴行列
            shape = [num_nodes, in_channels]

        edge_index : torch.Tensor
            グラフ接続情報
            shape = [2, num_edges]

        Returns
        -------
        logits : torch.Tensor
            各ノードに対する予測スコア
            shape = [num_nodes, out_channels]
        """

        # 第1グラフ畳み込み
        # 近傍ノードの情報を集約して中間表現を得る
        x = self.conv1(x, edge_index)

        # 非線形変換
        x = F.relu(x)

        # 過学習を防ぐためのドロップアウト
        x = F.dropout(x, p=0.3, training=self.training)

        # 第2グラフ畳み込み
        # より広い文脈を反映したノード表現に更新
        x = self.conv2(x, edge_index)

        # 再度活性化関数を適用
        x = F.relu(x)

        # 最終的な分類・予測用の線形層
        logits = self.classifier(x)

        return logits

このコードがやっていること:

この実装は、Decision Trace をグラフとして表現したときに、
各ノードが 周囲の関係性を取り込みながら表現を更新する ための基本モデルです。

流れとしては次の通りです。

各ノードに初期特徴量を与える
GraphSAGE により近傍ノードの情報を集約する
中間表現を更新する
最後に分類器で予測を行う

Decision Traceに対応づけるとどうなるか:

たとえば、以下のようなグラフを考えます。

Event ノード：取引発生、ユーザー行動、センサ入力
Signal ノード：異常度、スコア、埋め込み特徴
Decision ノード：承認、拒否、保留
Boundary ノード：ルール、制約、閾値
Log ノード：判断履歴

このとき GraphSAGE は、
あるノードの状態を更新するときに、そのノード単体ではなく

どの Event とつながっているか
どの Signal の影響を受けているか
どの Boundary に制約されているか

を反映した表現を学習します。

たとえば Decision Prediction に使う場合:

このモデルの出力を、Decision ノードに対する分類問題として使うと、

入力: Event + Signal + Context
出力: どの Decision が選ばれるか

を学習できます。

たとえば out_channels=3 にすれば、

approve
reject
review

の3クラス分類として扱えます。

使用例:

model = DecisionGNN(
    in_channels=32,
    hidden_channels=64,
    out_channels=3
)

logits = model(x, edge_index)
pred = logits.argmax(dim=1)

この実装は最小構成の GraphSAGE であり、Decision Trace におけるノード間関係を学習するための基本形となります。
実際にはここに、ノードタイプごとの埋め込み、relation別重み、attention、あるいは Decision / Risk / Boundary 用の個別ヘッドを追加することで、より実用的な判断モデルへ拡張できます。

Decision Trace × GNNの本質— 判断を「学習可能な構造」に変える —

この構造の本質は、判断を「学習可能な構造」に変えることにあります。

これまでのAIシステムは、主に次の2つに分かれていました。

① ルールベース

ルールは明示されている
しかし、変化に弱い
人手でメンテナンスが必要

例：

IF risk_score > 0.8 THEN block

問題：

なぜ0.8なのか学習されない
新しいパターンに対応できない

② ブラックボックス（ML / LLM）

データから学習できる
しかし、判断の根拠が不明

例：

model.predict(x) → reject

問題：

なぜその判断になったか説明できない
制御できない
再現性が弱い

Decision Trace × GNN のアプローチ

この2つの問題を統合的に解決するのが、Decision Trace × GNNです。

発想の転換

従来：判断を「直接出力する」

これから： 判断を「構造として表現する」

判断を構造に分解する

Decision Traceでは、判断を以下に分解します：

Event（何が起きたか）
Signal（どう解釈されたか）
Decision（何を選ぶか）
Boundary（どこで止めるか）
Log（どう記録するか）

これにより、判断が「流れ」ではなく「構造」になります。

GNNの役割

GNNはこの構造の中で、関係性を学習する役割を担います。

例えば：

どのSignalがDecisionに強く影響するか
どのEventパターンがリスクを生むか
どの関係が異常か

つまり

判断の「理由の構造」を学習するものということもできます。

統合するとどうなるか

従来：

ルール → 固定
モデル → 不透明

これから：

構造 → 明示される（Decision Trace）
関係 → 学習される（GNN）
判断 → 制御可能になる（DSL / BT）

ここでの本質的な変化は、判断が

コードでもなく
ブラックボックスでもなく

「構造化された知識」になるといいうことです。

このアプローチはもう一歩踏み込むと、

AIを「予測器」から「判断システム」へ進化させるものだということができます。

さらに重要なポイント— GNNだけでは「判断」は成立しない —

このようにGNNは強力なモデルですが、本質的な限界があります。それは以下のポイントになります。

GNNは「構造（関係性）」は学習できるが
「意味の境界（何が正しいか）」は決められない

これはどうしてか？GNNは、

ノード間の関係
パターン
相関

を学習します。

しかし、

何が許されるのか
どこで止めるべきか
誰が責任を持つのか

といった「意味的・社会的な境界」は学習できません。

これを具体例(不正取引検知)で示します。

不正取引検知に対してGNNは以下のような構造を学習します。

顧客A → 複数の国へ送金
同じデバイス → 複数アカウント
短時間で高額取引

これにより「このパターンはリスクが高い」という関係性を学習できます。

しかし、これを判断にしようとすると、例えば：

リスクスコア 0.8 以上でブロックする？
VIP顧客は例外にする？
夜間取引はどう扱う？

等のGNNでは決められない壁にぶつかります。

これらの問題を解決するために必要になる4つの層があります。

① Ontology（意味の定義）

「何を扱っているのか」を定義する。

例：

Transaction（取引）
User（ユーザー）
Risk（リスク）
Device（デバイス）

「これは取引であり、これはユーザーである」という世界の構造を定義する

② DSL（判断ルール）

「どう判断するか」を明示する。

例：

IF risk_score > 0.8 THEN block_transaction
IF user_type == VIP THEN allow_override

判断基準をコードとして外部化する

③ Behavior Tree（実行構造）

「どの順番で判断するか」を制御する。

例：

Check Risk
 ↓
Check VIP
 ↓
Apply Policy
 ↓
Execute

条件分岐・優先順位・再試行などを管理する

④ GNN（関係性の学習）

「どの関係が重要か」を学習する。

例：

この取引は異常か？
どの特徴がリスクに効いているか？

Signal（特徴）を生成する役割

これら全体をつなぐと以下のようになります。

Event → GNN → Signal → DSL → Behavior Tree → Decision

こごてのポイントは、以下となります。

GNN → 「関係性を発見する」
DSL → 「判断を決める」
Behavior Tree → 「実行を制御する」
Ontology → 「意味を定義する」

この4つが揃って初めて制御可能なAI判断システムが成立します。

よってDecision Trace Systemの最終構造としては以下のようなものとなります。

Ontology（意味）
DSL（ルール）
Behavior Tree（制御）
GNN（学習）
Decision Ledger（記録）

これはAIのための「判断OS」とも言えます。

まとめ

Decision Trace Modelを実現するためには：

判断をグラフとして定義する
GNNで関係性を学習する
OntologyとBoundaryで制御する

ことが重要となります。これは

「AIに判断させる」のではなく
「判断構造を設計し、学習させる」こと

と言い換えることができます。

GNNの技術的な詳細は、本ブログのグラフニューラルネットワークにも述べてあります。興味がある方はそちらもご参照ください。

Deux Ex Machina

AIシステム設計・意思決定構造の設計を専門としています。
Ontology・DSL・Behavior Treeによる判断の外部化、マルチエージェント構築に取り組んでいます。

Specialized in AI system design and decision-making architecture.
Focused on externalizing decision logic using Ontology, DSL, and Behavior Trees, and building multi-agent systems.