AIは、非常に多くのことを知っている。
百科事典より広く、専門家より速い。
それでも私たちは、
ある瞬間にこう感じる。
「このAI、常識がないな」
これは能力不足ではない。
構造の問題だ。
「常識がない」と感じる瞬間に何が起きているか
AIの出力が“おかしい”と感じるとき、
多くの場合それは、
-
文法が壊れている
-
事実が間違っている
からではない。
むしろ、
-
言ってはいけないことを言う
-
やってはいけない順序を無視する
-
暗黙の前提を踏み越える
といった、
境界の踏み外しが起きている。
常識とは「知識」ではない
常識という言葉は、
あまりに曖昧だ。
だが一度、
知識と切り分けて考える必要がある。
-
常識がある ＝ たくさん知っている
-
常識がない ＝ 知らない
これは誤解だ。
常識とは、
何をしないかを知っていること
である。
常識は「連続」ではなく「断絶」でできている
AIが得意なのは、連続した世界だ。
-
似ている
-
近い
-
なめらかにつながる
だが常識は、
この連続性の中に断ち切り線を引く。
-
ここから先は越えない
-
これは説明しない
-
今はその話をしない
この「急な段差」こそが、
常識の正体だ。
常識＝断絶の集合体
常識を構造的に言い直すなら、
常識とは、
世界の中に引かれた
無数の“断絶”の集合体
である。
それは、
-
論理的に導かれない
-
明文化されていない
-
場所と文脈で変わる
にもかかわらず、
破ると強い違和感を生む。
なぜAIは断絶を学べないのか
AIはパターンを学ぶ。
-
頻度
-
類似性
-
共起
しかし断絶は、
-
起きないこと
-
言われないこと
-
避けられていること
で構成されている。
つまり、
データとして現れにくい
AIは世界の“密度”は学べるが、
世界の“切れ目”は学べない。
常識はオントロジーである
ここで視点を変える。
常識を「ルール」や「マナー」と考えると、
必ず破綻する。
常識とは、
世界がどう分節されているかという理解
つまり、
オントロジーだ。
-
何が対象で
-
何が対象外か
-
何が関係し
-
何が無関係か
この分節そのものが、常識である。
オントロジーは「判断の前提」であって、判断ではない
重要なのはここだ。
評価関数も、確率も、最適化も、
すべては
常識というオントロジーの上でのみ成立する
オントロジーがズレると、
-
正しい判断が
-
とんでもなく不適切に見える
という現象が起きる。
AIが「変なことを言う」とき、
多くの場合、
判断ではなく、前提の世界分けがズレている
常識は後から説明できても、事前には書けない
常識の厄介さは、ここにある。
-
破られたときは説明できる
-
だが、事前に全部は書けない
だから人は、
「それは常識でしょ」
と言ってしまう。
これは怠慢ではない。
構造的にそうならざるを得ない。
AIに常識を持たせようとすると、何が起きるか
常識をルール化しようとすると、
-
例外が爆発する
-
文脈依存が解けない
-
判断が硬直する
つまり、
常識を失った“常識ルール”
が生まれる。
常識はAIに埋め込むものではない
ここが結論だ。
常識は、
-
AIに持たせるものではない
-
学習させるものでもない
人間が引き受け続ける前提構造
である。
AIができるのは、
-
常識が破られそうな場所を示す
-
境界に近づいたことを警告する
そこまでだ。
まとめ
-
常識は知識ではない
-
常識は断絶の集合体である
-
断絶はデータになりにくい
-
常識はオントロジーそのもの
-
AIは前提世界を持てない
AIは賢くなれる。
だが、
世界をどう切り分けるかという
“前提そのもの”を引き受けられるのは、
人間だけだ。
オントロジーや知識に対する技術的なアプローチは”オントロジー技術“や”知識情報処理技術“に述べている。そちらも参照のこと。
コメント