ICT技術:ICT Technology 評価関数は誰の価値観か？ ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い
AIは公平だと思われがちだ。数値で評価し、感情に左右されず、一貫した判断を下す。
だがその前提には、ひとつ決定的な見落としがある。
評価関数は、誰かの価値観で書かれている。
しかも多くの場合、それは明示されていない。
...
ICT技術:ICT Technology ICT技術:ICT Technology なぜAIは「常識」を持てないのか ―常識＝断絶の集合体、オントロジーとしての常識
AIは、非常に多くのことを知っている。百科事典より広く、専門家より速い。
それでも私たちは、ある瞬間にこう感じる。
「このAI、常識がないな」
これは能力不足ではない。構造の問題だ。
「常識がない」と感じる瞬間に何が...
ICT技術:ICT Technology なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明できるAI。
それは、一見すると理想的に聞こえる。
だが現場では、説明されたはずなのに、納得できないという状況が繰り返し起きている。
これは実装の問...
ICT技術:ICT Technology 確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率が出ると、人は安心する。
成功確率 82%
リスク 18%
信頼度 0.91
数字が並ぶと、世界が少しだけ理解できた気になる。
だがここに、AI時代特有の大きな誤解がある。
確...
ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの話ではない。アルゴリズムの失敗でもない。
設計の問題だ。
最適化は「善意」で始まる
最適化は、い...
ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。
これは倫理の話ではない。設計と構造の問題である。
責任は「判断の後」に生ま...
ICT技術:ICT Technology なめらかに世界を計算するための数 e と π
ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。
それが e と π である。
π：境界をなめらかにつなぐ...
Uncategorized 人間はどこに残るのか──Human-in-the-loop の再定義
ここまで述べてきたことを、一度整理しよう。
AIは世界を理解していない
AIが扱っているのは、なめらかな計算だけである
現実の判断には、断絶と非連続が存在する
それを扱うために、ロジック・オントロジー・DSLを外...
Uncategorized 断絶を記述せよ──オントロジーとDSLによる判断構造の固定化
昨日の記事では、判断は一つではないという前提に立ち、断絶を消さずに扱うマルチエージェント設計について述べた。
営業・法務・現場・経営。役割が違えば、判断軸が違う。それは調整すべき誤差ではなく、構造として存在する断絶である。
マルチエージ...
Uncategorized 判断は一つではない──断絶を前提にしたマルチエージェント設計
前編で述べた通り、
AIは世界を理解していない。
やっているのは、なめらかな関数近似にすぎない。
それでもなお、
AIを意思決定に使いたいと私たちは考える。
そのとき、次に直面するのがこの問題だ。
「では、誰の判断を...