ICT技術:ICT Technology なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明でき...
Warning: Undefined variable $author in /home/c1309528/public_html/deus-ex-machina-ism.com/wp-content/themes/cocoon/functions.php on line 131
Deux Ex Machina
ICT技術:ICT Technology ICT技術:ICT Technology 確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率が出ると、人は安心する。
成功確率 82%
リスク 18%
信頼度 0.91
数字が並ぶと、世界が少しだけ理解でき...
ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの...
ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。...
ICT技術:ICT Technology なめらかに世界を計算するための数 e と π
なめらかに世界を計算するための数 e と π
ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。
それが e と π であ...
Uncategorized 人間はどこに残るのか──Human-in-the-loop の再定義
人間はどこに残るのか──Human-in-the-loop の再定義
ここまで述べてきたことを、一度整理しよう。
AIは世界を理解していない
AIが扱っているのは、なめらかな計算だけである
現実の判断には、断絶と非連続が存在する
そ...
Uncategorized 断絶を記述せよ──オントロジーとDSLによる判断構造の固定化
断絶を記述せよ──オントロジーとDSLによる判断構造の固定化
昨日の記事では、判断は一つではないという前提に立ち、断絶を消さずに扱うマルチエージェント設計について述べた。
営業・法務・現場・経営。役割が違えば、判断軸が違う。それは調整...
Uncategorized 判断は一つではない──断絶を前提にしたマルチエージェント設計
判断は一つではない──断絶を前提にしたマルチエージェント設計
前編で述べた通り、AIは世界を理解していない。やっているのは、なめらかな関数近似にすぎない。
それでもなお、AIを意思決定に使いたいと私たちは考える。
そのとき、次に直面す...
ICT技術:ICT Technology なめらかな計算では、判断は表現できない ──AIと不連続性の問題
なめらかな計算では、判断は表現できない ──AIと不連続性の問題
昨日は、なぜAIプロジェクトがPoCで終わり、現場に定着しないのかを書いた。
今日はその理由を、AIが「何をしている存在なのか」という技術的な前提から考えたい。
最近の...
ICT技術:ICT Technology AIプロジェクトは、作る前に「死ぬ」
――今だから言える、AI事前死亡診断の話
AIプロジェクトの相談を受ける中で、ここ数年、同じ光景を何度も見てきました。
PoCは作れた
デモも動いた
でも、現場では使われない
数...