人工知能:Artificial Intelligence

なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業 「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明でき...

確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点 確率が出ると、人は安心する。 成功確率 82% リスク 18% 信頼度 0.91 数字が並ぶと、世界が少しだけ理解でき...

最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか AIは最適化が得意だ。むしろ、それしかできない。 だからこそ、最適化が暴走したとき、世界そのものが歪む。 これはバグの...

AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性 AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。 それでもAIには、どうしても持てないものがある。 それが「責任」だ。...

なめらかに世界を計算するための数 e と π ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。 それが e と π であ...

なめらかな計算では、判断は表現できない ──AIと不連続性の問題 昨日は、なぜAIプロジェクトがPoCで終わり、現場に定着しないのかを書いた。 今日はその理由を、AIが「何をしている存在なのか」という技術的な前提から考えたい。 最近の...

――今だから言える、AI事前死亡診断の話 AIプロジェクトの相談を受ける中で、ここ数年、同じ光景を何度も見てきました。 PoCは作れた デモも動いた でも、現場では使われない 数...