ICT技術:ICT Technology なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明できるAI。
それは、一見すると理想的に聞こえる。
だが現場では、説明されたはずなのに、納得できないという状況が繰り返し起きている。
これは実装の問...
ICT技術:ICT Technology
ICT技術:ICT Technology ICT技術:ICT Technology 確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率が出ると、人は安心する。
成功確率 82%
リスク 18%
信頼度 0.91
数字が並ぶと、世界が少しだけ理解できた気になる。
だがここに、AI時代特有の大きな誤解がある。
確...
ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの話ではない。アルゴリズムの失敗でもない。
設計の問題だ。
最適化は「善意」で始まる
最適化は、い...
ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。
これは倫理の話ではない。設計と構造の問題である。
責任は「判断の後」に生ま...
ICT技術:ICT Technology なめらかに世界を計算するための数 e と π
ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。
それが e と π である。
π：境界をなめらかにつなぐ...
ICT技術:ICT Technology なめらかな計算では、判断は表現できない ──AIと不連続性の問題
昨日は、
なぜAIプロジェクトがPoCで終わり、
現場に定着しないのかを書いた。
今日はその理由を、
AIが「何をしている存在なのか」
という技術的な前提から考えたい。
最近のAI活用を見ていると、ある前提が静かに忘れ去...
ICT技術:ICT Technology AIプロジェクトは、作る前に「死ぬ」
――今だから言える、AI事前死亡診断の話
AIプロジェクトの相談を受ける中で、ここ数年、同じ光景を何度も見てきました。
PoCは作れた
デモも動いた
でも、現場では使われない
数...
python ソフトマックス関数の概要と関連アルゴリズム及び実装例について
ソフトマックス関数の概要
ソフトマックス関数（Softmax function）は、実数のベクトルを確率分布に変換するために使用される関数であり、通常、機械学習の分類問題において、モデルの出力を確率として解釈する...
python Word Sense Disambiguationの概要とアルゴリズム及び実装例について
Word Sense Disambiguationの概要
Word Sense Disambiguation（WSD）は、自然言語処理（NLP）の分野で重要な課題の一つで、この技術の目的は、文中の単語が複数の意味...
python MobileNetについて
MobileNetについて
MobileNetは、コンピュータビジョン分野で広く使用されているディープラーニングモデルの一つであり、Googleが開発したモバイルデバイス向けに最適化された軽量で高効率な"CNNの概要...