ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの...
Warning: Undefined variable $author in /home/c1309528/public_html/deus-ex-machina-ism.com/wp-content/themes/cocoon/functions.php on line 131
Deux Ex Machina
ICT技術:ICT Technology ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。...
ICT技術:ICT Technology なめらかに世界を計算するための数 e と π
なめらかに世界を計算するための数 e と π
ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。
それが e と π であ...
Uncategorized 人間はどこに残るのか──Human-in-the-loop の再定義
人間はどこに残るのか──Human-in-the-loop の再定義
ここまで述べてきたことを、一度整理しよう。
AIは世界を理解していない
AIが扱っているのは、なめらかな計算だけである
現実の判断には、断絶と非連続が存在する
そ...
Uncategorized 断絶を記述せよ──オントロジーとDSLによる判断構造の固定化
断絶を記述せよ──オントロジーとDSLによる判断構造の固定化
昨日の記事では、判断は一つではないという前提に立ち、断絶を消さずに扱うマルチエージェント設計について述べた。
営業・法務・現場・経営。役割が違えば、判断軸が違う。それは調整...
Uncategorized 判断は一つではない──断絶を前提にしたマルチエージェント設計
判断は一つではない──断絶を前提にしたマルチエージェント設計
前編で述べた通り、AIは世界を理解していない。やっているのは、なめらかな関数近似にすぎない。
それでもなお、AIを意思決定に使いたいと私たちは考える。
そのとき、次に直面す...
ICT技術:ICT Technology なめらかな計算では、判断は表現できない ──AIと不連続性の問題
なめらかな計算では、判断は表現できない ──AIと不連続性の問題
昨日は、なぜAIプロジェクトがPoCで終わり、現場に定着しないのかを書いた。
今日はその理由を、AIが「何をしている存在なのか」という技術的な前提から考えたい。
最近の...
ICT技術:ICT Technology AIプロジェクトは、作る前に「死ぬ」
――今だから言える、AI事前死亡診断の話
AIプロジェクトの相談を受ける中で、ここ数年、同じ光景を何度も見てきました。
PoCは作れた
デモも動いた
でも、現場では使われない
数...
python ソフトマックス関数の概要と関連アルゴリズム及び実装例について
ソフトマックス関数の概要
ソフトマックス関数（Softmax function）は、実数のベクトルを確率分布に変換するために使用される関数であり、通常、機械学習の分類問題において、モデルの出力を確率として解釈する...
python Word Sense Disambiguationの概要とアルゴリズム及び実装例について
Word Sense Disambiguationの概要
Word Sense Disambiguation（WSD）は、自然言語処理（NLP）の分野で重要な課題の一つで、この技術の目的は、文中の単語が複数の意味...