Uncategorized 判断を外に出す機械学習基盤 — Decision-Oriented Signal Platformという設計思想 —
多くのAI基盤は、「より賢いモデル」を中心に設計されます。
精度を上げる。
推論を高速化する。
自動化率を高める。
それ自体は間違っていません。
しかし、現実の意思決定環境では、ある問いが決定的に重要になります。
判...
Uncategorized ICT技術:ICT Technology 例外は失敗ではない ―例外処理をどう設計に組み込むか、例外が多いほど健全なシステムという視点
例外が多いシステムは、「未完成」「不安定」「設計が甘い」と思われがちだ。
だから多くのAI・業務システムでは、例外を減らそうとする。
ルールを増やす
条件を網羅する
ケースを潰す
だ...
ICT技術:ICT Technology 評価関数は誰の価値観か？ ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い
AIは公平だと思われがちだ。数値で評価し、感情に左右されず、一貫した判断を下す。
だがその前提には、ひとつ決定的な見落としがある。
評価関数は、誰かの価値観で書かれている。
しかも多くの場合、それは明示されていない。
...
ICT技術:ICT Technology なぜAIは「常識」を持てないのか ―常識＝断絶の集合体、オントロジーとしての常識
AIは、非常に多くのことを知っている。百科事典より広く、専門家より速い。
それでも私たちは、ある瞬間にこう感じる。
「このAI、常識がないな」
これは能力不足ではない。構造の問題だ。
「常識がない」と感じる瞬間に何が...
ICT技術:ICT Technology なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明できるAI。
それは、一見すると理想的に聞こえる。
だが現場では、説明されたはずなのに、納得できないという状況が繰り返し起きている。
これは実装の問...
ICT技術:ICT Technology 確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率が出ると、人は安心する。
成功確率 82%
リスク 18%
信頼度 0.91
数字が並ぶと、世界が少しだけ理解できた気になる。
だがここに、AI時代特有の大きな誤解がある。
確...
ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの話ではない。アルゴリズムの失敗でもない。
設計の問題だ。
最適化は「善意」で始まる
最適化は、い...
ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。
これは倫理の話ではない。設計と構造の問題である。
責任は「判断の後」に生ま...
ICT技術:ICT Technology なめらかに世界を計算するための数 e と π
ここまで、判断・最適化・推論・実行といった「意思決定の構造」を扱ってきた。最後に、少しだけ視点を引いて、それらを“なめらかに扱うための数”について触れておきたい。
それが e と π である。
π：境界をなめらかにつなぐ...
Uncategorized 人間はどこに残るのか──Human-in-the-loop の再定義
ここまで述べてきたことを、一度整理しよう。
AIは世界を理解していない
AIが扱っているのは、なめらかな計算だけである
現実の判断には、断絶と非連続が存在する
それを扱うために、ロジック・オントロジー・DSLを外...