ICT技術:ICT Technology 判断を外に出すAI基盤 — Ontology / DSL / Behavior Tree による Decision-Oriented Signal Platform —
判断を外に出すAI基盤 — Ontology / DSL / Behavior Tree による Decision-Oriented Signal Platform —
多くのAI基盤は、「モデルをどれだけ賢くするか」に焦点を当てて設...
Warning: Undefined variable $author in /home/c1309528/public_html/deus-ex-machina-ism.com/wp-content/themes/cocoon/functions.php on line 131
Deux Ex Machina
ICT技術:ICT Technology ICT技術:ICT Technology 段階的信用スコアを「契約」として設計する — 信用を学習結果ではなく、解除可能な境界として扱う —
段階的信用スコアを「契約」として設計する — 信用を学習結果ではなく、解除可能な境界として扱う —
信用スコアは便利だ。数字があると、人は安心する。
だが信用スコアには致命的な誤解がある。
信用は“推定値”ではない。信用は 「許可範囲...
Uncategorized 判断を外に出す機械学習基盤 — Decision-Oriented Signal Platformという設計思想 —
判断を外に出す機械学習基盤 — Decision-Oriented Signal Platformという設計思想 —
多くのAI基盤は、「より賢いモデル」を中心に設計されます。
精度を上げる。推論を高速化する。自動化率を高める。
それ...
ICT技術:ICT Technology 例外は失敗ではない ―例外処理をどう設計に組み込むか、例外が多いほど健全なシステムという視点
例外は失敗ではない ―例外処理をどう設計に組み込むか、例外が多いほど健全なシステムという視点
例外が多いシステムは、「未完成」「不安定」「設計が甘い」と思われがちだ。
だから多くのAI・業務システムでは、例外を減らそうとする。
ル...
ICT技術:ICT Technology 評価関数は誰の価値観か？ ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い
評価関数は誰の価値観か？ ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い
AIは公平だと思われがちだ。数値で評価し、感情に左右されず、一貫した判断を下す。
だがその前提には、ひとつ決定的な見落としがある。
評価関...
ICT技術:ICT Technology なぜAIは「常識」を持てないのか ―常識＝断絶の集合体、オントロジーとしての常識
なぜAIは「常識」を持てないのか ―常識＝断絶の集合体、オントロジーとしての常識
AIは、非常に多くのことを知っている。百科事典より広く、専門家より速い。
それでも私たちは、ある瞬間にこう感じる。
「このAI、常識がないな」
これは能...
ICT技術:ICT Technology なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業
「説明可能AI（XAI）」という言葉がある。ブラックボックスではなく、判断の根拠を説明でき...
ICT技術:ICT Technology 確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点
確率が出ると、人は安心する。
成功確率 82%
リスク 18%
信頼度 0.91
数字が並ぶと、世界が少しだけ理解でき...
ICT技術:ICT Technology 最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか
AIは最適化が得意だ。むしろ、それしかできない。
だからこそ、最適化が暴走したとき、世界そのものが歪む。
これはバグの...
ICT技術:ICT Technology AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性
AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。
それでもAIには、どうしても持てないものがある。
それが「責任」だ。...