Warning: Undefined variable $author in /home/c1309528/public_html/deus-ex-machina-ism.com/wp-content/themes/cocoon/functions.php on line 131
Deux Ex Machina

ICT技術:ICT Technology

判断を外に出すAI基盤 — Ontology / DSL / Behavior Tree による Decision-Oriented Signal Platform —

判断を外に出すAI基盤 — Ontology / DSL / Behavior Tree による Decision-Oriented Signal Platform — 多くのAI基盤は、「モデルをどれだけ賢くするか」に焦点を当てて設...
ICT技術:ICT Technology

段階的信用スコアを「契約」として設計する — 信用を学習結果ではなく、解除可能な境界として扱う —

段階的信用スコアを「契約」として設計する — 信用を学習結果ではなく、解除可能な境界として扱う — 信用スコアは便利だ。数字があると、人は安心する。 だが信用スコアには致命的な誤解がある。 信用は“推定値”ではない。信用は 「許可範囲...
Uncategorized

判断を外に出す機械学習基盤 — Decision-Oriented Signal Platformという設計思想 —

判断を外に出す機械学習基盤 — Decision-Oriented Signal Platformという設計思想 — 多くのAI基盤は、「より賢いモデル」を中心に設計されます。 精度を上げる。推論を高速化する。自動化率を高める。 それ...
ICT技術:ICT Technology

例外は失敗ではない ―例外処理をどう設計に組み込むか、例外が多いほど健全なシステムという視点

例外は失敗ではない ―例外処理をどう設計に組み込むか、例外が多いほど健全なシステムという視点 例外が多いシステムは、「未完成」「不安定」「設計が甘い」と思われがちだ。 だから多くのAI・業務システムでは、例外を減らそうとする。 ル...
ICT技術:ICT Technology

評価関数は誰の価値観か? ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い

評価関数は誰の価値観か? ―スコアに埋め込まれる暗黙の判断と、人間が「書かなかった価値」の扱い AIは公平だと思われがちだ。数値で評価し、感情に左右されず、一貫した判断を下す。 だがその前提には、ひとつ決定的な見落としがある。 評価関...
ICT技術:ICT Technology

なぜAIは「常識」を持てないのか ―常識=断絶の集合体、オントロジーとしての常識

なぜAIは「常識」を持てないのか ―常識=断絶の集合体、オントロジーとしての常識 AIは、非常に多くのことを知っている。百科事典より広く、専門家より速い。 それでも私たちは、ある瞬間にこう感じる。 「このAI、常識がないな」 これは能...
ICT技術:ICT Technology

なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業

なぜ「説明可能AI」は本質的な説明にならないのか ―Explanation と Justification の違いと、ロジックと説明責任の分業 「説明可能AI(XAI)」という言葉がある。ブラックボックスではなく、判断の根拠を説明でき...
ICT技術:ICT Technology

確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点

確率は不確実性を減らすためのものではない ―確率の本当の役割と、「曖昧さを保持する設計」という視点 確率が出ると、人は安心する。 成功確率 82% リスク 18% 信頼度 0.91 数字が並ぶと、世界が少しだけ理解でき...
ICT技術:ICT Technology

最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか

最適化が暴走するとき、何が起きているのか ―目的関数が世界を歪める瞬間と、Goodhartの法則を設計でどう扱うか AIは最適化が得意だ。むしろ、それしかできない。 だからこそ、最適化が暴走したとき、世界そのものが歪む。 これはバグの...
ICT技術:ICT Technology

AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性

AIはなぜ「責任」を持てないのか ――判断と責任が分離できない理由と、ロジック外在化の必然性 AIは、驚くほど正確に答える。ときには人間より速く、網羅的で、冷静だ。 それでもAIには、どうしても持てないものがある。 それが「責任」だ。...
タイトルとURLをコピーしました