Deus Ex Machina

AIは、世界をよく近似する。驚くほど精密に、なめらかに、現実の構造を写し取る。 それでも私たちは、ときどき強い違和感を覚える。 「言っていることは正しい。でも、意味が分かっていない」 この違和感の正体は、性能不足ではない。 近似でき...

ここまでで、AI時代の新しい観点についてのべてきた。 問題はモデルではない 問題は最適化でもない 問題は「判断構造を書いた人がいない」ことだ では次の問いは、これしかない。 その設計...

AI時代になると、必ずこういう議論が起きる。 エンジニアが重要だ PMが要だ データサイエンティストが不足している どれも間違いではない。だが、どれも核心ではない。 AIが社会に入り...

事故は、突然起きるように見える。だが実際には、ずっと前から起きる準備が整っていた。 その共通点は、ほぼひとつだ。 境界が、どこにも書かれていなかった。 境界とは何か 境界とは、 ここから先はやらないここからは人が決...

AIは、巨大化してきた。パラメータは増え、学習データは拡張され、性能指標は次々と更新されていく。 そして、決まってこう言われる。 「もっと大きくすれば、もっと賢くなるはずだ」 だが現場で起きているのは、まったく別の現象だ。 モデルは...

AIは速い。計算は一瞬で終わり、答えはすぐに返ってくる。 だから私たちは、無意識にこう期待してしまう。 「早く、はっきり、決めてほしい」 だが、その期待こそが、AIを最も危険にする。 「すぐ決めるAI」は、本当に賢い...

Human-in-the-loop（HITL）は、AI時代の“安全装置”として語られてきた。 最後は人間が確認する 人間が承認ボタンを押す 重要な判断には人を介在させる 一見すると、責...

マルチエージェントと聞くと、多くの人はこう期待する。 エージェント同士が話し合い 意見をすり合わせ 最終的に合意に至る そして、その合意が最適な判断であるはずだ、と。 だが、ここに重...

Cold-start問題は、技術的な問題だと思われている。 データが足りない モデルが学習できない 精度が出ない だから人は言う。 「データを集めよう」 だが本当にそれだけだろうか...

AIは、止まらない。 最適化は続く 確率は更新される スコアは改善される これは欠陥ではない。計算とは、そういうものだからだ。 だからこそ問わなければならない。 判断を「止める」条...