Human-in-the-loop（HITL）は、
AI時代の“安全装置”として語られてきた。
-
最後は人間が確認する
-
人間が承認ボタンを押す
-
重要な判断には人を介在させる
一見すると、
責任も判断も人間に残っているように見える。
だが現場では、
HITL はほとんど機能しない。
それどころか、
責任を失わせる装置として働くことが多い。
「最後に人間」が置かれた瞬間に起きていること
Human-in-the-loop の典型的な構図はこうだ。
-
AIが判断を生成する
-
スコア・確率・理由が提示される
-
人間が Yes / No を選ぶ
このとき、人間は
「判断している」ように見える。
だが実際には、
すでに決まった流れを、
追認しているだけ
になっている。
人は「作者」でない判断に責任を持てない
ここが決定的なポイントだ。
責任とは、
-
結果を引き受けること
-
だが同時に
-
その判断を書いた当事者であること
を前提にしている。
HITL における人間は、
-
評価関数を書いていない
-
前提条件を選んでいない
-
停止条件を決めていない
それでも最後に
「承認」だけを求められる。
このとき起きるのは、
形式的な責任と、
実質的な無力感の分離
だ。
なぜ「最後に人間」は判断を失うのか
理由は単純だ。
-
判断の文脈を作っていない
-
選択肢の構造を設計していない
-
他の可能性を消した過程を知らない
人は、
自分が書いていない問いに、
本気で答えることはできない
Yes / No を押す行為は、
判断ではない。
HITL は「責任の押し付け合い」を生む
HITL が常態化した組織では、
必ず次の会話が生まれる。
-
開発者：「AIの判断です」
-
現場：「承認したのは人間です」
-
経営：「プロセスは守られていた」
責任は分散し、
誰も“判断の作者”ではなくなる。
これこそが、
HITL の最大の失敗だ。
問題は「人が入っていない」ことではない
ここで重要な反転がある。
問題は、
-
人がループに入っていないこと
-
人が承認していないこと
ではない。
人が“作者として入っていない”こと
が問題なのだ。
Human-as-Author とは何か
Human-as-Author（HAA）とは、
人間が判断の“最後”ではなく、
判断の“起点”と“構造”を書く立場
に立つことだ。
具体的には、人間が以下を引き受ける。
-
何を評価対象にするか
-
何を評価しないか
-
どこで判断を止めるか
-
どこから人に戻すか
-
合意しない場合をどう扱うか
AIはその後で、
-
計算する
-
揺らぎを示す
-
衝突を可視化する
役割を担う。
承認者から作者へ、立場が変わると何が変わるか
Human-as-Author の立場に立つと、
人の振る舞いは根本的に変わる。
-
「なぜこの指標なのか」を説明できる
-
合意しない結果を受け止められる
-
例外が出ても慌てない
-
止める判断を引き受けられる
なぜなら、
その判断が“自分の書いたもの”だから
だ。
AIは判断を代替しない。判断を書く人を露出させる
このブログを通して見えてきたことはAIは、
-
判断を奪う存在ではない
-
責任を持つ存在でもない
AIが本当にやっているのは、
誰が判断を書いたのかを、
逃げられなくすること
だ。
Human-in-the-loop は、
その露出を曖昧にする。
Human-as-Author は、
それを正面から引き受ける。
まとめ
ここまで言ってきたことをまとめると以下のようになる。
-
AIは判断できるが、引き受けられない
-
最適化・確率・説明は判断を代替しない
-
例外・衝突・不一致こそが価値を持つ
-
停止条件は人が書くしかない
-
合意しないことも成果である
-
責任は「最後」ではなく「作者」に宿る
Human-in-the-loop は、
人を承認者にする。
Human-as-Author は、
人を判断の作者に戻す。
AI時代に失われつつあるのは、
人間の知性ではない。
「自分がこの判断を書いた」と
言える立場
だ。
それを取り戻す設計だけが、
PoCで終わらないAIを生む。
コメント