ヒューマン・イン・ザ・ループ

ヒューマン・イン・ザ・ループ（Human-in-the-Loop）とは、AIに全部を任せきりにせず、AIが自動で進める作業の途中に人間が入って内容を確かめ、必要なら手を入れるという設計方針だ。

たとえるなら、新人スタッフが書類の下書きをつくり、先輩がそれを見て「ここはこう直そう」と手を入れる二人三脚のやり方を、AIと人間のあいだに持ち込んだものである。

人間を挟むのは、AIには自分で気づけない領域があるからだ。AIは膨大な量をとても速くこなせるが、いまでも「これは危ないかもしれない」「この場面ではズレているかもしれない」を自分では見抜けないことがある。そこで、AIには下ごしらえまでを任せ、最後のOKは人間が出す。

ちょうど、料理の下ごしらえは見習いが受け持ち、味見と盛り付けの判断は料理長がおこなう厨房のような役割分担だ。

人間の関与レベルは3段階

ヒューマン・イン・ザ・ループは、AIをどれくらい一人立ちさせるかを決める三段階のうち、人間の関与がいちばん強いやり方にあたる。三段階とは、判断のたびに人間の確認をはさむヒューマン・イン・ザ・ループ、AIに基本は任せて人間はふだんは見守り役に回るヒューマン・オン・ザ・ループ（Human-on-the-Loop）、人間はほぼ関わらず完全に自動で動かすヒューマン・アウト・オブ・ザ・ループ（Human-out-of-the-Loop）を指す。

運転にたとえるなら、教習所の路上教習で隣に教官がいる状態、免許を取ったばかりの人が家族に「見ててね」と隣に座ってもらう状態、そしてひとりで運転する状態、と並べるとイメージしやすい。

危なさや影響が大きい仕事ほど人間寄りに、慣れた仕事ほどAI寄りに置いていく、と考えるとよい。

段階	人間の関わり方	運転にたとえると
ヒューマン・イン・ザ・ループ	判断のたびに確認・承認する	教習所の路上教習で隣に教官がいる状態
ヒューマン・オン・ザ・ループ	ふだんは見守り、必要なときだけ介入する	免許を取ったばかりの人が家族に「見ててね」と隣に座ってもらう状態
ヒューマン・アウト・オブ・ザ・ループ	ほとんど関わらず、AIに任せきる	ひとりで運転する状態

語源・提唱者

Human-in-the-Loop の考え方そのものは、AIブームよりずっと前、1940〜1950年代のサイバネティクス（機械と生き物の動きを同じ枠組みで捉える研究分野）にさかのぼる。数学者 Norbertノーバート Wienerウィーナー は Julianジュリアン Bigelowビゲロー とともに、軍事目的の対空砲火の管制システム（飛行機を撃つ大砲の狙いを自動で合わせる仕組み）を研究するなかで、機械と人間の動きをひとつの輪としてまとめて考える発想を打ち出した。これが「人間を輪のなかに置く」という考え方のもとになった。

1960年代には Johnジョン McCarthyマッカーシー らのAI研究が始まり、1970年代からは航空機シミュレーション（操縦士の訓練用に本物のような操作環境を再現する仕組み）や軍事研究のなかで、Human-in-the-Loop という呼び方が実用的な用語として広まった。1987年には Danaデイナ Angluinアングルイン による「先生役に質問しながら学ぶAIアルゴリズム」の研究が続き、1990年代以降は人と機械のやり取りを扱う研究分野（HCI）や機械学習の広がりを経て、AIの文脈でも定着していった。

近年は生成AIやAIエージェントが増えたことで、あらためて安全な使い方の型として注目を集めている。

リスクや確信度によって人間の関与を決める

ヒューマン・イン・ザ・ループの中身は、AIが自動で進める作業の流れのなかに、人間が「ちょっと待った」と入る場所をあらかじめ用意しておくことに尽きる。

動きの流れは、AIが出力ごとに「どれくらい確からしいか」の数値（確信度スコア）を返すところから始まる。確信度スコアはおおむね0〜1の範囲を取り、たとえば「このメールは迷惑メール（確信度0.98）」「この画像は犬に見える（確信度0.55）」のように、AIの答えに添う。あらかじめ決めた基準値（たとえば0.9）を上回るものは、そのまま処理を進める。基準値を下回るものや、影響が大きい判断だけ、AIは手を止めて人間に確認を求める。

ただし、確信度スコアはよくある目安のひとつで、これだけで分岐を決めるわけではない。「金額が一定を超える取引は必ず人間が承認する」「社外向けの送信は毎回確認をはさむ」といったルールを設計時に決めておく方法や、内容のリスク区分に応じて人間へ回す方法もあり、実務ではこれらを組み合わせる。

人間はそれを見て、そのままOKを出す、少し直してOKを出す、やり直しを命じる、のどれかを選ぶ。責任の重い最後の一押しは人間が握り続ける、という考え方が核にある。

後戻りできないところで確認する

いちばんイメージしやすい使いどころは、AIが自動で進めようとしている「後戻りできない操作」の直前に、人間の承認をはさむ設計だ。

たとえば、社外向けメールを自動で送ろうとするAIに、送信ボタンを押す一歩手前で必ず下書きを人間に見せる。担当者は宛先と本文を確認し、問題なければボタンを押し、気になる箇所があれば書き直させてから送る。

顧客対応のAIが「返金します」のような取り返しのつかない判断をしそうなときも同じで、AIは操作の内容とその理由を短くまとめて担当者に見せ、担当者がOKを出したときにだけ実行する。

狙いは、AIによる時短のメリットは残しつつ、大事な判断のハンコは人間が押すという役割を守ることに置く。ただ機械的に人間を挟むのではなく、「どこまでAIに任せ、どこから人間を呼び戻すか」を最初にきちんと決めておくことが、うまく運用できるかどうかの分かれ目になる。

関連用語

• ヒューマン・オン・ザ・ループ（Human-on-the-Loop）
• ヒューマン・アウト・オブ・ザ・ループ（Human-out-of-the-Loop）
• アクティブラーニング（Active Learning）