アクティブラーニング Active Learning

アクティブラーニングとは、AIが答えに迷うときだけ人に尋ねることで、人が正解を答える件数を減らす機械学習の手法である。学習者が講義を聞くだけでなく自ら授業に参加する、教育の分野の「アクティブラーニング」とは別のものを指す。

たとえば、約32万件のニュース見出しから、債券の話題だけを拾い出すAIを作るとする。債券の見出しは470件、全体の0.15%しかない。無作為に1,000件を選んで、人が「債券か、そうでないか」を答えても、ほとんどが債券以外の見出しになる。これでは、AIは債券の見出しの特徴を覚えられない。アクティブラーニングでは、AIが「債券かどうか五分五分だ」と迷った見出しだけを人に見せる。人が答えると、AIはそれを覚えて、また迷う見出しを数件持ってくる。

迷いの大きいものから人に尋ねる

AIは見出しを読むと、答えと一緒に「どれくらい自信があるか」も数字で出せる。債券かどうかの二択なら、「債券である確率50%」と出た見出しが、いちばん迷っている見出しになる。迷いの大きいものから選ぶこのやり方を、不確実性サンプリングと呼ぶ。アクティブラーニングの中で最も単純で、最もよく使われている。

手順は、次の4つをくり返す。

• 最初のAIを作る：いくつかの正解を答えたデータを使って、まず一度学ばせる。
• 迷う件を選ぶ：まだ正解の付いていないデータすべてをAIに読ませ、いちばん迷った数件を選ぶ。
• 選ばれたデータを人に答えてもらう：人がその数件に正解を答える。
• 学習し直す：これまでに集まった正解をすべて使ってAIを作り直し、2つ目に戻る。

最初のAIが無いと、何を尋ねるかを選べない。めったに出てこない債券の見出しに偶然出会うまで、無作為に選び続けることになる。尋ねるのは1件ずつが理想だ。ただ、1件ごとに全データを読み直すと時間がかかりすぎる場合は、数件ずつまとめて尋ねる。

半教師あり学習では、人が正解を付けた見出しは少ないまま、残りの見出しにAIが自分で正解を付けていく。付けるのは、「これは間違いなく債券の話だ」と自信を持てる見出しだけだ。こうして人手を使わずに手本を増やし、AIは増えた手本からもう一度学ぶ。たとえば、「国債」という言葉を手がかりに債券だと判断した見出しに「利回り」も出てくれば、次からは「利回り」も手がかりにできる。アクティブラーニングは逆に、いちばん自信のない見出しを人に尋ねる。わかっているところを足場にするのが半教師あり学習で、わからないところを聞きにいくのがアクティブラーニングだ。

語源・提唱者

1994年、AT&Tベル研究所のDavidデイヴィッド D.ディー Lewisルイス とWilliamウィリアム A.エー Galeゲイル は、ニュースの見出しが特定の話題にあたるかどうかを判定するAIを作ろうとしていた。見出しは多すぎて、すべてに人が正解を付ける予算は無い。かといって無作為に選ぶと、めったに出てこない話題の見出しは、ほとんど入らない。

2人は、AIがいちばん迷う見出しを選んで人に尋ねるやり方を論文で示し、不確実性サンプリングと名付けた。このやり方は、実用を扱う論文が最もよく採用する形になった。分野全体の研究は、2009年にBurrバー Settlesセトルズ がサーベイ（研究を一覧できるように整理した論文）にまとめている。

人が答える件数が少なくて済む

ルイス氏とゲイル氏は、1988年から1993年初めまでにAP通信が配信した見出しを集めた。そして、「債券」「予算」など、めったに出てこない10の話題それぞれについて、「この見出しはその話題か、そうでないか」を判定するAIを作った。最初のAIは、その話題だとわかっている見出し3件だけで学ばせた。次に、まだ正解の付いていない見出しをAIに読ませ、判断に迷ったものだけを人が答えて、AIに学び直させた。これを、正解の付いた見出しが999件になるまでくり返した。

結果、多くの話題で、無作為に選べば10万件以上に答えてやっと届く性能に、999件だけで届いた。無作為に選んだ1,000件で学ばせたAIは、それよりずっと低い性能にとどまった。差がいちばん開いた話題では、同じ性能に届くまでに、無作為だと500倍の件数が要る計算になった。

ただし、10の話題のうち1つでは、どの選び方でもうまくいかなかった。セトルズ氏のサーベイも、うまくいかなかった例を挙げている。2007年の報告では、同じ種類のAIを使っても、アクティブラーニングのほうが無作為に選ぶより多くの正解を必要とすることがあった。2008年の報告では、1件ずつ選ぶための選び方を、数件まとめて選ぶ場面にそのまま使うと、無作為に選ぶよりずっと悪い結果になることが多かった。

効き目はデータや答える人で変わる

アクティブラーニングで集めたデータは、AIの迷い方に左右される。全体から偏って集まっているので、あとで別の種類のAIに乗り換えると、役に立たないことがある。

効き目は、答える人によっても変わる。2009年の報告では、その分野の専門家が答えるとアクティブラーニングがうまく働いた。一方、初心者が答えると、むしろ無作為に選んだほうがよかった。

関連用語

• 教師あり学習
• 半教師あり学習
• アノテーション

ヒューマン・イン・ザ・ループ