自動化バイアス（オートメーション・バイアス）とは、自動化された判断支援やツール（例：診断支援、アラート、推奨表示）に対して人間が過剰に依存し、自身で他の情報を探索・検証する努力を怠ってしまう認知的傾向である。
結果として、ツールの誤りを見逃したり、ツールの提示する選択肢を無批判に受け入れて誤った判断を下すことがある。
誤りの形は主に「省略（ツールが示さない正しい選択肢を検証しない）」と「委託（ツールの誤った提案をそのまま実行する）」の二つに分類される。
起源・提唱者
自動化バイアス（オートメーション・バイアス）という現象は、1990年代後半から研究が活発になった。
初期の実証的研究としては、キャスリーン・L・モシエ（Kathleen L. Mosier）PhD と イリノイ大学シカゴ校の心理学教授のリンダ・J・スキトカ（Linda J. Skitka ）らによる航空（コックピット）に関する研究群が重要であり、これらが「自動化支援に対する過度な依存」の問題を明確に示した。
加えて、ラジャ・パラシュラマン（Raja Parasuraman ）らは自動化に伴う「安心（complacency）」や注意配分の変化について理論的に整理した。
デザイン上の利用方法
自動化バイアス（オートメーション・バイアス）は「自動化を入れたら終わり」ではなく、設計によって軽減できる問題である。
プロダクト／コンテンツ設計の実務者が取るべき主な対策は以下である。
-
提案の「支持情報」を同時に示す設計である。
単に「推奨：X」と出すのではなく、「なぜ（根拠）」「信頼度（確信度スコア）」「代替案」を一緒に提示することで、利用者が内部で検証する手がかりを提供する。例：医療AIが「診断A（確信度78%） — 根拠：画像所見X,Y」などを併記する。PMC -
インタラクティブな検証フローを組み込む設計である。
推奨を受け入れる前に短い確認ステップ（例えば「根拠を確認しましたか？」のチェック、または関連データへワンクリックでジャンプ）を入れることで、ルーティンでの盲従を減らす。特に高リスク領域では「ワンクリック承認」を避ける。Deloitte -
表示の目立ち方を調整する設計である。
自動化の提示を過度に強調しすぎない（例：デフォルトで最上位大文字で強調する等は避ける）。代わりに、選択肢や生データとの対比がしやすいUIを設計する。視覚的な優先順位がユーザの信頼を過度に誘導しないようにバランスを取る。ウィキペディア -
誤りを想定したフィードバックと学習ループを作る設計である。
ユーザが自動化の誤りを発見したときに容易にフィードバックできる仕組み（ボタン一つで報告、誤った根拠の表示）を用意し、モデル側で学習・改善に繋げる。これにより「初期信頼が崩れる→完全に無視する」ではなく「適切な監督」が可能となる。PMC -
トレーニングと説明をUXに組み込む設計である。
ユーザ教育（オンボーディング）で「自動化の限界」「見落としやすいケース」「検証方法」を短く伝える。UIのヒントやツールチップで繰り返し啓発することが有効である。PMC
プロダクト／コンテンツデザインの具体例（「この場面に使えるかな？」）
以下は実際の場面とそれぞれでの設計アイディアである。
-
医療の臨床意思決定支援（CDSS）である。
シーン：放射線画像にAIが「肺結節＝悪性の可能性高」と示す場合。
設計例：確信度（例：78%）、モデルが注目した画像領域のハイライト、類似症例の参照リンク、最終判断を下すためのチェックリスト（症状、既往歴の照合）を同画面に表示する。これにより医師が自動判定をそのまま受け入れるリスクを下げる。PMC -
自動補完・校正（文書作成ツール）のUIである。
シーン：文中でスペル・文法の自動修正提案がある場合。
設計例：提案を右側に薄く表示し「提案の理由（文法ルール）」をリンク化、Accept前に要約差分表示（変更後の全文のプレビュー）をワンクリックで確認可能にすることで、誤った自動修正の無批判受容を避ける。ウィキペディア -
運転支援システム（ADAS）や自動運転モードである。
シーン：車が「車線変更可能」と通知する場面。
設計例：自動化が行うアクションと「想定外の状況（雨／視界不良）」をドライバーに明示し、運転者の確認アクション（ペダルやハンドルの軽い入力）を必須にして盲目的な信頼を避ける。ウィキペディア -
採用や与信スコアリングのダッシュボードである。
シーン：AIが応募者や顧客の「合格」「不合格」判定を出す場合。
設計例：判定のみでなく「評価に寄与した要因」「不確かさの度合い」を示し、人間の面接官や審査者が必ず一つは手動でコメントや検証を残すワークフローを導入する。Deloitte
UXチェックリスト（設計時に確認すること）
- 推奨に対して「根拠」や「確信度」を表示しているか。
- 推奨を受け入れる前に短い検証アクションを強制できるか。
- 自動化の提示が他の情報より見た目で過度に優位になっていないか。
- ユーザが誤りを報告しやすい仕組みがあるか。
- 初期オンボーディングやツールチップで「自動化の限界」を明示しているか。
