生成AIのアウトプットには、信じがたいほど偏った情報が含まれていることがありますが、私たちの認識を改める絶好の機会でもあります。本記事を読み進めることで、労力の代わりだけではない、AIの「拡張知能」としての使い方を知ることができます。
元記事「Transforming AI Bias into “Augmented Intelligence”」を翻訳・要約したものです。
生成AIにはバイアスがあらゆる場所に存在し、誰もが見過ごしがちな形で潜む誤った情報や偽の情報です。そして、私たちの認識を映し出す邪悪な鏡でもあります。
しかし、そのバイアスを意識的に認識し、乗り越えるための絶好の機会でもあります。なぜなら、これまで見過ごされてきた無意識な偏見、偏重が明らかになることで、より公正で公平な世界を築くことができるからです。そのため、生成AIは、認識できなかったバイアスを知ることができる拡張知能（Augmented Intelligence）とも言えます。
Midjourneyが描く生物学者、バスケットボール選手、憂鬱な人
生成AIのバイアスを見つけることはとても簡単です。試しにテキストの説明文から高品質な画像を生成するAIツールMidjourneyで「生物学者」と入力し、どのような画像が生成されるか見てみてください。
私たちが無作為に抽出した100枚の画像は、画像の99%が男性で、100%が白人という厳しい現実を物語っています。
これは真実とはかけ離れています。今日、生物学者の大半は女性です。履歴書をカスタマイズし、理想の仕事を見つけ、自動的に応募するパーソナルロボットリクルーターZippiaによると、現在アメリカで雇用されている10,347人の生物科学者のうち、53.9%が女性であるのに対し、男性は46.1%です。また、生物科学者で最も一般的な民族は白人（67.6%）ですが、アジア系（15.3%）、ヒスパニックまたはラテン系（8.5%）、そして不明（5.0%）も相当数います。全生物科学者の約10%はLGBTです。
一体何が起こっているのでしょうか？生成AIは人種差別的で性差別的なものなのでしょうか。
AIのバイアス問題は複雑です。というのも、AIのバイアスは純粋に「人種的」なものだけではないからです。「バスケットボール選手」と入力すると、白人とアフリカ系アメリカ人の人物が、およそ50%ずつの割合で表示されます。しかし残念ながら、ここでもまた、サンプルは男性が大多数を占めていました。私たちがサンプリングした100枚の画像のうち、実に98%が男性だったのです。
これもまた、完全にAIが生み出した空想にすぎません。データ収集と可視化を専門とするオンラインプラットフォームStatistaによれば、2021/2022年度に米国の高校でバスケットボールプログラムに参加した生徒は89万2千人強で、そのうち58%が男子、42%が女子でした。
そして、プロバスケットボール選手に目を向けると男女比はさらに偏り、zippia.comによれば女性はわずか17.4%、男性は82.6%です。しかし、そうであっても、疑いなく多くの女性バスケットボール選手が存在します。にもかかわらず、AIはその表現において女性バスケットボール選手をほとんど無視しているのです。
Midjourneyには、女性を描写する上で何か固有の問題があるのでしょうか？まるで毒蛇のように、女性蔑視的な何かが結果に忍び込み、彼女たちの存在をないものにしているのでしょうか？
このバイアスは、より陰湿で、より複雑です。AIにとっての女性の存在は、「憂鬱な人」と入力すると、生成される人物の80%で現れます。しかもその100%が若年の白人なのです。
つまり、AIは「若い女性は生物学者やバスケットボール選手にはなれないが、憂鬱にはなりやすい」と言っているのです。（彼女たちが憂鬱なのは、生物学者やバスケットボール選手になれないからなのでしょうか？）
米国国立保健統計センター（NCHS）のデータ概要によると、女性（10.4%）は男性（5.5%）の約2倍の確率でうつ病を経験しています。うつ病の罹患率が最も高かったのは40〜59歳の中年女性（11.5%）でした。全体として、非ヒスパニック系アジア人成人（3.1%）のうつ病の有病率は、ヒスパニック系（8.2%）、非ヒスパニック系白人（7.9%）、非ヒスパニック系黒人（9.2%）の成人と比較して最も低いものでした。うつ病の有病率は、ヒスパニック系、非ヒスパニック系白人、非ヒスパニック系黒人の成人の間では、全体でも男女別でも統計的に有意な差はありませんでした。
ここでもまた、AIが印象づける姿は、明らかに馬鹿げており、いかなる統計も全く反映していないということに気づきます。
AI表現が差別を助長する
AIシステムに見られるこのような誇張されたバイアスは、「表現による害（Representational Harms）」として知られています。表現による害は、特定の社会集団の品位を傷つけ、現状を補強したり、ステレオタイプを増幅させたりします。
画像を通じてステレオタイプや誤った表現を永続させることは、教育上および職業上の重大な障壁となり得ます。「アフリカ系アメリカ人の少女や色人の若者にプログラミング教育を提供することを目的とした非営利団体：Black Girls Code」の会長であるヘザー・ハイルズ氏は、「人々は、自分たちが描かれているか、あるいは描かれていないかを見ることで、自分はここに属していないのかもしれない、と学びます…こうしたことは画像によって強化されるのです」と述べています。
これらの結果は特殊なものではありません。また、Midjourneyの生成AIや特定の職業、スポーツに限ったことでもありません。下の動画は数多くの専門家の研究を引用しており、そこでは高給な職業（CEO、弁護士、政治家、科学者）は肌の色が明るい人々で過剰に表現される一方、肌の色が濃い人々は、ファストフード店員、清掃員、皿洗いといった低収入の仕事と関連付けられることが多かったのです。性別を考慮した場合も同様の話が浮かび上がります。医者、CEO、エンジニアは男性と関連付けられ、ソーシャルワーカー、家政婦、レジ係といった職業は女性と強く関連付けられていました。
特に極端な例はニュースメディアのBuzzFeedによって作られました。同社はAIを使って世界各国のバービー人形の画像を生成する記事を公開したのです。ラテンアメリカのバービーはすべて肌の色が白い姿で表現され、色の濃い肌よりも薄い肌を好むことを現しています。このような差別は「カラリズム」として知られています。
また、ドイツのバービーはナチスの親衛隊（SS）の制服を彷彿とさせる服を着て表現され、南スーダンのバービーは傍らに自動小銃AK-47を携えた姿で描かれました。
とても馬鹿げていると思いますが、現在の生成AI技術が生み出すバイアスの信じがたいレベルを実証しています。
引用httpsjpfreepikcom
AIのバイアスは直すことはできない「システム仕様」
生成AIのバイアスは、2つの主要な要因の組み合わせです。
- トレーニングセット
- 生成アルゴリズム
第一に、すべてのAIはそのトレーニングセットの産物であり、Midjourneyのような生成AIの訓練に使われるトレーニングセットは、すでにある程度のバイアスを含んだ画像が含まれている米国拠点のウェブサイトから取得されています。
第二に、収集された画像のバイアスが最小化されたとしても、今度はアルゴリズム自体がそのバイアスを悪化させ、増幅させます。生成AIはトレーニングデータの中から、最も強力な焦点を1つか2つ選択し、残りを捨てる「近道」を通るように設計されています。（例えば、「バスケットボール選手」のトレーニングデータセットに女性選手よりも男性選手の写真が多く含まれていた場合、アルゴリズムは男性に焦点を合わせ、2つの画像セットが「一致しない」という理由で女性を破棄するかもしれません。）
この設計は、車や城、ロボット、オークなどの架空の画像を作成する際には最適ですが、人を扱う際には性別や人種のバイアスの問題が起こります。
つまり、現在の技術レベルでは、AIのバイアスはバグではなく、仕様なのです。 バイアスは、生成AIが機能する仕組みの一部であり、データセットから単純に「計算して取り除ける」ものではありません。『More than a Glitch: Confronting Race, Gender, and Ability Bias in Tech（和訳：単なる不具合以上のもの：テクノロジー業界における人種、性別、能力による偏見に立ち向かう）』の著者であるメレディス・ブルッサード（Meredith Broussard）氏は以下のように問題視しています。
「『グリッチ』という言葉は、特定するのと同じくらい簡単に修正できる偶発的なバグを意味します。しかし、もし人種差別、性差別、能力差別が、ほぼ機能している機械の単なるバグではないとしたらどうでしょう？もしそれらがシステム自体にコードとして組み込まれているとしたら？」
真の危険性は、取り返しがつかなくなるまで悪化すること
AIのバイアスが特に陰湿なのは、インターネット上の画像はますます多くがコンピュータ生成になっており、その画像が「本物」かコンピュータ生成かを見分けることがすでにほぼ不可能になっているからです。ジェネレーティブ AI を専門とする著者、起業家、アドバイザーのニーナ・シック氏のような専門家によれば、2025年までには「ネット上（wild）」の画像の90%以上がコンピュータで生成されたものになるでしょう。
これは、生成された白人生物学者の画像が、AIのデータセットとして扱われることで、偏ったデータをさらに増幅し続けることを意味します。これにより、インターネット上のデータセットはさらに偏り、AIの次世代モデルもより極端なバイアスを生み出す悪循環に陥ります。
生成AIが私たちの視覚的な景観を形成する上で絶大な影響力を持つことを考えると、これらの画像が表す現実はしばしば歪められており、性別、人種、年齢、肌の色に関連する有害なバイアスが現実世界よりも誇張され、より極端になり得ることを理解することが重要です。
しかし、この差し迫った災厄は、チャンスの機会とも言えます。ただし、それは私たちが今すぐ行動する場合に限ります。
拡張知能を実現する好機となり得るか
興味深いことに、バイアスはAIに特有のものではありません。あらゆる創造には焦点が必要です。デザイナーが機能的なインターフェースを設計し、「機能の詰め込みすぎ（featuritis）」を避けるために一人の主要なペルソナのニーズと特性に焦点を当てる必要があるように、AIもまた創造するためには焦点を合わせなければなりません。しかし、この強烈なレベルの焦点は、人間のデザイナーに、アクセシビリティなどの多様な視点をカバーする必要性を意識させることにもなります。
例えば、モバイル小切手入金サービスの設計において、私たちの主要なペルソナは週70時間働く多忙な証券会社職員かもしれませんが、副次的なペルソナは左手に2本の指しかない、視覚障害を持つ傷痍軍人かもしれません。これらのペルソナは両者とも、モバイルデバイスで小切手を入金するための直感的でアクセスしやすく、使いやすい方法を必要としていますが、彼らのニーズと能力は根本的に異なります。
今までのテクノロジー（コンピュータ、AIなど）は正しいことが前提であり、そのために疑うことはありませんでした。例えば、銀行のウェブサイトが印字した当座預金の残高に異議を唱える人はほとんどいないでしょう。しかし、生成AIには正しい前提は当てはまりません。そのため、私たちは生成AIのアウトプットに積極的に異議を唱える必要があります。
バイアスは自身で認識し、取り除くことはとても難しいものです。しかし、今が好機なのは、まだAIのバイアスが「馬鹿げている」レベルだということです。それゆえ、私たちの世界を批判的かつ意識的に見ることができます。私たちは平等であることをテクノロジーに頼ることをやめなければなりません。それを認識できるのは、AIにバイアスがあるからでしょう。
AIは公平性、正義、調和、共感を理解しません。それができるのは人間だけです。そして、バイアスが存在することを前提とすることで、私たちは結果の中にそれを見出し、認識し、方向転換できます。経験豊富なデザイナーのチームが、アクセシビリティや学習曲線を考慮に入れるために、意識的かつ意図的に主要なペルソナから方向転換するのと全く同じです。生成AIを使うとき、私たちはデザイナーのように考える訓練をしなければなりません。バイアスを認識し、ありのままにそれを見つめ、意識的かつ意図的にそこから方向転換するのです。
方向転換ができれば、AIは「黒人のトランスジェンダーの生物学者」、「インド人の女性バスケットボール選手」、「憂鬱な高齢のアジア人男性」のような指示を拒否することはありません。
信じがたい生成AIの能力と、人間の意識的な理解、思いやり、そして愛を組み合わせることで、「人工知能（Artificial Intelligence）」は、人間だけでは対処の難しいバイアスを乗り越える「拡張知能（Augmented Intelligence）」となるのです。
平等で公平な社会を作るのは自分自身
次にAIが生成した画像を見る際は、立ち止まって画像に何が描かれ、何が描かれていないかに注目し、バイアスを意識的に認識してください。バイアスを乗り越えるためにクエリを書き直し、多様な人々が表現された、公平で公正な世界を反映した画像を創造しましょう。私たち一人ひとりが意識を高め、より良いデータセットとアルゴリズムを構築し、この分野を律する法律や規制を提唱する必要があります。すべては私たち一人ひとりの意識、つまりバイアスを見抜く能力から始まります。
調和の中で協力し合う、私たち人類の多様性を公平に視覚的に表現することは、私たちが互いを、性別、人種、宗教、出身国、肌の色ではなく、その人の価値によって処遇する助けとなるはずです。しかし、それは私たちがAIの出力をただ鵜呑みにするのではなく、創造のプロセスに意識的に私たちの人間性、愛、そして思いやりを注ぎ込み、人工知能を「拡張知能」へと転換させる場合に限ります。なぜなら、AIにはそれ以上の知恵がなく、愛を持つことができるのは人間だけだからです。
ワークショップのご案内
AIのポテンシャルは労力の代わりだけにとどまりません。激化するAI競争の中で、他社に真似できない価値の高いAIプロダクトを提供する必要があります。成功の鍵は資金力ではなく、UXであると言えます。
2025年11月15日「AIと共創する次世代プロダクトデザイン」のワークショップに参加して、ここでしか手に入らないAI活用の視点を学びましょう。
＞＞2025年11月15日「AIと共創する次世代プロダクトデザイン」の特設ページでお申し込みください。
