超セクシーなアバターを生成するAIは性差別的？

人工知能（AI）がステレオタイプな女性画像を生成することが疑問視されている。AIのアルゴリズムは従来の固定観念を増幅させるのだろうか？

AIが生成するステレオタイプな女性画像には疑問が残る。photography: Getty Images

最近ではフェイク画像が毎週のようにSNSを賑わしている。白のダウンジャケット姿のローマ法王やデモに参加するマクロン大統領など、センセーショナルなでっちあげ画像を作り出しているのがいわゆる生成AI（ジェネレーティブAI）だ。よく知られている画像生成モデルはDall-E（ダリと読む）やStable Diffusion、Midjourneyなど。

これらの新しいツールは「プロンプト」にテキストを書きこむだけで驚くほど簡単に画像を生成できる。つい最近までAI生成画像は正確さに欠け、容易に見分けられた（特に変だったのは手の部分）。しかしながら今年3月、Midjourneyの新しいアップデートで飛躍的に技術が向上し、画像はほぼ完璧となった。

---fadeinpager---

ジェンダーバイアス

AIをめぐっては倫理や著作権、情報操作の問題が指摘されているが、加えて画像生成AIは別な論争を巻き起こしている。生成される女性画像がことごとく超セクシーな場合、AIは性差別的なのか？　多くのネットユーザーが指摘するのは、システムの心臓部にあるブラックボックス、すなわちアルゴリズムに「バイアス」がかかっている点だ。よく知られている通りAIは膨大な量の情報で訓練される（これを機械学習と呼ぶ）。ところが偏った学習データに機械が依存していると、AIの学習プロセスにゆがみが生じ、偏向した答えが導きだされるようになる。たとえばMidjourney（またはその他のAIに）に「医者の画像」の指示を出すとほとんどの場合、男性医師の画像が生成される。「社長」と指示を出した場合も同様だ。

AIはアプリにも使用されている。2022年末、AIのStable Diffusionを搭載したアプリ「Lensa」が大人気を呼んだ（リリースしてすぐ400万ダウンロードを突破）。このアプリは複数の自撮り写真をベースに「美化した」アバターを作ってくれる。問題は、どの女性も大きな胸とぷっくりした唇の超セクシーなアバターに変身してしまうことだ。
TikTokの「Bold Glamour」フィルター（3600万ビュー以上）もAIを使用している。旧来のフィルターは機械が単純に目や唇の位置を算出しており、顔にフェイスマスクを貼りつけたような効果しかなかったのに比べ、この新世代フィルターではピクセルレベルの処理がおこなわれるため、効果は絶大だ。動画でも使える。Bold Glamourを使えばまるでカーダシアン家の女性たちのような美貌が手に入る。鼻筋が通り、頬骨が高く、切れ長の目にふっくらした唇の美人顔が。

---fadeinpager---

AIを訓練してフェミニストにするには

それにしてもどうしてAIはこのようにバイアスのかかった女性画像を生成するのだろう。その答えは、AIの "ブラックボックス "である計算アルゴリズムにある。2018年、スタートアップ企業Flintを立ち上げた起業家のブノワ・ラファエル(1)は、ジェンダー平等と多様性を推進する団体#JamaisSansEllesの依頼で、コンテンツキューレーションをおこなう知的エージェントEllaを設計した。より徳の高い回答を得るため、EllaのAIは人間の専門家が「性差別的ではない」と判断したデータで訓練されている。ブノワ・ラファエルは、「AIがフェミニストになるよう訓練することは十分可能です。AI自体は性差別的ではない。そもそも性差別的な思考を持たないからです。文化的なバイアスは、私たち全員に刷り込まれたものなのです」と語った。

ブノワ・ラファエルによれば、女性表現にバイアスがかかっていることは、何十年もの間IT業界が男性中心社会だったことと無縁ではない。この業界で働く女性は全世界でも、たかだか30％、フランスで有資格者の女性は17％に過ぎない（グローバル・コンタクト社が2022年3月発表した調査に基づく）。要するに、AIが性差別なのは、社会の性差別的傾向を反映しているに過ぎない。