Meta の AI は多人種カップルの画像を生成するのが難しい

AI ツールは、明示的に別のことを要求された場合でも、同じ人種の人々を代表する傾向がありました。

今日、次の分野で懸念が高まっています。人工知能出現：画像生成器の場合メタあい。 The Vergeの報道によると、「アジア人男性と白人の友人」や「アジア人男性と白人女性」など、一見単純な方向に対して正確な画像を生成できないことが何度かあったという。代わりに、彼は同じ人種の人々のイメージを作り出す傾向、与えられた指示に反して。

ファクトチェックによりシステムの欠陥が判明

私たちは、Meta のオンライン画像ジェネレーターの有効性を自分たちで検証しようとしたことで、これらの憂慮すべき結果を確認しました。 「アジア人男性と白人の女性の友人」または「アジア人男性と白人の妻」などの表示に対して、システムはアジア人カップルの画像を生成しました。 「多様な人々のグループ」を尋ねると、メタ AI は 9 人の白人の顔と 1 人の有色人種のグリッドを生成しました。

偏見のさらに微妙な兆候

これらの明白な事実を超えて、「偏見のさらに微妙な兆候」はメタ AI 機能に存在すると、The Verge が示しています。このシステムは特にアジア人男性を高齢化し、アジア人女性を若くする傾向がある。画像ジェネレーターが追加することもあります「文化特有の服装」これは指示で明示的に要求されていませんでした。

他の AI プラットフォームにも共通する憂慮すべき現実

この種の問題に直面しているのはメタ AI だけではないことに注意してください。 Googleの画像生成システム、ジェミニは、多様性に関して異常な結果が出たため、ポートレートを作成する能力を保留しなければなりませんでした。その後、Googleは、さまざまな結果が不適切である状況を内部防御が無効にすることができなかったと説明した。

そして残念なことに、メタ社はコメントの要請にすぐには応じなかった。