AIの訓練に使用された一般的な顔分析データセットは、男性が77%以上、白人が83%以上を占めていました。現実世界ではどうでしょうか？この研究では、性別分類のエラー率が色白の男性では1%未満であるのに対し、色黒の女性では34%以上に跳ね上がることが明らかになりました。AIがこれらの女性からほとんど学習していないため、AIはこれらの女性を識別できないのです。