AIにおけるバイアスとは、モデルの出力に見られる体系的なパターンで、特定のグループ、トピック、または視点を一貫して優遇または不利にするものです。これは通常、トレーニングデータに起因し、既存の社会的不平等、過去の過小評価、データの作成者やキュレーターの人口統計などが影響を与えます。主に白人男性患者のデータでトレーニングされた医療AIは、女性や有色人種に適用した場合、精度が低下します。過去10年間の採用決定に基づいてトレーニングされた採用ツールは、差別的なものも含め、それらの決定を左右した基準を再現する傾向があります。ある側面におけるバイアスを減らすと、別の側面でバイアスが生じる場合があるため、バイアステストは一度の認証ではなく、継続的な取り組みとなります。企業が自社のモデルがバイアステスト済みであると主張する場合、どのような種類のバイアスについて、どの集団を対象に、どのような方法論を用いて、どのような結果を公表したのか、といった点が問われます。