AIバイアスとは？

詳しい解説

AI バイアスは、AI が学習に使ったデータに含まれる社会的偏見・統計的偏り・サンプリング偏りなどを反映して、特定の人種・性別・年齢・地域などに対して不公平な判定や出力を行ってしまう問題です。

採用 AI が女性候補者を低く評価する、信用スコアが特定地域住民に不利になる、画像生成 AI が職業ステレオタイプを強化する、LLM が政治的偏見を含む回答をする、などが代表事例です。

対策として、学習データの多様性確保、Fairness 指標による評価、公平性制約付き学習、出力結果の人間レビュー、影響を受ける属性の明示的な保護、定期的な監査などが推奨されます。 EU AI 法・米国 AI 大統領令などの規制でも中心的なテーマです。