AIバイアスとは？

詳しい解説

AI バイアスは、AI が学習に使ったデータに含まれる社会的偏見・統計的偏り・サンプリング偏りなどを反映して、特定の人種・性別・年齢・地域などに対して不公平な判定や出力を行ってしまう問題です。

採用 AI が女性候補者を低く評価する、信用スコアが特定地域住民に不利になる、画像生成 AI が職業ステレオタイプを強化する、LLM が政治的偏見を含む回答をする、などが代表事例です。

対策として、学習データの多様性確保、Fairness 指標による評価、公平性制約付き学習、出力結果の人間レビュー、影響を受ける属性の明示的な保護、定期的な監査などが推奨されます。 EU AI 法・米国 AI 大統領令などの規制でも中心的なテーマです。

実務での使いどころ

AIを採用選考、与信、人事評価に使う場合にもっとも警戒すべき論点です。学習データに含まれる過去の偏りをそのまま再現するため、公平に見える自動化が実際には差別を固定化することがあります。

文章生成でも、職業と性別の結びつきなど無意識の偏りが出力に混ざるため、対外的な文書では確認の工程が必要です。

混同しやすい用語との違い

ハルシネーションが「事実と異なる情報を作ってしまう」問題であるのに対し、バイアスは「事実に基づいていても偏っている」問題です。前者は検証で見つかりますが、後者は出力単体を見ても気づきにくいのが厄介な点です。