AIにおけるバイアスとは、データの偏り、設計上の欠陥、あるいはデータセットに反映された社会的不平等などによって引き起こされる、AIの出力における体系的なエラーを指します。これは不公平または差別的な結果につながる可能性があります。
目的
バイアスを研究する目的は、AIシステムにおける不公平性を特定し、軽減することです。組織はこれらの問題に対処することで、より公平なモデルの構築を目指しています。
重要性
- 対処しないと、雇用、融資、医療において差別につながります。
- AI システムへの信頼を損ないます。
- 機密性の高い業界では規制遵守が求められます。
- 公平性と責任ある AI 実践に関連します。
仕組み
- 潜在的なバイアスの原因を特定します (データ収集、ラベル付け、モデリング)。
- データセットの不均衡を分析します。
- 公平性を考慮したトレーニング方法を適用します。
- 公平性メトリックを使用して出力をテストします。
- 必要に応じて設計を調整し、再トレーニングします。
例（実世界）
- COMPAS リスク評価ツール: 人種的偏見があると批判される。
- Amazon の採用アルゴリズム: 性別による偏見のため廃止。
- 顔認識: 特定の人口統計グループを誤って分類することが知られています。
参考文献 / さらに読む
- AI バイアス — NIST。
- 公平性と機械学習 — Barocas、Hardt、Narayanan (書籍)。
- アルゴリズムのバイアス — ACM FAccT カンファレンス プロシーディングス。
- 多様なAIトレーニングデータ：バイアスを排除する鍵
