Fairness by Design: 地域文化の多様性を考慮した公平なAI開発フレームワーク

抄録

人工知能（AI）が人事採用や与信調査、再犯予測等の社会的な意思決定に使われるようになり、訓練データなどに含まれる差別的なバイアスがAIの結果に反映されるという問題が重要視されるようになった。AIの中のバイアスを緩和し、公平なAIを実現しようとする様々な取り組みがなされているが、公平性は文脈や文化によって多様であり、一元的に定義することが難しい。そこで、本発表では文化・立場によって異なる公平性の考え方をAIシステムの設計に反映するFairness by Designの枠組みを提案する。Fairness by designは多様な国・立場の人に対するワークショップに基づくAIに必要なデザイン要件の明確化、デザイン要件に基づくインタラクティブなAIシステムの構築、多様な国・立場の人からのモデル修正の提案の統合と、交差バイアスを考慮できるバイアス緩和フェーズからなる。本発表では、この手法を銀行のローン審査データに適用し、文化によって公平性が多様であり、文化ごとに異なるAIモデルが得られるという事を示した。