主催: 一般社団法人 人工知能学会
会議名: 2022年度人工知能学会全国大会(第36回)
回次: 36
開催地: 京都国際会館+オンライン
開催日: 2022/06/14 - 2022/06/17
本論文では自然言語処理(NLP)におけるバイアスの緩和(デバイアス)の研究における新たな基準を提案する。近年のデバイアスの研究は、各論文の論文内で定義されたバイアスに関する指標の改善のみに注視しており、デバイアスによるNLPタスクを解く能力に対する影響はほとんど考慮されていない。我々はこの問題に着目し、デバイアスされた単語ベクトルがNLPのタスクを解く能力が劣化していることを数値実験を通して発見した。また、その原因をデバイアス前後のモデルをクラス単位、分類単位、サンプル単位で比較することができるVisual Analytics(VA)システムの作成や、既存の機械学習の説明手法を利用して調査し、単語ベクトルが分類タスクや質問応答タスクを解く際に重要な情報を失ってしまっている可能性があることを発見した。本研究は、NLPにおけるデバイアスによるモデルや単語ベクトルの劣化を調査した初めての研究である。