人工知能学会全国大会論文集
Online ISSN : 2758-7347
第36回 (2022)
セッションID: 1M5-OS-20c-04
会議情報

バイアス除去がもたらすNLPモデルの性能劣化
小林 一樹*脇田 建
著者情報
会議録・要旨集 フリー

詳細
抄録

本論文では自然言語処理(NLP)におけるバイアスの緩和(デバイアス)の研究における新たな基準を提案する。近年のデバイアスの研究は、各論文の論文内で定義されたバイアスに関する指標の改善のみに注視しており、デバイアスによるNLPタスクを解く能力に対する影響はほとんど考慮されていない。我々はこの問題に着目し、デバイアスされた単語ベクトルがNLPのタスクを解く能力が劣化していることを数値実験を通して発見した。また、その原因をデバイアス前後のモデルをクラス単位、分類単位、サンプル単位で比較することができるVisual Analytics(VA)システムの作成や、既存の機械学習の説明手法を利用して調査し、単語ベクトルが分類タスクや質問応答タスクを解く際に重要な情報を失ってしまっている可能性があることを発見した。本研究は、NLPにおけるデバイアスによるモデルや単語ベクトルの劣化を調査した初めての研究である。

著者関連情報
© 2022 人工知能学会
前の記事 次の記事
feedback
Top