主催: 一般社団法人 人工知能学会
会議名: 2021年度人工知能学会全国大会(第35回)
回次: 35
開催地: オンライン
開催日: 2021/06/08 - 2021/06/11
近年,オンラインチャットによる対話の機会が増えてきているが,意図的あるいは無意識に相手を傷つけるコメントが発信されることがある.多くのシステムでは,あらかじめ送信することが適切ではない単語を用意して,その単語を含むコメントを発信できないようにすることが多い.しかしこの方法では発信する側の意識を変えることはできないため,根本的な解決を与えるには至っていない. そこで本研究では,誹謗中傷コメントの発信を未然に防止する機能として,誹謗中傷の可能性があるコメントの発信者にメッセージを表示して,内容の意識と確認を促す機能,ならびにコメントを受け取るユーザの,誹謗中傷によるこれまでの蓄積ダメージを推計して可視化する機能を提案する.これらにより,コメントを発信するときのユーザの意識の変化を促す.実験により,提案する機能が誹謗中傷コメントの発信防止に繋がるかどうかを検証した.