Hol-CCGと対照学習に基づく構文的情報と意味情報をもつ分散表現学習

抄録

構文的情報と意味情報の両者を含む分散表現は，自然言語処理の下流タスクにおいて有用である。そこで，本研究では，構文的情報と意味情報をもつ分散表現学習の手法を提案する。提案手法では、CCG に基づく構文解析モデルであるHolographic CCG(Hol-CCG)を利用する。このモデルは、解析と並行して、各文の構成要素 (単語、句、文) に対応する豊富な構文情報を含む分散表現を計算できる。ここで、対照学習ベースの学習方法を Hol-CCG に適用することで、モデルが拡張され、計算される分散表現に構文的情報だけでなく意味情報も含まれるようになる。実験では、与えられた文に対して複数の言い換え表現を生成し、原文と言い換え文の両方に対してHol-CCGによって計算された分散表現の類似度の比較を行った。定性評価の結果、提案手法により学習されたHol-CCGは、意味は同じだが構文構造が異なる文の類似性を構文的・意味的両者から評価できることが確認された。しかし、定量的な評価の実施や言い換えの対象となる文の制限などに課題が残されている。