可読性（リーダビリティ，読みやすさ）を数値として自動評価する事は、読解という日常的な認知行動を理解するための重要課題であり、教育等への応用も幅広い。英文テキストの可読性指標としては、Flesch-Kincaid Grade Level (FKGL)等の指標が有名であり、英語圏では社会の様々な場面で利用されるなど社会実装も行われている。一方、こうした手法は母語話者にとっての難しさであるため、こうした古典的な可読性指標をヒューリスティクスと批判し、非母語話者用の可読性指標を最新の大規模言語モデル等を用いて理論的妥当性の高い形で構築する研究が、人工知能分野・自然言語処理分野で行われている。こうした流れに対し、本研究ではFKGL等の古典的可読性指標も、言語モデルから計算されるという複雑性の線形和として表現できる事を示す。これにより、他の言語モデルとのFKGLの比較や、FKGLの英語以外の言語への応用が理論的に可能になる。

抄録全体を表示

本研究では大規模コーパスが利用可能な新聞の読み上げ音声の認識のための精度の碁い言語モデルの構築を実験的に検討した. N-gram言語モデルの改善を目指し, 以下の3つの点に注目した. まずN-gram言語モデルはタスクに依存するので, タスクに関する大量のデータベースを用いて構築される必要があることに注目し, 共通の大長データベースによる言語モデルをもとに, 同一ジャンルの過去の記事を用いるタスク適応化の方法とその有効性を示す. 次に, 新聞記事は話題が経時的に変化するので数日間～数週間の直前の記事内容で言語モデルの適応化を行なう方法とその有効性を示す. 最後に新聞テキストには, 使用頻度の高い (特殊) 表現や, 固定的な言い回し毛どの表現 (以下, 定型表現と呼ぶ) が多いことに注目し, 複数形態素から成る定型表現を抽出し, これを1形態素として捉えた上で, N-gram言語モデルを構築する方法を杉討し, 有用性を示す.

抄録全体を表示

In this paper, I define "shape element" just like a element of naural language. I propose a processing how to discover the architectural shape element based on conceptual KDD. That processing have some steps. Those steps are plan selection, making pre-data, using bipolar-scopically converting method, discovering algorythm of architectural shape element, interpretation/evaluation. There for, I explain about how to make the pre-data, about bipolar-scopically converting method, about how to discover the wall element. For get reliability to discovering algorythm, I verify by using conceptual N-gram. N-gram is used at study of natura language analysis. I verified as comparing with "static" and "dynamic". I propose a expression for calicuration perprexity. It is value of decision difficulity. perplexity=[summation the AND area of N-area]/[summation all N-area] I verified that perplexity by using 8 houses designed by Marcel Breuer. I got a result that "dynamic" is better than "static". I got good result from case study. I'll think the algorithm is to need to add script somewhat case of wall gathering status.

抄録全体を表示

用語は研究成果を記述するために用いられる言語記号であり，研究成果の記述された文献を高度利用し，研究のさらなる発展を期する上で重要な役割を担うものである．本論文では，日本語研究文献テキストから，自然言語処理技術を応用した手法により用語候補を機械的に抽出するための方法について論じる．日本語では多くの用語は語幹レベルでの複合語として出現するが，現在の形態素分類に従う複合語抽出をそのまま適用するのでは，再現率を保ちつつ用語抽出の適合率を高めることは容易ではない．本研究では，抽出対象となる複合語の内部構造と，テキスト内での複合語の前後に対する接続関係に制約を設けることにより，適合率を下げることなく多くの複合語用語候補を抽出することが可能となることを示す．また，抽出された複合語用語候補について，候補間に成立する入れ子関係や候補が関連すると考えられる部分研究テーマの側面から整理し，体系化する試みについて述べる．

抄録全体を表示

本論文では,LDA(latent Dirichlet allocation)言語モデルによる画像からの多重トピック抽出を,GPUを用いて高速化する手法を提案する.LDAはテキスト・マイニングのための確率モデルとしてBleiらにより提案されたが,近年,他のマルチメディア情報へも応用されている.そこで,本論文では,Wangの10,000test imagesにLDAを適用し,多重トピック抽出をおこなう.LDAのためのパラメータ推定にはcollapsed変分ベイズ法を用いるが,Nvidia CUDA互換GPUを利用して推定を高速化する手法を提案する.

抄録全体を表示

本論文では，ニューラルネットエンコーダが学習する知識のうち，どのような構造的知識が自然言語のタスクを解くのに転移可能かを調査する．提案するアプローチでは，自然言語の構造を模したいくつかの「人工言語」を用いてエンコーダを訓練し，そのエンコーダの自然言語の下流タスクにおける性能を評価することで，事前学習データに含まれている構造的知識の転移可能性を計測する．実験の結果，転移可能なエンコーダを獲得するにあたって，事前学習のデータ系列中において，統計的依存関係が重要であること，係り受け関係を持つ際に入れ子構造が有用であることなどが明らかとなった．こうした結果は，エンコーダが転移可能な抽象的な知識として，位置を考慮したトークンの文脈依存性があることを示唆している．

抄録全体を表示

日本語では単語の境界があいまいで, 活用等のルールに基づいて定義された単位である形態素は必ずしも人が認知している単語単位や発声単位と一致しない. 本研究では音声認識への応用を目的として人が潜在意識的にもつ単語単位への分割モデルとその単位を用いた日本語の言語 (N-gram) モデルについて考察した. 本研究で用いた単語分割モデルは分割確率が2形態素の遷移で決定されるという仮定を置いたモデルで, 人が単語境界と考える点で分割した比較的少量のテキストデータと形態素解析による分割結果とを照合することにより, パラメータの推定を行った. そして多量のテキストを同モデルにしたがって分割し, 単語単位のセット (語彙) と言語モデルを構築した. 新聞3誌とパソコン通信の投稿テキストを用いた実験によれば約44,000語で, 出現した単位ののべ94-98%がカバーでき, 1文あたりの単位数は形態素に比べて12%から19%少なくなった. 一方, 新聞とパソコン通信ではモデルに差があるもののその差は単語分割モデル, 言語モデル双方とも事象の異なりとして現れ, 同一事象に対する確率の差は小さい. このため, 新聞・電子会議室の両データから作成した言語モデルはその双方のタスクに対応可能であった.

抄録全体を表示

A novel text selection approach for training a language model (LM) with Web texts is proposed for automatic speech recognition (ASR) of spoken dialogue systems. Compared to the conventional approach based on perplexity criterion, the proposed approach introduces a semantic-level relevance measure with the back-end knowledge base used in the dialogue system. We focus on the predicate-argument (P-A) structure characteristic to the domain in order to filter semantically relevant sentences in the domain. Moreover, combination with the perplexity measure is investigated. Experimental evaluations in two different domains demonstrate the effectiveness and generality of the proposed approach. The combination method realizes significant improvement not only in ASR accuracy but also in semantic-level accuracy.

抄録全体を表示

本論文では, 3次元Viterbi法により音素情報と音調情報を統合した中国語連続音声認識システムについて報告する。まず基本となる(音調情報を用いない)連続音声認識システム及び音調認識システムの概要を説明する。前者では60個の音素クラスのHMMを用い, 後者では11個の音調単位のHMMを用いている。音素情報と音調情報の結合は, 音素モデルの状態と音調モデルの状態と時間との3次元空間において最適なパスを求めることにより行っている。扱うタスクはホテル予約で, 文脈自由文法(CFG)で中国語の構文を記述している。テストセットは27.3である。10名の話者のおのおのが発声した107文について, 音素情報と音調情報の重みを変化させ, また最適なパスに3種類の制限を加えて実験した結果, 最良の結果として平均文認識率75.9%を得た。音調情報を用いない場合より約12.4%改善された。また, この改善は統計的に有意であることが分かった。

抄録全体を表示

ユーザ投稿型のオークションサイトやフリマアプリでは，企業型ECサイトとは異なり，商品説明文が適切でない場合が散見される．本研究では，企業型ECサイトにおける商品説明文で学習したLLMを多クラス分類タスクで学習し，その後転移学習したモデルを利用してユーザが投稿した商品説明文を分類する．この際，分類確率の高低により適切な文か否かを判別する手法を提案する．実際のECサイトに投稿された公式と一般ユーザによる商品説明文を用いた評価実験により，提案手法の有効性を確認する．

抄録全体を表示

This paper proposes a mixture model that considers dependence to multiple topics. In time series documents such as news, blog articles, and SNS user posts, topics evolve with depending on one another, and they can die out, be born, merge, or split at any time. The conventional models cannot model the evolution of all of the above aspects because they assume that each topic depends on only one previous topic. In this paper, we propose a new mixture model which assumes that a topic depends on previous multiple topics. This paper shows that the proposed model can capture the topic evolution of death, birth, merger, and split and can model time series documents more adequately than the conventional models.

抄録全体を表示

We have developed an information retrieval system for telephone dialogue in load dispatch center. In load dispatching operations, the needs for recording and information retrieval of a telephone dialogue are high. The proposed system gives a solution for the task and realizes an information retrieval function with any keywords. The effectiveness of the system is verified by the telephone dialogue transcription and information retrieval experiments. With 30 telephone dialogue in a load dispatch center, we obtain 59.5% in average word correct and 44.4% in average word accuracy. In the information retrieval experiment, with 20 keywords, we obtain 87.3% in average precision and 67.2% in average recall.

抄録全体を表示

Chat-oriented dialogue systems sometimes generate utterances that are inappropriate as the responses for user utterances and cause dialogue breakdown If a system can predict whether an utterance cause dialogue breakdown, it helps to continue dialogue with suppressing such inappropriate system utterances. In this paper, I develop a dialogue breakingdown detector and analyze the effects of training features, data and algorithms for dialogue breakdown detection performance.

抄録全体を表示

コーパスに基づく確率的言語モデルとして, 従来は主に語彙統語論的なモデルが扱われてきた. 我々は, より高次の言語情報である対話に対する確率的モデルを, コーパスから自動的に生成するための研究を行った. 本研究で用いたコーパスは, ATR対話データベース中の「国際会議参加登録」に関する対話データであり, 各発話文には, 発話者のラベルおよび陳述・命令・約束などの発話行為タイプが付与されている. 本技術資料では, これらのコーパスから, 2種類の方法を用いて, 確率的な対話モデルを生成する. まず初めに, エルゴードHMM (Hidden Markov Model) を用いて, コーパス中の話者ラベルおよび発話行為タイプの系列をモデル化した. 次に, ALERGIAアルゴリズムと呼ばれる, 状態マージング手法に基づいた学習アルゴリズムを用いて, 話者ラベルおよび発話行為タイプの系列をモデル化した. エルゴードHMMの場合には, 確率モデルの学習に先立ち, モデルの状態数をあらかじめ決めておく必要があるが, ALERGIAアルゴリズムでは, 状態の統合化を繰り返すことにより, 最適な状態数を持つモデルを自動的に構成することが可能である. エルゴードHMMあるいはALERGIAアルゴリズムを用いることにより, 話者の交替や質問・応答・確認といった会話の基本的な構造を確率・統計的にモデル化することができた. また, 得られた確率的対話モデルを, 情報理論的な観点から評価した.

抄録全体を表示

我々は国語研日本語ウェブコーパスと word2vec を用いて単語の分散表現を構築し，その分散表現のデータを nwjc2vec と名付けて公開している．本稿では nwjc2vec を紹介し，nwjc2vec の品質を評価するために行った2種類の評価実験の結果を報告する．第一の評価実験では，単語間類似度の評価として，単語類似度データセットを利用して人間の主観評価とのスピアマン順位相関係数を算出する．第二の評価実験では，タスクに基づく評価として，nwjc2vec を用いて語義曖昧性解消及び回帰型ニューラルネットワークによる言語モデルの構築を行う．どちらの評価実験においても，新聞記事7年分の記事データから構築した分散表現を用いた場合の結果と比較することで，nwjc2vec が高品質であることを示す．

抄録全体を表示

In text and speech, there are various features that express the individuality of the writer or speaker. We proposed a method for transforming individuality using a technique inspired by statistical machine translation (SMT), and showed the effectiveness. In previous work, we proposed a method for paraphrasing for characteristic words using n-gram clustering. However, the method can be improved, because it considers only short context. In this paper, we propose a model of transforming individuality that considers longer contexts. To achieve this, we suggest adaptation of the language models and expansion of paraphrasing for characteristic words.

抄録全体を表示