-
Character-Based Parsing with Convolutional Neural Network
1. どんなもの？Character-levelのConvolutional Neural Network(CNN)を用いて中国語の「語の切れ目」を捉え、その情報を元に構文木を構築する。2. 先行研究と比べてどこがすごいの？CNNをベースとして言語のモデリングを行っている先行研究のDynamic Convolutional Neural Networkは文単位でのタスクに対しとても素晴らしい結果を残している。しかしながら中国語や日本語と行ったアジアの言語は、英語のように語の切れ目が曖昧であ...
-
CHARAGRAM: Embedding Words and Sentences via Character n-grams
1. どんなもの？文字レベルのn-gramを用いて低次元のembeddingへと変換するCHARAGRAMという手法を提案する。2. 先行研究と比べてどこがすごいの？自然言語処理タスクにおいて、「単語」が最小の単位として扱われ、そのword embeddingを用いた研究がほとんどである。いくつかの先行研究では文字ベースの特徴を扱うRecurrent Neural Network(RNN)やConvolutional Neural Network(CNN)などがあり、とても良い結果を出して...
-
A Convolutional Neural Network for Modelling Sentences
1. どんなもの？可変長である文を扱うことができるDynamic Convolutional Neural Network(DCNN)を用いて感情分析や質問応答分類などを行う。2. 先行研究と比べてどこがすごいの？画像認識で素晴らしい結果を残しているConvolutional Neural Network(CNN)は固定長である画像の入力を想定している。自然言語処理においては、入力となる文を構成している単語数は可変であり、可変長のベクトルをCNNに入力することはできない。先行研究ではこうし...