-
Deconvolutional Paragraph Representation Learning
1. どんなもの?ConvolutionおよびDeconvolutionを用いて,長い文章の潜在的表現を計算効率よく学習する枠組みを提案している.2. 先行研究と比べてどこがすごいの?文章の特徴を学習するようなタスクに対しては,これまで時系列情報を扱えるRecurrent Neural Networks(RNN)ベースのencoder-decoderが提案されてきた.しかしながらRNNベースのモデルを用いた文章のデコード(再構成)では文章の長さが長くなるほど性能が落ちてしまうことが確認され...
-
Visualizing and Understanding Convolutional Networks
1. どんなもの?学習済みのConvolutional Neural Networks(CNN)における中間層の機能とモデルの動作を洞察することができる可視化手法を提案.2. 先行研究と比べてどこがすごいの?CNNは画像認識の分野で素晴らしい成果を上げているが,なぜそのようなパフォーマンスが発揮されているか,またどのような過程を経て予測を行っているのかが明らかになっていない.先行研究ではCNNではないDeepなNeural Networkについて可視化を行っているものや,ネットワークのパラ...
-
Which Encoding is the Best for Text Classification in Chinese, English, Japanese and Korean?
1. どんなもの?中国語・日本語・韓国語においてテキストのエンコーディング単位(UTF-8 bytes,文字,単語,ローマ字化した単語)が文書分類でそれぞれどのような効果を出すか実証的に比較を行った.2. 先行研究と比べてどこがすごいの?英語の文では単語同士の区切りが明確であるが,中国語や日本語,韓国語(CJK)といった言語では単語と単語の境界線が不明瞭である.これは単語をベースとした様々な自然言語処理の手法を適用しようとする際に困難となる.先行研究では文字単位のエンコーディングを用いて ...