-
Convolutional Neural Networks for Text Categorization: Shallow Word-level vs. Deep Character-level
1. どんなもの？層の浅いword-levelのConvolutional Neural Networks(word-CNN)と層の深いcharacter-levelのCNN(char-CNN)の性能を比較した。2. 先行研究と比べてどこがすごいの？先行研究では層が深いCNNのアーキテクチャにcharacter-levelのベクトルを入力することで従来手法よりとても良い結果を出している。しかしながら本研究の著者が提案している、tv-embeddingを用いた層の浅いword-CNNが、先行...
-
Large Scale Multi-Label Text Classification with Semantic Word Vectors
1. どんなもの？Convolutional Neural Network(CNN)とGated Recurrent Unit(GRU)を導入したRecurrent Neural Networkにそれぞれword embeddingを入力し、マルチラベル分類問題で用いられるBinary Relevanceで複数ラベルが付与されている大規模な文書を分類する。2. 先行研究と比べてどこがすごいの？ニューラルネットワークにおけるマルチラベル分類では、Backpropagation for Mul...
-
A Sensitivity Analysis of (and Practitioners' Guide to) Convolutional Neural Networks for Sentence Classification
1. どんなもの？Convolutional Neural Networks(CNNs)は近年文書分類においてとても良い結果を達成しているが、先行研究で用いられているモデルはCNNに精通した熟練者がアーキテクチャやハイパーパラメータを設定する必要がある。本研究ではシンプルなCNNを用いてさまざまなパラメータを実験し、検証を行う。2. 先行研究と比べてどこがすごいの？教師なしの特徴量抽出におけるシンプルなニューラルネットワークの分析や、ニューラルネットワークをトレーニングする際に利用されるS...