1. 程式人生 > >深度學習情感分類常用方法(綜述)

深度學習情感分類常用方法(綜述)

論文原文:Deep Learning for Sentiment Analysis: A Survey

原文地址:https://arxiv.org/ftp/arxiv/papers/1801/1801.07883.pdf

(1)文件級情感分類:

主要方法如下圖所示:

(2)語句級情感分類

Socher et al           semi-supervised Recursive Autoencoders Network (RAE) 得到了一個降維句子向量表示
Socher et al           Matrix-vector Recursive Neural Network (MVRNN) 每個詞與樹結構中的矩陣向量相關(樹結構通過外部解析器獲得)

Socher et al           Recursive Neural Tensor Network 基於張量的compositional functions可以更好地捕捉元素間的關係

Qian et al               ①Tag-guided Recursive Neural Network (TG-RNN) 根據語句的詞性標註選擇一個composition function

                             ②Tag-embedded Recursive Neural Network / Recursive Neural Tenser Network (TE-RNN/RNTN) 學習tag embeddings,然後將tag embeddings和word                                    emdeddings結合起來

Kalchbrenner et al   Dynamic CNN (called DCNN) 使用動態k-Maxpooling operator作為非線性二次取樣

Kim                       CNN-rand: word embeddings隨機初始化
          CNN-static:word embeddings預訓練並且固定

          CNN-non-static:word embedding 預訓練並且fine-tuned

          CNN-multichannel:

Santos and Gatti     Character to Sentence CNN (CharSCNN)
Wang          LSTM  模擬詞語互動

Wang et al              CNN-LSTM

           a joint CNN and RNN architecture  短文字

Guggilla et al           LSTM- and CNN-based deep neural network model  (Word2vec and linguistic embeddings)
Huang et al             encode the syntactic knowledge (e.g., part-of-speech tags) in a treestructured LSTM to enhance phrase and sentence representation
Akhtar et al     several multi-layer perceptron based ensemble models for fine-gained
          sentiment classification of financial microblogs and news.

(3)Aspect Level(特徵級)情感分類

與文件級和語句級情感分類不同,特徵級情感分類需要同時考慮情感資訊和目標資訊。這裡的目標指的是實體或實體特徵,簡稱為aspect。

在深度學習情感分類中,Aspect Level情感分類可分為三個任務:

①表示目標的語境詞:可用文字表示方法解決

②生成目標表示:可用學習目標嵌入表示(與詞嵌入類似)

③識別特定目標的重要情感語境詞:可用注意力機制

eg: the screen of iPhone is clear but batter life is short.

‘clear'是'screen'的情感語境詞,對於目標特徵'screen'而言,則情感是積極的

‘short'是‘batter'的情感語境詞,對於目標特徵‘batter'而言,則情感是消極的

相關論文方法如下: