[发明专利]一种基于LSTM和语法距离的方面级情感分析方法在审
申请号: | 202210362526.9 | 申请日: | 2022-04-07 |
公开(公告)号: | CN114662503A | 公开(公告)日: | 2022-06-24 |
发明(设计)人: | 刘辉;马祥 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F16/35;G06F40/205;G06F40/253;G06F40/284;G06N3/04;G06N3/08 |
代理公司: | 重庆忠言智汇专利代理事务所(普通合伙) 50290 | 代理人: | 何君苹 |
地址: | 400065 重*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 lstm 语法 距离 方面 情感 分析 方法 | ||
1.一种基于LSTM和语法距离的方面级情感分析方法,其特征在于,包括以下步骤:
S1:特征输入:使用GloVe预训练模型对词向量进行映射,再分别让方面词和上下文词经过Bi-LSTM,得到方面词和上下文的隐藏表示;
S2:语义特征提取:采用图卷积网络和mLSTM分别提取方面词和上下文的语义特征;
S3:方面词和上下文词语义交互阶段:将S2提取到的方面词和上下文的特征进行一个点积注意力操作;
S4:情感预测阶段:对S3中得到的特征进行一个最大池化操作后,再通过softmax操作得到最终预测的情感极性。
2.根据权利要求1所述的一种基于LSTM和语法距离的方面级情感分析方法,其特征在于:步骤S1中,使用GloVe预训练模型,将待进行情感分析的句子中每个词转换为词向量,并采用Bi-LSTM得到方面词和上下文词的隐藏表示。
3.根据权利要求1所述的一种基于LSTM和语法距离的方面级情感分析方法,其特征在于:步骤S2中,采用图卷积网络和mLSTM分别提取方面词和上下文的语义特征,具体包括:将步骤S1中得到的方面词的隐藏表示同上下文词逐一地计算关联程度,得到方面词对于上下文词的注意力向量,并将该注意力向量与上下文词的隐藏表示拼接起来,作为mLSTM的输入,得到含有更多方面信息的上下文词的特征表示;然后使用spaCy进行语法依赖分析得到语法依赖树,并引入语法距离作为位置权重,使得在语法依赖树上与方面词距离更近的上下文词获得更大的权重,同时与上下文词的最终表示和经过语法依赖树构建的邻接矩阵一同作为图卷积网络的输入,经由图卷积网络获取不相邻单词之间的依赖关系并获取到丰富的语法特征;然后经过方面掩盖层过滤掉非方面词,得到方面词的隐藏表示;然后将得到的上下文词表示、方面词表示和语法距离权重进行信息交互,用于方面级情感分析。
4.根据权利要求3所述的一种基于LSTM和语法距离的方面级情感分析方法,其特征在于:
所述的模型包括mLSTM层,位置权重层,图卷积层,方面掩盖层和信息交互层。
5.根据权利要求4所述的一种基于LSTM和语法距离的方面级情感分析方法,其特征在于,所述的mLSTM层计算过程包括:
将通过Bi-LSTM得到的方面词和上下文词的隐藏表示和逐一的计算二者之间的关联性,表达式为:
其中,αkj是用来编码上下文词和方面词之间的的注意权重,表达式为:
其中,ekj,用来获取上下文词与不同方面词之间的关联,表达式为:
其中,we和所有的参数矩阵W*均为可学习的权重矩阵。是由mLSTM产生的第k个位置的隐藏状态;
然后将上下文中第k个单词的关于方面词的注意力权重ak与上下文中第k个单词的隐藏状态融合起来,作为mLSTM的输入mk。经过mLSTM得到含有方面信息的上下文表示
6.根据权利要求4所述的一种基于LSTM和语法距离的方面级情感分析方法,其特征在于,步骤S2中,引入语法距离权重代替相等距离,使得与方面词的语法关联更大的上下文词能够获得更大的权重,优化图卷积网络的输入,经过图卷积网络得到含有丰富语法特征的句子表示后,又通过方面掩盖层过滤掉非方面词,得到方面表示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210362526.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种磁头外壳收料装置
- 下一篇:一种水产养殖育苗生产换水装置