[发明专利]基于注意力门控卷积网络的目标情感分析方法及系统有效
申请号: | 201910675636.9 | 申请日: | 2019-07-25 |
公开(公告)号: | CN110390017B | 公开(公告)日: | 2022-12-27 |
发明(设计)人: | 曹卫东;李嘉琪;王怀超 | 申请(专利权)人: | 中国民航大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 天津市鼎和专利商标代理有限公司 12101 | 代理人: | 蒙建军 |
地址: | 300300 天*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 门控 卷积 网络 目标 情感 分析 方法 系统 | ||
1.一种基于注意力门控卷积网络的目标情感分析方法,其特征在于,包括如下步骤:
步骤101,输入为给定的上下文词向量和对应的目标词向量,将两者分别作为输入进行训练;
步骤102,利用上下文词和上下文感知目标词进行多头注意力机制交互;具体为:将键序列k={k1,k2,…kn}映射到查询序列q={q1,q2,…,qm},得到一次输出,通过多次计算,将多次结果拼接得到最终输出MHA(k,q),其中,上下文间词嵌入建模是将相同的上下文词序列作为输入,即k=q,由上下文词的词向量xc得出上下文词嵌入建模表示cintra,上下文感知目标词建模是将上下文词序列和目标词序列分别作为输入,即k≠q,由上下文词向量xc和对应的目标词向量xt得出上下文感知目标词的表示tinter,利用上下文词和上下文感知目标词的多头注意力机制,提取情感特征和基于目标的情感特征;
步骤103,将两个通道生成的情感特征向量cintra和tinter分别经过门控卷积机制,生成带有上下文感知目标词表示的上下文词表示ai和上下文词表示ui;具体为:在卷积层中,nk个不同大小的卷积核k依次滑过词向量X={x1,x2,…,xn},生成带有上下文感知目标词表示的上下文词表示ai和上下文词表示ui,得到不同粒度在不同位置的特征图o,实现对文本的局部感知,从而提取局部特征,将卷积神经网络和门控机制用于情感分类,使得模型并行计算且选择性地输出情感特征;
步骤104,将情感特征oi进行池化,选出最具有代表的特征;具体为:将情感特征oi通过最大池化层,选择与目标词相关的最具有代表的情感特征;
步骤105,将池化后的特征词向量进行全连接,然后通过Softmax分类器进行分类;
步骤106,通过最小化交叉熵损失函数来训练和更新注意力门控卷积网络模型。
2.根据权利要求1所述的基于注意力门控卷积网络的目标情感分析方法,其特征在于,所述步骤101为:利用预训练好的GloVe对文本进行处理,生成词向量矩阵其中,demb是词向量维度,|V|是词典大小,所述上下文词向量Xc={x1c,x2c,…,xnc},所述对应的目标词向量Xt={x1t,x2t,…,xmt}。
3.根据权利要求1所述的基于注意力门控卷积网络的目标情感分析方法,其特征在于,所述步骤105为:由最大池化层选出的最具有代表的情感特征经过全连接层,在全连接层中加入了随机失活,随机失活在训练模型时会随机去掉一些网络节点,最后特征通过Softmax分类器进行分类,输出情感类别;所述步骤106为:利用反向传播算法,通过最小化交叉熵损失函数来训练和更新模型,以此选择最优的模型参数,得出关于目标的情感分类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国民航大学,未经中国民航大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910675636.9/1.html,转载请声明来源钻瓜专利网。