[发明专利]一种融合生成非对抗网络与卷积神经网络的情感分析方法有效
申请号: | 201811435131.7 | 申请日: | 2018-11-28 |
公开(公告)号: | CN109614611B | 公开(公告)日: | 2021-09-03 |
发明(设计)人: | 方烜宇;印鉴;高静 | 申请(专利权)人: | 中山大学;广东恒电信息科技股份有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 刘俊 |
地址: | 510260 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 融合 生成 对抗 网络 卷积 神经网络 情感 分析 方法 | ||
本发明提供一种融合生成非对抗网络与卷积神经网络的情感分析方法,本发明首先是借鉴传统的生成对抗网络思想,构建了一个生成非对抗网络,用于生成文本的全局语义信息,经过验证,该语义信息具有较好的表征全局的效果。其次对传统卷积神经网络进行改进,使其更适合情感分析任务,并且将生成非对抗网络产生的全局语义信息融合进其中,进行模型训练与测试。过程中使用的数据集为MR与SST‑2数据集。
技术领域
本发明涉及自然语言处理中的文本情感分析相关领域,更具体地,涉及一种融合生成非对抗网络与卷积神经网络的情感分析方法。
背景技术
情感分析,又称倾向性分析,意见抽取,意见挖掘,情感挖掘,主观分析,它是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程,如从评论文本中分析用户对“数码相机”的“变焦、价格、大小、重量、闪光、易用性”等属性的情感倾向,而情感倾向,又可分为“正向、负向、中性”等。
随着社交网络的发展,情感分析有着越来越多的应用场景:如对于商家来说,整理提炼互联网中的海量口碑评价,确定用户对自家产品的满意程度,需要用到情感分析领域的内容;又如对于门户网站来说,全面分析网友对于热点事件的动态情绪,确定推送内容,也无疑需要使用情感分析。
情感分析从大类来说,属于文本分类的一种,但是又与传统的文本分类有着区别。举两句话作为例子:“这首歌真热”与“天气真热”,从情感分析的角度来看,同样是“热”,但前者的情感极性为正向,后者的情感极性为负向。这个例子说明了,在情感分析中,全局的语义信息对于确认情感极性是十分关键的一个信息;而在其它文本分类中,全局的语义信息并没有那么关键。
因此,如何提取到能够比较好的表征全局的语义信息,并且如何将其融合进模型中,就成为了提升情感分析效果的一个关键问题。
对于上述提到的问题,借鉴最近比较流行的生成对抗网络思路,我们设计了一个生成非对抗网络框架,以生成比较好的全局语义信息;此外,我们还设计了一个基于卷积神经网络的模型,将全局语义信息融入模型,并引入位置向量,以达到较好的情感分析效果。
发明内容
本发明提供一种融合生成非对抗网络与卷积神经网络的情感分析方法。为了达到上述技术效果,本发明的技术方案如下:
一种融合生成非对抗网络与卷积神经网络的情感分析方法,其特征在于,包括以下步骤:
S1:建立用于生成全局语义信息的生成非对抗网络;
S2:建立通过特征抽取融合局部语义信息的卷积神经网络;
S3:通过非对抗网络生成全局信息,结合卷积神经网络提取局部信息,最终进行融合生成非对抗网络与卷积神经网络的情感分析的模型训练与测试。
进一步的,所述步骤S1的具体过程是:
S11:我们借鉴了生成对抗网络的思想,为了让其可以生成能表征全局语义的向量,我们进行了一点改进,构建了一个生成器G,与一个判别器D,让二者呈现非对抗状态,其中这两个都是由3层全连接网络构成,将G与D随机初始化。
S12:首先将句子中所有单词的词向量拼接成为一个向量(记为A向量)经过生成器G,得到一个压缩之后的真实文本表达向量。其次随机生成一个与A向量维度一致的向量,也同样经过生成器G,得到一个压缩之后的非文本表达向量。
S13:固定生成器G,将真实文本表达向量与非文本表达向量分别输入判别器D,再经过一个softmax层,真实文本表达向量的label定为1,非文本表达向量的label定为0,使用交叉熵作为损失函数,以这个为分类目标训练判别器D。(此步骤目的是,让判别器可以准确判别压缩的向量是文本表示向量还是非文本表示向量)
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学;广东恒电信息科技股份有限公司,未经中山大学;广东恒电信息科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811435131.7/2.html,转载请声明来源钻瓜专利网。