[发明专利]一种基于超图池化的文本情感分类方法有效
申请号: | 202210912341.0 | 申请日: | 2022-07-30 |
公开(公告)号: | CN115238075B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 赵英伏;金福生;李荣华;秦宏超;王国仁 | 申请(专利权)人: | 北京理工大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/042;G06N3/047;G06N3/048 |
代理公司: | 北京圣州专利代理事务所(普通合伙) 11818 | 代理人: | 李志强 |
地址: | 100081 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 超图 文本 情感 分类 方法 | ||
本发明公开了基于超图池化的文本情感分类方法,将文本数据转化为文本超图,然后输入到超图模型中;超图模型设置有三个模块,每个模块均分为卷积层、池化层和读出层,且前一个模块输出的超图数据输入到后一个模块继续计算;超图卷积层通过超图卷积更新节点特征;超图池化层通过多层感知器线性变换得到节点重要度评分,并通过PageRank算法得到超边重要度评分,然后根据综合得分过滤节点;超图读出层读取每个维度节点特征的最大值和平均值,并进行求和;最后,将三个模块的读出层数值求和得到最终的文本超图特征表示,然后送入线性层进行文本情感分类。本发明采用上述文本情感分类方法,能够得到准确的文本情感信息,在情感分类任务中得到良好的表现效果。
技术领域
本发明涉及深度学习技术领域,尤其是涉及一种基于超图池化的文本情感分类方法。
背景技术
近年来,基于图的深度学习方法受到了研究人员的广泛关注,图神经网络方法也在诸多任务上取得了良好的成绩。在文本情感分类任务中,也有人提出了将文本建模成图结构,然后应用图神经网络的方法实现情感分类。该类方法往往是以单词为节点,将一个句子内的单词两两相连,容易因边数过多消耗巨大内存。还有些研究设定了滑动窗口,将窗口内的单词两两相连,减少了内存消耗,但这样又会割裂句子本身的结构,使得情感信息不准确。
随着超图概念的提出,文本表示有了新的突破。超图由一个节点集和一个超边集组成。其中,每一个超边包含两个及以上的节点,使得超图更适合于表示非两两关系的数据结构。在超图中,仍然以单词为节点,把每个自然句视为一条超边,进而将一个文本用一个超图来进行表达。
传统的图卷积神经网络方法基于图的拉普拉斯矩阵实现卷积运算,该方法并不能直接迁移到超图结构中。最近,超图神经网络(Hypergraph Neural Network,HGNN)使用超图结构进行表示学习,该模型重新定义了在超图上的拉普拉斯矩阵,通过节点和超边卷积运算分别进行特征聚合,进而更好地利用高阶数据相关性学习节点嵌入,在引文网络和视觉对象等超图节点分类任务上取得了良好的效果。此外,还有很多关于超图的研究工作,如动态超图结构学习(Dynamic Hypergraph Structure Learning,DHSL)研究了基于普通图实现的超图结构的构建与动态更新学习;动态超图神经网络框架(Dynamic HypergraphNeural Networks,DHGNN)在每一层上动态地更新超图结构,结合超图卷积运算,对高阶数据关系进行编码。
然而,这些超图神经网络技术都是基于节点维度的研究。在情感分类任务中,若将文本数据建模成超图,本质上只是对文本中所有单词的特征进行一个更新,对于文本超图的特征往往是所有节点特征的简单聚合,这样基于所有单词去分析文本情感的操作,既不利于文本情感的判断,在长文本中又造成数据庞大的问题。因此,目前在情感分类任务中,并没有一种合理有效的方法可以对整个文本超图进行特征表示。
发明内容
为解决上述问题,本发明在超图池化过程中引入评分环节,以对节点进行筛选,在提高分析效率的同时,更准确的找到文本的高阶信息,提高文本超图的情感分类准确度。
为实现上述目的,本发明提出了如下技术方案:
一种基于超图池化的文本情感分类方法,包括:
S1、超图构建;确定文本数据的单词节点和超边,利用独热向量编码的方式得到单词节点的初始特征矩阵,并确定单词节点与超边的关联矩阵;
S2、超图卷积;对超图的初始特征矩阵和关联矩阵执行卷积操作,从而得到单词节点的更新特征矩阵,即超图的高阶信息;
S3、超图池化;对更新特征矩阵执行池化操作,以确定节点评分;采用节点选择机制保留排名最高的若干个单词节点,并更新超图的特征矩阵和关联矩阵;
S4、超图读出;提取特征矩阵中单词节点在每一特征维度的最大值和平均值的和,来表示池化超图在该维度的特征信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学,未经北京理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210912341.0/2.html,转载请声明来源钻瓜专利网。