[发明专利]一种基于图卷积神经网络的文本分类方法及系统在审

专利信息
申请号: 201911064089.7 申请日: 2019-11-04
公开(公告)号: CN110929029A 公开(公告)日: 2020-03-27
发明(设计)人: 唐钰葆;于静;曹聪;刘燕兵;谭建龙;郭莉 申请(专利权)人: 中国科学院信息工程研究所
主分类号: G06F16/35 分类号: G06F16/35;G06N3/04
代理公司: 北京君尚知识产权代理有限公司 11200 代理人: 司立彬
地址: 100093 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 图卷 神经网络 文本 分类 方法 系统
【权利要求书】:

1.一种基于图卷积神经网络的文本分类方法,其步骤包括:

1)对于目标领域的文本训练集中的每一已类别标注文本,根据该文本中词的词频、逆文档率生成该文本的文本特征向量;将各文本特征向量组合生成一文本特征矩阵,即TF-IDF矩阵,并根据词的词向量相似度构建一该文本训练集的图结构;

2)利用所述图结构及文本特征矩阵训练图卷积神经网络;

3)对于该目标领域的一待分类文本a,将该文本a的文本特征向量输入训练后的图卷积神经网络,得到该文本a的类别。

2.如权利要求1所述的方法,其特征在于,生成该图结构的方法为:将文本中的词作为图的节点,与一个节点最相似的若干个词作为该节点的邻居节点,生成该图结构。

3.如权利要求1或2所述的方法,其特征在于,步骤2)中,首先对所述图结构预处理,计算图的拉普拉斯矩阵;然后利用图的拉普拉斯矩阵及文本特征矩阵训练图卷积神经网络。

4.如权利要求3所述的方法,其特征在于,所述图拉普拉斯矩阵为L=D-W∈Rn*n,其中D∈Rn*n是对角度矩阵,Dii=∑jWij,W∈Rn*n是对两个节点之间的连接权值进行编码的邻接矩阵,Wij表示邻接矩阵中第i个节点与第j个节点对应的值,如果第i个节点与第j个节点有边连接,则Wij值为1,反之为0。

5.如权利要求1所述的方法,其特征在于,所述图卷积神经网络包括依次连接的输入层、若干隐藏层、全连接层和输出层;其中,每一隐藏层包括图卷积层、池化层、激活层;所述输入层用于接收图结构及文本特征并将其输入到隐藏层;所述图卷积层用于对输入的图结构和文本特征进行卷积运算,获取文本的特征信息并输入到激活层;所述激活层用于对输入的卷积层捕获到的特征进行非线形激活处理;所述池化层用于对激活层得到的信息进行分层采样;分层采样的信息经所述全连接层后输入输出层,预测对应文本的类别。

6.如权利要求4所述的方法,其特征在于,所述图卷积层先对图结构进行图的傅立叶变换到谱域,在谱域实现卷积运算,再通过图的傅立叶逆变换将图结构变换回频域获取卷积结果;所述池化层通过公式Wi,j(1/di+1/dj)计算每一个节点与其相邻节点的归一化切割值,然后选择与当前节点的归一化切割值最大的相邻节点与当前节点进行合并,再通过一维池化完成池化;其中,di是节点i的度,dj是节点j的度,Wi,j是节点i与节点j之间的边的权重。

7.如权利要求6所述的方法,其特征在于,定义任何图G上的节点的函数f∈Rn,根据图拉普拉斯的特征向量,对应的图傅里叶变换展开式:

其中n是图结构中的节点数,ul是系数,是针对节点i的系数;对应的图的傅里叶逆变换定义为:ul(i)是傅里叶逆变换中针对节点i的系数;图G=(V,E,W),其中V是有限集合|V|=n个节点,E是一组边,W∈Rn*n是对两个节点之间的连接权值进行编码的邻接矩阵。

8.如权利要求6或7所述的方法,其特征在于,所述图卷积层利用滤波器对图结构中的节点信号x进行过滤,其中滤波操作为y为过滤后的信号,θ∈RK是切比雪夫系数向量;信号x∈Rn,x为节点对应的词的语义信息,xi是x在第i个节点的值。

9.如权利要求1所述的方法,其特征在于,采用Mini-batch梯度下降法或动量优化法训练所述图卷积神经网络。

10.一种基于图卷积神经网络的文本分类系统,其特征在于,包括文本预处理模块、图卷积神经网络训练模块和文本分类模块;其中,

文本预处理模块,用于根据文本中词的词频、逆文档率生成该文本的文本特征向量,然后将各文本特征向量组合生成一文本特征矩阵,即TF-IDF矩阵;以及根据词的词向量相似度构建一该文本训练集的图结构;

图卷积神经网络训练模块,用于根据所述文本特征矩阵及所述图结构训练图卷积神经网络;

文本分类模块,用于将待分类文本a的文本特征向量输入训练后的图卷积神经网络,得到该文本a的类别。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所,未经中国科学院信息工程研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911064089.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top