[发明专利]基于门控图注意力网络的论文分类模型构建方法及系统有效
申请号: | 202110080195.5 | 申请日: | 2021-01-21 |
公开(公告)号: | CN112749757B | 公开(公告)日: | 2023-09-12 |
发明(设计)人: | 王美红;邱淋灵;李涵;王晓黎;陈岐望 | 申请(专利权)人: | 厦门大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G06F16/36;G06N3/042;G06N3/0442;G06N3/084;G06N5/022 |
代理公司: | 北京高沃律师事务所 11569 | 代理人: | 张琳丽 |
地址: | 361005 *** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 门控 注意力 网络 论文 分类 模型 构建 方法 系统 | ||
1.一种基于门控图注意力网络的论文分类模型构建方法,其特征在于,包括:
构建基于门控图神经网络的分类模型,所述分类模型包括依次连接的若干层,层数大于等于2,其中,各层均包括一图神经网络结构以及一分类器,第一层中图神经网络结构和分类器直接连接,第t层中图神经网络结构和分类器之间通过门控结构连接,t为大于1的整数;
根据计算样本数据集中论文样本i与其邻居论文样本j各属性之间总的相关性βij,其中,Vk表示第k个属性Ak的权重,B(Aki,Akj)表示论文样本i的第k个属性与论文样本j的第k个属性的相关程度,B(,)为利用词袋模型计算词语之间的语义相关性程度的函数,K为属性的数量,Ni是论文样本i的邻居集合,所述属性包括出版社、作者、摘要中的一种或几种;
确定样本数据集中各论文样本i的特征矩阵其中,特征矩阵为基于单词数据集确定的论文样本i的0-1矩阵;
将各论文样本的特征矩阵输入所述分类模型,并以各论文样本的类型为标签对所述分类模型进行训练;其中,
第一层图神经网络结构根据或对论文样本i进行嵌入表示,其中,为第一层的嵌入式表示结果,eij表示论文样本i与论文样本j之间的重要性程度,W1、W2、W3、U分别表示用于训练的权重矩阵,a表示一个由权重向量参数化的单层前馈神经网络,γij表示eij进行的归一化处理后的结果,论文样本p为论文样本i的邻居论文样本,σ表示任意一将变换为的非线性函数,K表示在引入多头注意力时多头注意力的数量,k表示第k头注意力;
第t层图神经网络结构根据对论文样本i进行嵌入表示,其中,为第t层的嵌入式表示结果,其中,W'、U'、Wr、Ur、Wz、Uz分别表示用于训练的权重矩阵。
2.根据权利要求1所述的基于门控图注意力网络的论文分类模型构建方法,其特征在于,所述论文样本的类型包括基于案例类型、遗传算法类型、神经网络类型、概率方法类型、强化学习类型、规则学习类型以及理论类型。
3.根据权利要求1所述的基于门控图注意力网络的论文分类模型构建方法,其特征在于,所述层数为3。
4.根据权利要求1所述的基于门控图注意力网络的论文分类模型构建方法,其特征在于,所述分类器用于计算样本论文在每个类别维度上的权重。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门大学,未经厦门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110080195.5/1.html,转载请声明来源钻瓜专利网。