[发明专利]一种基于图神经网络的习题文本相似度检测方法和装置在审
申请号: | 202111412407.1 | 申请日: | 2021-11-25 |
公开(公告)号: | CN116186550A | 公开(公告)日: | 2023-05-30 |
发明(设计)人: | 李智 | 申请(专利权)人: | 广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司 |
主分类号: | G06F18/22 | 分类号: | G06F18/22;G06N3/042;G06N3/048;G06N3/08;G06F40/30 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 付婧 |
地址: | 510530 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 神经网络 习题 文本 相似 检测 方法 装置 | ||
1.一种基于图神经网络的习题文本相似度检测方法,其特征在于,所述方法包括:
获取第一习题文本和第二习题文本,并对所述第一习题文本和所述第二习题文本进行预处理;
将预处理后的第一习题文本转化为第一图结构,并将预处理后的第二习题文本转化为第二图结构;
利用训练好的多级图神经网络对所述第一图结构进行处理得到第一多重结果,并对所述第一多重结果进行拼接得到第一向量;
利用训练好的多级图神经网络对所述第二图结构进行处理得到第二多重结果,并对所述第二多重结果进行拼接得到第二向量;
计算所述第一向量与所述第二向量之间的余弦距离,得到所述第一习题文本和所述第二习题文本之间的相似度。
2.根据权利要求1所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述多级图神经网络包括一级图神经网络至Z级图神经网络,其中,Z为大于1的自然数,且前一级图神经网络的输出作为下一级图神经网络的输入。
3.根据权利要求1所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述利用训练好的多级图神经网络对所述第一图结构进行处理得到第一多重结果,并对所述第一多重结果进行拼接得到第一向量,包括:
获取结点特征向量步骤,将所述第一图结构输入训练好的一级图神经网络,得到所述第一图结构中每一个结点的特征向量;
获取邻居结点特征向量步骤,获取每一个结点的邻居结点的特征向量;
汇总步骤,对所述每一个结点的邻居结点的特征向量进行汇总;
局部信息得到步骤,基于汇总后特征向量对第一图结构中所有结点进行更新,得到所述第一图结构的局部信息;
二级图神经网络步骤,将所述第一图结构的局部信息输入训练好的二级图神经网络,按照前述获取结点特征向量步骤和获取邻居结点特征向量步骤执行,直至Z级神经网络输出第一多重结果;
拼接步骤,对所述第一多重结果进行拼接得到第一向量。
4.根据权利要求3所述的基于图神经网络的习题文本相似度检测方法,其特征在于,对所述每一个结点的邻居结点的特征向量进行汇总,公式为:
其中,t和t-1表示下一级神经网络和上一级神经网络,n表示当前结点,N表示n的所有邻居结点,a表示n的任一邻居结点,ean表示n与a之间边的权重,表示上一级神经网络的输出向量。
5.根据权利要求4所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述基于汇总后特征向量对第一图结构中所有结点进行更新,公式为:
其中,GRU表示GRU循环神经网络,表示对所述每一个结点的邻居结点的特征向量进行汇总的汇总结果,表示上一级神经网络的输出向量。
6.根据权利要求1-5任一所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述方法还包括:在得到所述第一多重结果和所述第二多重结果之前还包括对每一级神经网络的输出结果进行注意力机制处理,将处理后的输出结果全部拼接在一起分别得到所述第一多重结果和所述第二多重结果。
7.根据权利要求6所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述进行注意力机制处理的公式为:
其中,tanh表示激活函数,和表示中间变量,i和j表示第i个和第j个结点,vT表示上下文的一个随机初始化值,表示训练参数,表示结点权重,uT表示注意力机制处理得到的加权和。
8.根据权利要求1所述的基于图神经网络的习题文本相似度检测方法,其特征在于,所述获取第一习题文本和第二习题文本,并对所述第一习题文本和所述第二习题文本进行预处理,包括:
获取第一习题文本和第二习题文本;
将所述第一习题文本和所述第二习题文本中的无效文本去除;
对去除无效文本后的第一习题文本和第二习题文本进行文本归一化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司,未经广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111412407.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种可升降验电器
- 下一篇:一种燃煤电厂现货辅助报价方法及系统