[发明专利]一种基于任意维度超复数嵌入的知识图谱表示方法在审
申请号: | 202210848061.8 | 申请日: | 2022-07-19 |
公开(公告)号: | CN115168612A | 公开(公告)日: | 2022-10-11 |
发明(设计)人: | 薛一帆;段如冰;伍家松;孔佑勇;杨冠羽;杨淳沨;董志芳;舒华忠 | 申请(专利权)人: | 东南大学 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F40/279 |
代理公司: | 南京众联专利代理有限公司 32206 | 代理人: | 杜静静 |
地址: | 210096 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 任意 维度 复数 嵌入 知识 图谱 表示 方法 | ||
1.一种基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,所述方法包括以下步骤:
步骤1、知识图谱数据预处理,将传统知识图谱根据模型需求预处理为结构化数据;
步骤2、利用深度学习框架pytorch构造初步嵌入,并构建新的线性层,即超复数嵌入线性层,在图谱上学习实体和关系的向量表示;
步骤3、用知识图谱校验集进行校验,调整到最佳网络参数;
步骤4、对知识图谱测试集进行测试,统计测试结果,利用MR(Mean Rank),MRR(MeanReciprocal Ranking),HIT10(链接预测中排名小于10的三元组的平均占比)评价指标对模型进行评估。
2.根据权利要求1所述的基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤1具体如下:首先对不同领域的知识图谱进行预处理为五个文件,处理后的文件包括知识图谱三元组训练集,知识图谱三元组验证集,知识图谱三元组测试集,实体ID集合,关系ID集合。
3.根据权利要求1所述的基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤2具体如下:首先将步骤1得到的知识图谱中的实体和关系嵌入为初始向量,为接下来的训练做准备,构建超复数嵌入(Hypercomplex Embedding)线性层,即HyperE层,由输入得到n元数的初始嵌入结果I,n为设定元数,I的维度被n整除
I=[I1,I2,I3,…,In]#(1)
I1表示n元数嵌入的实部部分,Ii,i∈[2,3,…,n]表示n元数嵌入的虚部部分,把这n个部分按照给定轴相接构成向量I,作为HyperE层的输入,HyperE层采用与标准平移模型相同的形式:y=HyperE(x)=Ux+b,关键思想是通过Kronecker积的和,将U构造为参数矩阵,其中x为输入的待训练的嵌入向量,b为偏置,得到y为实体或关系的嵌入向量;
计算正负样本的得分,并通过得分计算出每一批数据的损失来进行迭代优化。
4.根据权利要求2所述的一种基于超复数嵌入的知识图谱嵌入方法,其特征在于,步骤1中所述的预处理操作,操作具体为:将整个知识图谱三元组数据集按照8:1:1随机分割为训练集、验证集和测试集,并输出整个知识图谱的实体对应ID和关系对应ID。
5.根据权利要求3所述的一种基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤2中所述的构建超复数线性层HyperE操作,操作具体为:
获得知识图谱中的实体嵌入和关系嵌入,对于任意三元组有头实体h,关系r和尾实体t,接下来由HyperE层将实体和关系嵌入转换为高阶嵌入,y=HyperE(x)=Ux+b,通过Kronecker积的方式根据不同的元数构造不同的学习矩阵U,Kronecker积将向量外积推广到矩阵,设定X∈Rm*n,Y∈Rp*q,Kronecker积为:
其中xij=(X)i,j,设n为超复数嵌入HyperE的维度,k为用户定义的超参数,表示实体和关系嵌入的维度,上文所述的U矩阵由n个Kronecker积得到:
其中Ci∈Rn*n表示贡献矩阵,表示分量权重矩阵,同时k也表示线性变换的输入输出大小,贡献矩阵Ci选择为满秩矩阵,其行列是线性独立的,所有元素均属于{-1,0,1},设
对角线上为1和-1交替出现,将每个贡献矩阵Ci初始化为矩阵与循环置换矩阵Pn的幂之间的乘积,循环置换矩阵Pn的作用为右移的列,
其中当j-1=1且i=n,j=1时,(Pn)i,j=1,此外所有项全部为0;
当n=2时,设定
当n=4时,设定
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210848061.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种端子组装防水圈组装工艺
- 下一篇:智能供暖处理方法及装置