[发明专利]一种基于任意维度超复数嵌入的知识图谱表示方法在审

专利信息
申请号: 202210848061.8 申请日: 2022-07-19
公开(公告)号: CN115168612A 公开(公告)日: 2022-10-11
发明(设计)人: 薛一帆;段如冰;伍家松;孔佑勇;杨冠羽;杨淳沨;董志芳;舒华忠 申请(专利权)人: 东南大学
主分类号: G06F16/36 分类号: G06F16/36;G06F40/279
代理公司: 南京众联专利代理有限公司 32206 代理人: 杜静静
地址: 210096 *** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 任意 维度 复数 嵌入 知识 图谱 表示 方法
【权利要求书】:

1.一种基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,所述方法包括以下步骤:

步骤1、知识图谱数据预处理,将传统知识图谱根据模型需求预处理为结构化数据;

步骤2、利用深度学习框架pytorch构造初步嵌入,并构建新的线性层,即超复数嵌入线性层,在图谱上学习实体和关系的向量表示;

步骤3、用知识图谱校验集进行校验,调整到最佳网络参数;

步骤4、对知识图谱测试集进行测试,统计测试结果,利用MR(Mean Rank),MRR(MeanReciprocal Ranking),HIT10(链接预测中排名小于10的三元组的平均占比)评价指标对模型进行评估。

2.根据权利要求1所述的基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤1具体如下:首先对不同领域的知识图谱进行预处理为五个文件,处理后的文件包括知识图谱三元组训练集,知识图谱三元组验证集,知识图谱三元组测试集,实体ID集合,关系ID集合。

3.根据权利要求1所述的基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤2具体如下:首先将步骤1得到的知识图谱中的实体和关系嵌入为初始向量,为接下来的训练做准备,构建超复数嵌入(Hypercomplex Embedding)线性层,即HyperE层,由输入得到n元数的初始嵌入结果I,n为设定元数,I的维度被n整除

I=[I1,I2,I3,…,In]#(1)

I1表示n元数嵌入的实部部分,Ii,i∈[2,3,…,n]表示n元数嵌入的虚部部分,把这n个部分按照给定轴相接构成向量I,作为HyperE层的输入,HyperE层采用与标准平移模型相同的形式:y=HyperE(x)=Ux+b,关键思想是通过Kronecker积的和,将U构造为参数矩阵,其中x为输入的待训练的嵌入向量,b为偏置,得到y为实体或关系的嵌入向量;

计算正负样本的得分,并通过得分计算出每一批数据的损失来进行迭代优化。

4.根据权利要求2所述的一种基于超复数嵌入的知识图谱嵌入方法,其特征在于,步骤1中所述的预处理操作,操作具体为:将整个知识图谱三元组数据集按照8:1:1随机分割为训练集、验证集和测试集,并输出整个知识图谱的实体对应ID和关系对应ID。

5.根据权利要求3所述的一种基于任意维度超复数嵌入的知识图谱表示方法,其特征在于,步骤2中所述的构建超复数线性层HyperE操作,操作具体为:

获得知识图谱中的实体嵌入和关系嵌入,对于任意三元组有头实体h,关系r和尾实体t,接下来由HyperE层将实体和关系嵌入转换为高阶嵌入,y=HyperE(x)=Ux+b,通过Kronecker积的方式根据不同的元数构造不同的学习矩阵U,Kronecker积将向量外积推广到矩阵,设定X∈Rm*n,Y∈Rp*q,Kronecker积为:

其中xij=(X)i,j,设n为超复数嵌入HyperE的维度,k为用户定义的超参数,表示实体和关系嵌入的维度,上文所述的U矩阵由n个Kronecker积得到:

其中Ci∈Rn*n表示贡献矩阵,表示分量权重矩阵,同时k也表示线性变换的输入输出大小,贡献矩阵Ci选择为满秩矩阵,其行列是线性独立的,所有元素均属于{-1,0,1},设

对角线上为1和-1交替出现,将每个贡献矩阵Ci初始化为矩阵与循环置换矩阵Pn的幂之间的乘积,循环置换矩阵Pn的作用为右移的列,

其中当j-1=1且i=n,j=1时,(Pn)i,j=1,此外所有项全部为0;

当n=2时,设定

当n=4时,设定

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210848061.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top