[发明专利]一种3DRTE时间知识图谱的三维旋转嵌入方法

说明书

本发明涉及一种3DRTE时间知识图谱的三维旋转嵌入方法，定义时间知识图谱TKG，给定实体集合E，关系集合R，时间戳集合T，一个TKG表示为时间事实四元组的集合，令已知的时间事实集合为G，则TKGC的目的就是在现有知识G的基础上推导出W；建立3DRTE模型，包括利用自注意力机制处理时间戳的各个片段带来的信息和利用四元数的旋转特性，将实体在融合了时间的关系的作用下，旋转建模在了三维空间中，从而获得了蕴含时间和关系的实体表示即完成模型建立；将得到的模型使用损失函数进行训练，并进行数据验证，最终实现补全时间知识图的目的。本发明通过自注意力机制处理关系和时间戳的联合序列，自适应地学习关系和时间的联合特征表示，从而更有助于补全的性能。

技术领域

本发明涉及知识图谱下的知识表示与推理技术,特别是一种3DRTE时间知识图谱的三维旋转嵌入方法。

背景技术

根据模型考虑时间信息的有无，可以将现有的技术分为两类：

KGC：以Trans为代表的翻译模型及其改进TranH、TranR等，这类模型通常应用简单的距离函数来衡量三元组的可靠程度。其中，最新的研究成果RotatE尤为成功，它归纳了三种常见的关系模式，并利用欧拉定理的思路将关系建模为复数平面上的旋转。之后，Zhang等人提出了QuatE的四元数嵌入模型。由于四元数比复数拥有更多的旋转自由度，QuatE在标准链路预测任务上的性能得到了很大提升。虽然QuatE是语义匹配模型，但仍然证明了其保留了其中两种模式：对称性(反对称性)、可逆性。

TKGC：一类直观且有效的方案就是在传统KGC上进行相应的时间扩展，比如，TTranE和HyTE分别在TransE和TransH上实施了时间扩展；García-Durán等人通过LSTM的方法编码出了关系和时间的交互，实现了在DistMult等模型上的扩展；RishabGoel等人借助于NLP上的共时词嵌入，提出了共时实体嵌入的扩展方法。

目前大多数的TKGC方法都是在传统嵌入模型上的扩展，这似乎是有效的。然而，传统的嵌入方法在得分函数上暴露出很大的弊端，即无法处理关系的三种基本模式。如果在传统方法上进行时序扩展，必定会影响模型的表达能力(例如TransE存在的无法处理关系对称性的问题，这仍然存在于TTransE和TA-ransE等模型中)。另外，本发明还认为时间戳的每个符号带来的增益是参差不齐的，比起使用LSTM这样的序列化计算方法，还应该让关系自适应地考虑时间戳的各个片段带来的收益，从而更有效的融合时间信息。

发明内容

有鉴于此，本发明的目的是提供一种3DRTE时间知识图谱的三维旋转嵌入方法，提出的3DRTE(Three Dimensional Rotation Time Embedding)模型能够有效地融合时间信息，给知识图补全带来更大的可靠性。

本发明采用以下方案实现：一种3DRTE时间知识图谱的三维旋转嵌入方法，包括以下步骤：

步骤S1：定义时间知识图谱TKG，给定实体集合E，关系集合R，时间戳集合T，一个TKG表示为时间事实四元组(s,r,o,t)的集合其中s,o∈E表示实体，r∈R表示关系；令已知的时间事实集合为G，且则TKGC(时间知识图谱补全)的目的就是在现有知识G的基础上推导出W，即在给定已知事实集合G的情况下补全出TKG的全貌W；

步骤S2：建立3DRTE模型，包括利用自注意力机制处理时间戳的各个片段带来的信息和利用四元数的旋转特性，将实体在融合了时间的关系的作用下，旋转建模在了三维空间中，从而获得实体在关系旋转下的得分函数，即完成模型建立；

步骤S3：将步骤S2中得到的模型使用损失函数进行训练，并进行数据验证，最终实现补全时间知识图的目的。

进一步地，所述步骤S2中所述利用3DRTE模型中的自注意力机制处理时间戳的各个片段带来的信息的具体内容为：