[发明专利]基于迭代图注意力网络的用户兴趣预测方法及电子装置

权利要求书

1.一种基于迭代图注意力网络的用户兴趣预测方法，适用于由一个或多个已知标签用户与一个或多个未知标签用户组成的用户网络，应用一个由图注意力网络GAT_θ与图注意力网络组成的迭代图注意网络，其步骤包括：

1)通过预训练的语言模型，得到各用户的用户特征u_j，其中1≤j≤N，N为用户数量；

2)将用户特征u_j输入图注意力网络通过固定兴趣标签联合依赖概率近似未知标签用户分布对图注意力网络的参数θ^(t-1)进行更新，得到图注意力网络的参数θ^(t)，其中t为迭代次数，t≥1，兴趣标签联合依赖概率未知标签用户分布通过用户网络得到，I_L为已知标签，I_un为未知标签，U_V为用户特征u_j的集合；

3)将用户特征u_j输入图注意力网络各未知标签用户通过学习用户网络中已知标签用户的用户特征，得到用户特征

4)依据用户网络，对用户特征进行标签传播，得到用户标签

5)将用户标签输入图注意力网络并通过固定未知标签用户分布近似兴趣标签联合依赖概率对图注意力网络的参数进行更新，得到图注意力网络的参数

6)将用户标签输入图注意力网络依据各用户标签依赖关系，得到用户标签表示

7)根据用户标签表示得到未知标签用户分布布与兴趣标签联合依赖概率

8)当迭代图注意网络收敛后，依据用户特征得到各用户兴趣标签。

2.如权利要求1所述的方法，其特征在于，预训练的语言模型包括BERT模型。

3.如权利要求1所述的方法，其特征在于，通过以下步骤得到各用户的标签表示

1)通过用户特征u_j与邻居用户特征u_jk，计算注意力系数其中k为用户j的邻居用户编号；

2)对各注意力系数进行归一化，得到注意力系数

3)依据邻居用户特征u_jk与注意力系数通过多头注意力机制，得到各用户的标签表示其中多头注意力机制中聚合函数Concat(*)在最后一层会被替换为Average(*)。

4.如权利要求3所述的方法，其特征在于，通过以下步骤得到注意力系数

1)用户特征u_j由共享的权重W_u∈R^{F′×F}经一次线性变换从F维转换为F’维，得到用户特征u′_j；

2)将用户特征u′_j与邻居用户特征u_jk进行横向拼接；

3)将拼接结果经过权重向量α^T∈R^2F′参数化后，共同送入一个单层的前馈网络并进行非线性的LeakyReLU操作，得到注意力系数

5.如权利要求1所述的方法，其特征在于，通过以下步骤用户标签

1)依据通过one-hot编码的用户向量，得到一概率转移矩阵P；

2)计算转化矩阵其中D是用户网络的度矩阵；

3)通过公式对标签传播过程进行迭代直至收敛，得到用户标签矩阵I^(t)，其中用户特征矩阵H^(t)是由用户特征构成，用户标签矩阵I^(t)是由用户标签构成，t′为标签传播过程的迭代次数，t′≥1，λ为超参。

6.如权利要求1所述的方法，其特征在于，通过以下步骤得到用户标签表示

1)通过注意力机制捕获用户标签与第K-阶邻居用户标签间的依赖关系

2)依据用户标签与依赖关系通过头注意力机制，得到各用户的标签表示

7.如权利要求1所述的方法，其特征在于，所述迭代图注意网络的最大似然估计其中I_V为全部标签集合。