[发明专利]一种文本信息推荐方法、装置及可读介质

权利要求书

1.一种文本信息推荐方法，其特征在于，包括以下步骤：

S1，获取用户数据及所对应的文本语料，对所述文本语料进行预处理，得到文本数据；

S2，将所述用户数据进行处理得到用户属性特征，将所述文本数据通过词注意力网络生成文本特征，将所述用户数据利用知识图谱表示学习模型生成用户知识图谱特征，具体包括：

将所述用户数据利用随机方式初始化实体和关系的嵌入表示，其中实体为用户信息，关系为用户关注关系，所述知识图谱表示学习模型的训练过程中的每次迭代都对实体进行规范化处理；从训练集中采样出小批量正例三元组集合，基于伯努利抽样算法对所述训练集进行负采样处理，得到负例三元组集合，具体为：对知识图谱中每一个关系r的三元组，计算出每个头实体对应尾实体数量的平均值R_tph以及每个尾实体对应头实体数量的平均值R_hpt，定义一个参数为p的抽样方法：

针对三元组(h,r,t)构建负例三元组集合，用概率p替换头实体，概率1-p替换尾实体；

优化训练目标，采用随机梯度下降算法不断迭代更新参数，当知识图谱表示学习模型收敛或达到最大迭代次数时停止训练，其中，定义所有样本的损失函数：

L＝Σ_{(h,r,t)∈S(h,r,t)}Σ_{(h',r,t')∈S'(h,r,t)}[f_r(h,t)+γ-f_r(h',t')]₊；

式中，S(h,r,t)表示知识图谱中的正例三元组集合，S'(h,r,t)表示负例三元组集合，[x]₊表示当x大于0时取原值，x小于0时取0；γ表示正例三元组集合和负例三元组集合之间的边界值；

将用户知识图谱中的实体和关系信息全部映射到同一个d维的向量空间中，最终可得到所有实体的向量表示：

E＝KGE(E₁,E₂,…,E_v)∈R^v×d；

式中，E_v表示第v个实体的特征向量表示，v表示总共的实体数量；

将所述用户属性特征、文本特征和用户知识图谱特征进行拼接，得到综合特征；

S3，将所述综合特征输入多层感知机，得到用户偏好类别及对应的推送数量。

2.根据权利要求1所述的文本信息推荐方法，其特征在于，所述对所述文本语料进行预处理包括文本清洗、分词、去停用词和数据过滤。

3.根据权利要求1所述的文本信息推荐方法，其特征在于，所述步骤S2中的所述将所述用户数据进行处理得到用户属性特征具体包括：

针对所述用户数据中的离散型数据通过整数编码的方式得到稠密的向量表示的离散型数据集合；

针对所用户数据中的连续数据通过线性函数归一化得到连续型数据集合；

将所述离散型数据集合和所述连续型数据集合拼接得到所述用户属性特征。

4.根据权利要求1所述的文本信息推荐方法，其特征在于，所述步骤S2中的所述将所述文本数据通过词注意力网络生成文本特征具体包括：

在所述文本数据的第i个句子s_i中总共有T个词，其分词序列表示为{w_1i,w_2i,…,w_iT}，将所述分词序列转换成词向量表示：

x_it＝W_ew_it,t∈[1,T]；

其中，W_e表示一个嵌入矩阵；

将所述词向量表示利用双向GRU网络结合正向、反向的上下文信息，通过隐藏层输出结果，得到w_it在整个句子中正反两个方向的词向量表示：

通过注意力机制提取句子中词级别最重要的特征作为所述文本特征。