[发明专利]基于预训练语言模型的推荐系统效果增强方法及装置

权利要求书

1.一种基于预训练语言模型的推荐系统效果增强方法，其特征在于，包括：

采集多个区域的用户行为序列数据；

对所述多个区域的用户行为序列数据分别通过预训练的语义模型提取语义特征信息，获得多个区域的用户行为向量；

将多个区域的用户行为向量进行拟合，获得训练数据集；

基于所述训练数据集对Item2vec模型进行训练，获得训练好的Item2vec模型，利用所述训练好的Item2vec模型进行用户行为预测。

2.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，采集多个区域的用户行为序列数据，包括：

获取多个区域的用户行为日志文件；

对所述多个区域的用户行为日志文件进行筛选，获得多个区域的用户行为序列数据。

3.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，采集多个区域的用户行为序列数据，包括：

采集多个区域的用户行为数据；

对所述多个区域的用户行为数据进行清理，获得所需的多个区域的用户行为序列数据。

4.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，对所述多个区域的用户行为序列数据分别通过预训练的语义模型提取语义特征信息，获得多个区域的用户行为向量，包括：

对所述多个区域的用户行为序列数据分别通过预训练的语义模型BERT提取语义特征信息，获得多个区域的用户行为向量。

5.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，对所述多个区域的用户行为序列数据分别通过预训练的语义模型提取语义特征信息，获得多个区域的用户行为向量，包括：

对所述多个区域的用户行为序列数据分别通过预训练的语义模型LSTM或GPT提取语义特征信息，获得多个区域的用户行为向量。

6.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，将多个区域的用户行为向量进行拟合，获得训练数据集，包括：

以一个区域的用户行为向量为基础，将其余区域的用户行为向量映射至该区域的用户行为向量中，得出映射关系；

基于映射关系，获得训练数据集。

7.如权利要求6所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，将其余区域的用户行为向量映射至该区域的用户行为向量中，得出映射关系，包括：

计算其余区域的用户行为向量与该区域的用户行为向量的相似度，基于相似度得出映射关系。

8.如权利要求7所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，基于相似度得出映射关系，包括：

将其余区域的用户行为向量与该区域的用户行为向量的相似度与预设相似度进行比较；

当其余区域的用户行为向量与该区域的用户行为向量的相似度满足预设相似度时，得出映射关系。

9.如权利要求1所述的基于预训练语言模型的推荐系统效果增强方法，其特征在于，将多个区域的用户行为向量进行拟合，获得训练数据集，包括：

计算多个区域的用户行为向量的相似度，确定相似度满足预设相似度的用户行为向量；

将相似度满足预设相似度的用户行为向量作为训练数据集。

10.一种基于预训练语言模型的推荐系统效果增强装置，其特征在于，包括：

数据采集模块，用于采集多个区域的用户行为序列数据；

语义特征信息提取模块，用于对所述多个区域的用户行为序列数据分别通过预训练的语义模型提取语义特征信息，获得多个区域的用户行为向量；

拟合模块，用于将多个区域的用户行为向量进行拟合，获得训练数据集；

训练模块，用于基于所述训练数据集对Item2vec模型进行训练，获得训练好的Item2vec模型，利用所述训练好的Item2vec模型进行用户行为预测。