[发明专利]用户画像信息的处理方法、装置、设备和计算机存储介质

权利要求书

1.一种用户画像信息的处理方法，其特征在于，包括：

确定用户数据中的非结构化用户数据和结构化用户数据；

通过ALBERT模型对所述非结构化用户数据进行实体抽取和标注，以生成所述非结构化用户数据的三元组信息；

通过机器学习模型对所述结构化用户数据进行实体抽取和标注，以生成所述结构化用户数据的三元组信息；

通过实体链接技术对所述非结构化用户数据的三元组信息和所述结构化用户数据的三元组信息进行融合处理；

将融合处理后的三元组信息导入neo4j图数据库，以构建所述用户数据对应的用户画像知识图谱，

其中，所述三元组信息包括用户实体数据、实体关系数据和实体标签数据。

2.根据权利要求1所述的用户画像信息的处理方法，其特征在于，确定用户数据中的非结构化用户数据和结构化用户数据包括：

获取所述用户数据中的多源异构数据；

采用文本预处理技术对所述多源异构数据进行处理，以获得所述非结构化用户数据和所述结构化用户数据，所述文本预处理技术包括语音识别技术、光学字符识别技术、数据挖掘技术和机器学习技术中的至少一种。

3.根据权利要求1所述的用户画像信息的处理方法，其特征在于，在确定用户数据中的非结构化用户数据和结构化用户数据前，还包括：

采用brat工具对待训练的文本进行实体标注和关系标注；

通过编码处理将标注后的文本的数据格式转换成所述ALBERT模型能够处理的数据格式；

根据格式转换后的标注的文本获取上下文特征；

通过语义增强技术对所述上下文特征进行处理，以获取文本样本；

通过所述文本样本对所述ALBERT模型进行预训练。

4.根据权利要求3所述的用户画像信息的处理方法，其特征在于，所述ALBERT模型包括多个全连接层，通过文本样本对所述ALBERT模型进行预训练包括：

对所述文本样本进行软标签嵌入；

将所述文本样本中第i个字符串的软标签嵌入放到两个相互独立的全连接层，得到所述第i个字符串的主体和客体；

根据所述主体和所述客体之间的相关系数对所述ALBERT模型进行训练，至所述ALBERT模型的交叉熵损失函数达到最小值为止。

5.根据权利要求4所述的用户画像信息的处理方法，其特征在于，通过文本样本对所述ALBERT模型进行预训练还包括：

确定所述ALBERT模型的实体抽取损失函数；

对所述ALBERT模型引入辅助句级分类预测任务；

根据所述实体抽取损失函数、所述辅助句级分类预测任务和所述交叉熵损失函数构建合并损失函数；

通过所述主体和所述客体之间的相关系数对所述ALBERT模型进行训练，至所述合并损失函数达到最小值为止。

6.根据权利要求1-5中任一项所述的用户画像信息的处理方法，其特征在于，还包括：

获取训练样本；

根据训练模型的参数、所述训练模型的损失函数和所述训练样本确定所述训练样本的扰动；

通过加入所述扰动的训练样本对所述训练模型进行对抗训练，所述训练模型为所述ALBERT模型或所述机器学习模型。

7.根据权利要求1-5中任一项所述的用户画像信息的处理方法，其特征在于，所述ALBERT模型包括条件随机场层和Multi-Sigmoid层，通过ALBERT模型对所述非结构化用户数据进行实体抽取和标注，以生成所述非结构化用户数据的三元组信息包括：

获取所述条件随机场层对所述非结构化用户数据中的语句提取的实体；

采用BIO标注技术对所述条件随机场层输出的实体进行识别，以输出实体识别结果；

对所述实体识别结果进行软标签嵌入；

通过Multi-Sigmoid层对所述软标签嵌入的实体识别结果进行多头关系选择。