[发明专利]标签增强模型构建方法、系统、电子设备及存储介质

说明书

本发明提出一种标签增强模型构建方法、系统、电子设备及存储介质，其方法技术方案包括会话知识编码步骤，对一会话文本进行向量化处理，得到所述会话文本的会话文本编码，并对所述会话文本进行实体概念化处理和实体向量化处理，得到知识编码；编码特征融合步骤，对所述会话文本编码和所述知识编码按照一预设比例进行融合；标签分类输出步骤，将所述会话文本编码和所述知识编码融合后得到的特征输入至神经网络NN中得到所述会话文本对应的标签概率，根据所述标签概率确定一标签输出，得到训练完成的标签增强模型。本申请解决了现有深度学习领域中标签标注效率低下的问题。

技术领域

本发明属于深度学习技术领域，尤其涉及一种标签增强模型构建方法、系统、电子设备及存储介质。

背景技术

在监督学习中，标签作为一个非常重要的角色在一定程度上决定了算法在实际场景的表现。目前数据标签的来源主要依靠数据标注工程师来完成，该工作不仅代价高，而且数据质量一定程度上取决于工程师们的标注经验。此外，互联网大数据已经呈现出爆炸趋势，如何更好地解决这些大数据的标注问题已经变得急不可待，如果单纯依赖人工去完成数据打标任务，将在一定程度上限制算法的迭代速度。如何更好地利用已有的数据，对新获取的数据进行标注，提高标注数据的利用率，提高算法模型的性能就显得比较重要了。

对于基于人工的数据标签扩充，对于新获取的数据采用人工标注的方法进行标注，获得对应的数据标签，然后再基于该标签进行模型的训练学习，完成相关任务。而对于基于迁移学习的数据标签扩充，利用深度学习技术将某一领域的数据知识迁移到目标领域中来，然后基于该领域的数据标签进行后续算法的训练、微调，但是该方法不能解决领域知识的跨域问题，从而导致对已有知识的利用率并不是很高，而且如果相关领域的数据知识并不存在的情况下，深度学习方法也表现的无能为力。

发明内容

本申请实施例提供了一种标签增强模型构建方法、系统、电子设备及存储介质，以至少解决现有深度学习领域中标签标注效率低下的问题。

第一方面，本申请实施例提供了一种标签增强模型构建方法，包括：会话知识编码步骤，对一会话文本进行向量化处理，得到所述会话文本的会话文本编码，并对所述会话文本进行实体概念化处理和实体向量化处理，得到知识编码；编码特征融合步骤，对所述会话文本编码和所述知识编码按照一预设比例进行融合；标签分类输出步骤，将所述会话文本编码和所述知识编码融合后得到的特征输入至神经网络NN中得到所述会话文本对应的标签概率，根据所述标签概率确定一标签输出，得到训练完成的标签增强模型。

优选的，所述会话知识编码步骤进一步包括：会话文本编码步骤，根据所述会话文本的语境信息得到一会话序列，将所述会话序列向量化表示得到一向量编码，并将所述向量编码输入至一深度学习模型中得到一会话文本编码。

优选的，所述会话知识编码步骤进一步包括：知识编码生成步骤，对所述会话文本进行实体识别得到实体属性，通过知识图谱对所述实体属性概念化表示为概念实体，通过所述概念实体得到所述知识编码。

优选的，所述知识编码生成步骤进一步包括：将所述概念实体向量化表示得到一概念实体向量，将所述概念实体向量输入至一深度学习模型中得到一概念实体编码，并进一步将所述概念实体编码通过自注意力机制得到所述知识编码。

第二方面，本申请实施例提供了一种标签增强模型构建系统，适用于上述一种标签增强模型构建方法，包括：会话知识编码模块，对一会话文本进行向量化处理，得到所述会话文本的会话文本编码，并对所述会话文本进行实体概念化处理和实体向量化处理，得到知识编码；编码特征融合模块，对所述会话文本编码和所述知识编码按照一预设比例进行融合；标签分类输出模块，将所述会话文本编码和所述知识编码融合后得到的特征输入至神经网络NN中得到所述会话文本对应的标签概率，根据所述标签概率确定一标签输出，得到训练完成的标签增强模型。