[发明专利]基于知识图谱的文本分类方法、系统及电子设备

说明书

本发明提供了一种基于知识图谱的文本分类方法、系统及电子设备，涉及文本解析技术领域，该方法首先对待解析文本数据进行命名实体识别，确定待解析文本数据的实体向量以及句子向量；然后利用已初始化的知识图谱确定实体向量对应的一跳实体向量；再根据已确定的一跳实体向量对实体向量进行更新，并利用已完成更新的实体向量对句子向量进行更新；最后利用已完成更新的句子向量进行文本分类预测，得到待解析文本数据对应的文本类型。该方法利用文本数据里的实体信息以及该实体在现有知识图谱中对应的一跳实体的信息对文本数据进行分类预测，通过突出实体信息并加入一些相关的外部信息使得句子向量包含的内容更加丰富，进一步提升文本的分类精度。

技术领域

本发明涉及文本解析技术领域，尤其是涉及一种基于知识图谱的文本分类方法。

背景技术

当今的互联网领域已深度进入了大数据时代，各社交网络平台、交流平台等每天产生大量的视频、声音、图片、文字等数据，而如何对这些数据进行有效解析并分类，对于服务端以及监管端而言是至关重要的。实际场景中，对于服务端而言，更精准的大数据解析能够对用户提供更加精准的广告推送服务；对于监管端而言，更精准的大数据解析有利于更加详细的收集用户的行为，并对其行为进行提前管控。

现有技术中对于网络平台数据的解析分类主要针对于文本数据，而对于文本数据的分类主要采用人工辨别的手段来实现，效率低下且错误率较高；随着自然语言处理技术的普及，利用相关卷积神经网络模型也实现了文本数据的类型解析过程，但现有的网络模型结构较为复杂，且解析精度还有待提高。

综上所示，现有技术中在文本的类型解析过程中还存在着精度低的问题。

发明内容

有鉴于此，本发明的目的在于提供一种基于知识图谱的文本分类方法，该方法利用文本数据里的实体信息以及该实体在现有知识图谱中对应的一跳实体的信息对文本数据进行分类预测，通过突出实体信息并加入一些相关的外部信息使得句子向量包含的内容更加丰富，进一步提升文本分类精度。

第一方面，本发明实施例提供了一种基于知识图谱的文本分类方法，该方法包括以下步骤：

对待解析文本数据进行命名实体识别，确定待解析文本数据的实体向量以及句子向量；

利用已初始化的知识图谱确定实体向量对应的一跳实体向量；

根据已确定的一跳实体向量对实体向量进行更新，并利用已完成更新的实体向量对句子向量进行更新；

利用已完成更新的句子向量进行文本分类预测，得到待解析文本数据对应的文本类型。

在一些实施方式中，对待解析文本数据进行命名实体识别，确定待解析文本数据的实体向量以及句子向量的步骤，包括：

对待解析文本数据进行token化操作；

将已完成token化操作的待解析文本数据输入至BERT模型中，得到待解析文本数据的隐藏表示结果以及句子向量；

根据待解析文本数据的隐藏表示结果确定待解析文本在每个token上的标准分类概率，并根据标准分类概率确定待解析文本的实体向量。

在一些实施方式中，BERT模型的训练过程，包括：

获取用于模型训练的文本数据，并对文本数据实体类型以及文本类型进行标注；

将文本数据输入至已初始化的BERT模型中，利用预设损失函数对BERT模型进行训练；其中，损失函数为：

其中，N为样本数量；M为文本类型数量；g_ic为符号函数；p_ic为观测样本i属于类别c的预测概率；

当损失函数的输出值低于预设阈值时，停止BERT模型的训练。