[发明专利]一种文本分类方法、装置及电子设备

说明书

本说明书一个或多个实施例提供一种文本分类方法、装置及电子设备，基于BERT模型，所述BERT模型包括：至少两个依次连接的编码器层；所述方法，包括：将待分类文本输入所述BERT模型；采集每个所述编码器层的输出，得到对应于所述待分类文本的至少两个特征表示信息；融合至少两个所述特征表示信息，得到融合后的特征表示信息；融合后的特征表示信息充分利用每一编码器层的输出，且准确反映了文本所蕴含的词法和语法信息；根据所述融合后的特征表示信息，确定所述待分类文本的类型。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种文本分类方法、装置及电子设备。

背景技术

随着互联网在全球范围内的快速发展，人们面临的信息呈指数增加。在人们所面临的信息中有大量的文本信息，因此，对文本信息的处理技术尤为重要。其中，对文本信息进行分类是组织和管理文本信息的一个有效手段，将文本信息进行分类可以方便人们对文本信息的浏览、查找和使用。文本分类是指由计算机对文本信息经过某种分类算法的处理后，把文本判别到预先定义好的类别中，即实现从文本到类别的映射。具体的，可以通过预先训练的文本分类模型，预测待分类文本属于特定分类体系下各个特定分类的概率。

如何提高文本分类的准确度，是目前亟需解决的问题。

发明内容

有鉴于此，本说明书一个或多个实施例的目的在于提出一种文本分类方法、装置及电子设备。

基于上述目的，本说明书一个或多个实施例提供了一种文本分类方法，基于BERT模型，所述BERT模型包括：至少两个依次连接的编码器层；

所述方法，包括：

将待分类文本输入所述BERT模型；

采集每个所述编码器层的输出，得到对应于所述待分类文本的至少两个特征表示信息；

融合至少两个所述特征表示信息，得到融合后的特征表示信息；

根据所述融合后的特征表示信息，确定所述待分类文本的类型。

另一方面，本说明书一个或多个实施例还提供了一种文本分类装置，包括：

输入模块，被配置为将待分类文本输入所述BERT模型；

采集模块，被配置为采集每个所述编码器层的输出，得到对应于所述待分类文本的至少两个特征表示信息；

融合模块，被配置为融合至少两个所述特征表示信息，得到融合后的特征表示信息；

分类模块，被配置为根据所述融合后的特征表示信息，确定所述待分类文本的类型。

再一方面，本说明书一个或多个实施例还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上任意一项所述的方法。

从上面所述可以看出，本说明书一个或多个实施例提供的文本分类方法、装置及电子设备，将BERT模型中每个编码器层输出的特征表示信息均加以利用，基于融合后的特征表示信息进行最终文本分类，充分利用每一编码器层的输出，以准确反映文本所蕴含的词法和语法信息，有效的提升了文本分类的准确度。

附图说明

为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书一个或多个实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为相关技术中BERT模型的工作方式示意图；

图2为本说明书一个或多个实施例的文本分类方法流程图；