[发明专利]一种实体预标注方法和装置以及设备

说明书

本发明公开了一种实体预标注方法和装置以及设备。其中，所述方法包括：构建典型的实体标注数据库，和根据该构建的典型的实体标注数据库，对该实体标注数据库中的实体标示实体类别与对应该实体类别的关键词，和根据该标示的实体类别与对应该实体类别的关键词，对该实体标注数据库中的实体进行实体预标注模型训练，训练得到实体预标注模型，以及根据该训练得到的实体预标注模型，对待标注实体进行预标注。通过上述方式，能够实现无需人工能够自动对实体进行预标注，自动进行实体预标注时能够覆盖到实体的所有语料和实体类别。

技术领域

本发明涉及实体标注技术领域，尤其涉及一种实体预标注方法和装置以及设备。

背景技术

BERT(Bidirectional Encoder Representation from Transformers，变换器的双向编码器表征量)是从2018年开始大火的预训练语言模型，通过预训练大规模语料，学习语言文本中文本表征。

NER(Named Entity Recognition，命名实体识别)又称作专名识别，是指识别文本中具有特定意义的实体，主要包括人名、地名、机构名、专有名词等。在对话系统中，命名实体识别作为重要的信息抽取工具，需要抽取特定领域的特定实体类别，因此需要大量的人工标注此类特定领域的实体，人工标注的质量很大程度上决定了模型训练的结果。

然而，现有的实体预标注方案，一般是以人工对实体进行预标注，人工成本高，而且人工预标注时很难覆盖到实体的大量的语料和实体类别。

发明内容

有鉴于此，本发明的目的在于提出一种实体预标注方法和装置以及设备，能够实现无需人工能够自动对实体进行预标注，自动进行实体预标注时能够覆盖到实体的所有语料和实体类别。

根据本发明的一个方面，提供一种实体预标注方法，包括：构建典型的实体标注数据库；根据所述构建的典型的实体标注数据库，对所述实体标注数据库中的实体标示实体类别与对应所述实体类别的关键词；根据所述标示的实体类别与对应所述实体类别的关键词，对所述实体标注数据库中的实体进行实体预标注模型训练，训练得到实体预标注模型；根据所述训练得到的实体预标注模型，对待标注实体进行预标注。

其中，所述构建典型的实体标注数据库，包括：采用对实体标注抽取重要类别、不同长度文本和常见错别字文本方式，构建典型的实体标注数据库。

其中，所述根据所述标示的实体类别与对应所述实体类别的关键词，对所述实体标注数据库中的实体进行实体预标注模型训练，训练得到实体预标注模型，包括：根据所述标示的实体类别与对应所述实体类别的关键词，结合变换器的双向编码器表征量、卷积神经网络和双向长短时记忆特征融合以及条件随机场方式，对所述实体标注数据库中的实体进行实体预标注模型训练，训练得到实体预标注模型。

其中，在所述根据所述训练得到的实体预标注模型，对待标注实体进行预标注之后，还包括：采用数据扩充的方式，对所述预标注后的实体数据进行优化。

根据本发明的另一个方面，提供一种实体预标注装置，包括：构建模块、标示模块、训练模块和预标注模块；所述构建模块，用于构建典型的实体标注数据库；所述标示模块，用于根据所述构建的典型的实体标注数据库，对所述实体标注数据库中的实体标示实体类别与对应所述实体类别的关键词；所述训练模块，用于根据所述标示的实体类别与对应所述实体类别的关键词，对所述实体标注数据库中的实体进行实体预标注模型训练，训练得到实体预标注模型；所述预标注模块，用于根据所述训练得到的实体预标注模型，对待标注实体进行预标注。

其中，所述构建模块，具体用于：采用对实体标注抽取重要类别、不同长度文本和常见错别字文本方式，构建典型的实体标注数据库。