[发明专利]实体词识别结果评价方法、装置、设备及实体词提取系统

说明书

本申请实施例提供了一种实体词识别结果评价方法、装置、设备及实体词提取系统。该方法包括：获取待识别文档集的实体词识别结果，其中，实体词识别结果是基于至少一种实体词识别方法，分别对待识别文档集进行实体词识别，确定出的任一实体词识别方法对应的实体词识别结果；确定至少一个实体词识别方法分别对应的实体词识别结果中的任一待评价实体词在待识别文档集的第一权值；基于任一待评价实体词的第一权值、至少一个实体词识别方法的准确率以及至少一个实体词识别方法的惩罚项系数，确定任一待评价实体词的第二权值，第二权值用于评价任一待评价实体词。本实施例的方案，通过第二权值判断实体词识别结果的正确性，有效提升实体词的识别效果。

技术领域

本申请涉及语言处理技术领域，具体而言，本申请涉及一种实体词识别结果评价方法、装置、设备及实体词提取系统。

背景技术

随着互联网的普及和移动互联网的崛起，媒体以及自媒体时代的到来，网络内容巨增。在大量的事件报导中，我们无法一次阅读全部的新闻报导内容，也就无法知道事件主要报导的相关人、地点和相关机构，这就需要一个系统实时的提取事件的实体词信息以及实体词的评价权值，以辅助阅读者提前预知事件的发展和变化。

实体识别作为自然语言处理的一种重要研究方向，其目的是从文本或文本集中识别表示人名、地名、机构名等词语，可以用于信息提取、信息检索、机器翻译等自然语言处理技术。实体识别主要方法包括基于规则和词典的方法、基于统计的方法及融合方法。基于规则和词典的方法依赖于人工建立的规则和词典，存在代价大、周期长、可移植性差等缺点；基于统计的方法采用机器学习或深度学习的方法，从大规模的语料中学习特征，对语料库依赖较大，而大规模训练和验证语料库比较稀缺。融合方法是指融合规则、词典、机器学习等多种识别方法，充分利用人工经验知识和机器学习的优势，来提高实体识别的效果。

但是，通过现有的实体识别方法所识别出的实体词识别结果中仍可能会存在识别错误，现有技术中无法对实体词识别结果的正确与错误进行判断，导致实体词的识别效果不佳。

发明内容

本申请提供了一种实体词识别结果评价方法、装置、设备及实体词提取系统，能够对实体词识别结果的正确与错误进行判断，有利于提高实体词的识别效果，本申请采用的技术方案如下：

第一方面，本申请提供了一种实体词识别结果评价方法，该方法包括：

获取待识别文档集的实体词识别结果，其中，实体词识别结果是基于至少一种实体词识别方法，分别对待识别文档集进行实体词识别，确定出的任一实体词识别方法对应的实体词识别结果；

确定至少一个实体词识别方法分别对应的实体词识别结果中的任一待评价实体词在待识别文档集的第一权值；

基于任一待评价实体词的第一权值、至少一个实体词识别方法的准确率以及至少一个实体词识别方法的惩罚项系数，确定任一待评价实体词的第二权值，第二权值用于评价任一待评价实体词。

第二方面，本申请提供了一种实体词提取系统，该系统包括：

输入模块，用于将待识别文档集存储至Hadoop分布式文件系统HDFS中；

提取模块，用于通过Spark Streaming，从HDFS中以离散数据流的形式读取待提取的文本集数据，并执行上述的实体词提取方法，提取得到实体词；

输出模块，用于以离散数据流的形式将提取得到的实体词反馈至对应的话题中，以用于网络发布。

第三方面，本申请提供了一种实体词识别结果评价装置，该装置包括：

实体词识别结果获取模块，用于获取待识别文档集的实体词识别结果，其中，实体词识别结果是基于至少一种实体词识别方法，分别对待识别文档集进行实体词识别，确定出的任一实体词识别方法对应的实体词识别结果；