[发明专利]一种基于命名实体识别的中标数据提取方法在审
申请号: | 201811313636.6 | 申请日: | 2018-11-06 |
公开(公告)号: | CN109408825A | 公开(公告)日: | 2019-03-01 |
发明(设计)人: | 杨红飞 | 申请(专利权)人: | 杭州费尔斯通科技有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 刘静;邱启旺 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 命名实体 数据提取 准确率 文本 闭环流程 表格数据 公告网页 关键信息 规则筛选 结果校对 提取信息 文本数据 校对结果 信息提取 单元格 数据量 数据源 保留 | ||
1.一种基于命名实体识别的中标数据提取方法,其特征在于,该方法包括以下步骤:
步骤1:获取中标公告网页的HTML;
步骤2:解析HTML:
2.1)针对HTML中的文本,获取标题和其他纯文本;
2.2)针对HTML中的表格,首先将其解析为嵌套列表,然后采取如下规则将其解析为纯文本:
a)如果首行单元格没有冒号、没有特定词且没有机构实体,则更新除首行外的单元格内容:单元格内容=首行单元格内容+“是”+单元格内容;
b)依次对每行的单元格以“;”进行拼接;再对所有行以“。”进行拼接;
2.3)将解析得到的标题、纯文本和解析后的表格按其出现顺序拼接为全文;
步骤3:从步骤2得到的标题中提取项目名称以及公告类型;从标题下文提取公告时间;从步骤2得到的全文中提取中标总金额;
步骤4:根据文本顺序,依次扫描每句话:
4.1)通过命名实体识别与机构实体后缀规则筛选提取中标机构;
4.2)在步骤4.1)提取的中标机构上下文提取中标标的与中标金额;
步骤5:按照步骤1到步骤4解析若干个中标公告后,进行人工抽样校验,依次分析随机抽取的中标公告提取结果,如果某个中标公告提取出错,则进行如下操作:
5.1)如果有中标机构没有被提取出,则增加该机构实体到命名实体识别的机构实体库中,同时增加该中标机构对应的机构实体后缀规则;
5.2)如果其他信息提取出错,则更新其正则提取规则;
步骤6:人工校验结束后计算人工校验准确率,如果人工校验准确率没有到达设定准确率阈值,则对该批次的所有中标公告重新提取;在达到设定准确率阈值后,停止提取。
2.根据权利要求1所述的一种基于命名实体识别的中标数据提取方法,其特征在于,所述步骤2.1)中,通过Python模块BeautifulSoup获取标题和其他纯文本。
3.根据权利要求1所述的一种基于命名实体识别的中标数据提取方法,其特征在于,所述步骤2.2)中,通过Python模块pandas将表格解析为嵌套列表。
4.根据权利要求1所述的一种基于命名实体识别的中标数据提取方法,其特征在于,所述步骤4中,命名实体识别采用哈尔滨工业大学开源的Python模块pyltp。
5.根据权利要求1所述的一种基于命名实体识别的中标数据提取方法,其特征在于,所述步骤5人工抽样校验中,抽取1%作为校验样本,所述步骤6中,准确率阈值设置为85%。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州费尔斯通科技有限公司,未经杭州费尔斯通科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811313636.6/1.html,转载请声明来源钻瓜专利网。