[发明专利]一种基于词边界的中文实体抽取方法、装置及存储介质在审
申请号: | 202310094424.8 | 申请日: | 2023-02-10 |
公开(公告)号: | CN116227483A | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 郝小龙;张文;孙小虎;冯敏;肖辉;徐志强;周鲲;陈仲伟;曹岑;刘大晖;李金明;余昇;刘金锁;彭启伟;罗旺;席丁鼎;吴强;韩斌;李英杰;吴钰芃 | 申请(专利权)人: | 南京南瑞信息通信科技有限公司;国网电力科学研究院有限公司;国网湖南省电力有限公司;国网湖南省电力有限公司经济技术研究院 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/166;G06N20/00 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 董建林 |
地址: | 210003 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 边界 中文 实体 抽取 方法 装置 存储 介质 | ||
1.一种基于词边界的中文实体抽取方法,其特征在于,包括:
获取当前文本;
将所述当前文本输入训练好的词边界识别模型,获取词边界识别结果;
根据词边界识别结果进行中文实体抽取;
所述词边界识别模型的训练包括:
获取预设数量的历史文本;
对所述历史文本中词边界标注类别标签;
根据历史文本和类别标签构建样本集,并将样本集按预设比例划分为训练集和验证集;
构建基于BERT+CRF的词边界识别模型;
通过训练集训练词边界识别模型,在每轮训练后通过验证集验证其精度,保留精度最高的词边界识别模型作为训练结果。
2.根据权利要求1所述的一种基于词边界的中文实体抽取方法,其特征在于,所述获取当前文本还包括对当前文本进行预处理,所述获取预设数量的历史文本还包括对历史文本进行预处理;所述预处理包括:
将文本中数字、汉字、预设标点以外的字符删除,并将预设标点的形式统一;
使用分词工具对字符删除后的文本进行分词得到实体。
3.根据权利要求2所述的一种基于词边界的中文实体抽取方法,其特征在于,所述预设标点为包含断句及层次信息的标点。
4.根据权利要求2所述的一种基于词边界的中文实体抽取方法,其特征在于,所述预设标点的形式统一包括预设标点的中英文及全半角形式统一。
5.根据权利要求1所述的一种基于词边界的中文实体抽取方法,其特征在于,所述通过训练集训练词边界识别模型包括:
将训练集中历史文本输入词边界识别模型,获取词边界的类别预测;
根据类别预测和相应的类别标签计算训练损失,基于训练损失优化模型参数;
将模型参数优化后的词边界识别模型带入上述步骤进行多轮迭代,直至训练损失小于预设的损失阈值或迭代轮次到达预设的最大迭代轮次。
6.根据权利要求1所述的一种基于词边界的中文实体抽取方法,其特征在于,所述在每轮训练后通过验证集验证其精度包括:
将验证集中历史文本输入每轮训练后的词边界识别模型,获取词边界的类别预测;
根据类别预测和相应的类别标签计算F1-score值,将F1-score值作为精度评价指标。
7.根据权利要求1所述的一种基于词边界的中文实体抽取方法,其特征在于,所述根据词边界识别结果进行中文实体抽取包括:
若相邻词边界的类别预测相同,则将所述词边界的邻近实体进行拼接,完成中文实体抽取。
8.一种基于词边界的中文实体抽取装置,其特征在于,所述装置包括:
当前文本模块,用于获取当前文本;
模型预测模块,用于将所述当前文本输入训练好的词边界识别模型,获取词边界识别结果;
实体抽取模块,用于根据词边界识别结果进行中文实体抽取;
所述词边界识别模型的训练包括:
历史文本模型,用于获取预设数量的历史文本;
类别标注模块,用于对所述历史文本中词边界标注类别标签;
样本生成模块,用于根据历史文本和类别标签构建样本集,并将样本集按预设比例划分为训练集和验证集;
模型构建模块,用于构建基于BERT+CRF的词边界识别模型;
模型训练模块,用于通过训练集训练词边界识别模型,在每轮训练后通过验证集验证其精度,保留精度最高的词边界识别模型作为训练结果。
9.一种基于词边界的中文实体抽取装置,其特征在于,包括处理器及存储介质;
所述存储介质用于存储指令;
所述处理器用于根据所述指令进行操作以执行根据权利要求1-7任一项所述方法的步骤。
10.计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京南瑞信息通信科技有限公司;国网电力科学研究院有限公司;国网湖南省电力有限公司;国网湖南省电力有限公司经济技术研究院,未经南京南瑞信息通信科技有限公司;国网电力科学研究院有限公司;国网湖南省电力有限公司;国网湖南省电力有限公司经济技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310094424.8/1.html,转载请声明来源钻瓜专利网。