[发明专利]基于交互式与迭代式学习的地名标注语料库智能构建方法有效
申请号: | 201911029958.2 | 申请日: | 2019-10-28 |
公开(公告)号: | CN110826331B | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 张春菊;陈玉冰;张雪英;汪陈;陈书慧 | 申请(专利权)人: | 南京师范大学;合肥工业大学 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/211;G06F16/36;G06N3/0464;G06N3/08 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 孟红梅 |
地址: | 210046 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 交互式 迭代式 学习 地名 标注 语料库 智能 构建 方法 | ||
1.一种基于交互式与迭代式学习的地名标注语料库智能构建方法,其特征在于,包括如下步骤:
步骤一:读取初始地名标注语料库数据:包括地理百科语料和微软MSRA语料;
步骤二:对地名标注语料库数据进行预处理,包括每个句子之间使用空行分割,对句子进行去重、删除停用词;
步骤三:将地理百科语料和微软MSRA语料混合,通过Word2vec工具进行训练,得到字符级的词向量模型;
步骤四:将地名标注语料库中的每个字通过词向量模型表示,生成每个字的词向量矩阵1×100;
步骤五:使用Jieba工具对句子进行分词和词性标注,基于分词结果对句子中每一个字生成向量矩阵1×20作为字的消歧矩阵;
步骤六:将句子中每个字的词向量矩阵和对应的字的消歧矩阵拼接,最终获得句子的词向量矩阵,输入Bi-LSTM与CRF集成的地名识别模型进行训练,并采用自然语言处理领域的准确率P、召回率R、综合值F三个评测指标选取最优地名识别模型;
步骤七:开发交互式中文地名标注平台,并将步骤六的地名识别模型嵌入交互式中文地名标注平台中;
步骤八:在交互式地名标注平台中对新的互联网文本进行地名识别,对地名识别结果进行人机交互式校正;将互联网文本中最终识别出的地名、增加的地名标签及删除错标的地名标签,可视化显示在相应的窗口中;
步骤九:当步骤八标注的地名文本语料规模达到设定阈值时,交互式地名标注平台自动将人机交互校正后的地名语料与初始地名标注语料数据进行融合,实现地名语料库的更新;
步骤十:对步骤六中地名识别模型训练代码和模型参数利用步骤九生成的地名语料作为训练语料继续训练,优化模型的参数,提升模型识别效果;并将模型训练的进度、最终的准确率、召回率和F值展示在交互式标注平台上;
步骤十一:对于新的互联网文本,迭代循环步骤二至步骤十,实现地名标注语料库的智能更新与优化,直至地名识别效果和地名标注语料库规模到达用户需求时,迭代式训练学习结束。
2.根据权利要求1所述的基于交互式与迭代式学习的地名标注语料库智能构建方法,其特征在于,所述步骤六具体包括:
Step1:将句子中每个字的词向量矩阵和对应的字的消歧矩阵拼接,获得句子的词向量矩阵,作为输入层,输入Bi-LSTM进行训练;
Step2:设置Dropout正则化方法,以防止模型的过拟;
Step3:将输入层的句子序列(x1,x2,…xn)作为Bi-LSTM各个时间步的输入,其中n表示句子中字的个数,xi表示句子中的第i个字,再将正向LSTM隐输出序列(f1,f2,…fn)与反向LSTM隐输入序列(b1,b2,…bn)按位置拼接,得到完整的隐输出序列(f1,f2,…fn,b1,b2,…bn),充分考虑上文和下文的语义描述信息,实现特征的深度学习与表示;
Step4:在设置Dropout后,接入一个线性层,目的是将完整的隐输出序列从2维转换到k维,记为矩阵Pn×k,其中k是标注集的标签类别数,有B、I、E、O共4种标签,B表示地名起始字、I表示地名中间字、E表示地名结尾字、O表示非地名字,从而自动提取句子特征;
Step5:基于Step4中Bi-LSTM模型输出层矩阵,设置Dropout以防止模型的过拟合,并输入到CRF模型进行句子序列标注,对于每个字预测其标签;
Step6:采用自然语言处理领域的准确率P、召回率R、综合值F三个评测指标选取最优地名识别模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京师范大学;合肥工业大学,未经南京师范大学;合肥工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911029958.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:交互方法、装置、终端设备及存储介质
- 下一篇:配电柜