[发明专利]一种序列标注方法、装置及计算机可读存储介质在审
申请号: | 201910399055.7 | 申请日: | 2019-05-14 |
公开(公告)号: | CN111950278A | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 孟茜;童毅轩;张永伟;姜珊珊;董滨 | 申请(专利权)人: | 株式会社理光 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/279;G06K9/62 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 黄灿;姜精斌 |
地址: | 日本*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 序列 标注 方法 装置 计算机 可读 存储 介质 | ||
1.一种序列标注方法,其特征在于,包括:
生成训练语句中的单词的第一标签,所述第一标签包括词性标签和/或句法标签;
针对所述训练语句,构建基于所述第一标签的第一特征向量,并通过神经网络模型生成所述第一特征向量的第一隐藏状态;
针对所述训练语句,生成包含有预设字典的字典特征的第二特征向量,并通过所述神经网络模型生成所述第二特征向量的第二隐藏状态,所述预设字典包括有多个参考标注结果;
合并所述第一隐藏状态与第二隐藏状态,得到第三隐藏状态;
根据所述第三隐藏状态进行序列标注,获得所述训练语句的序列标注结果。
2.如权利要求1所述的方法,其特征在于,所述针对所述训练语句,构建基于所述第一标签的第一特征向量的步骤,包括:
将所述训练语句的每个单词替换为该单词所属的第一标签所对应的概率,得到所述第一特征向量;其中,每个单词所属的第一标签所对应的概率,与第一类单词在第二类单词中的比例正相关,所述第二类单词为所述训练语句中该单词所属的第一标签下的单词,所述第一类单词为所述第二类单词中属于所述参考标注结果的单词。
3.如权利要求1所述的方法,其特征在于,所述针对所述训练语句,生成包含有预设字典的字典特征的第二特征向量的步骤,包括:
获得所述训练语句中各个单词的词嵌入向量;
针对所述训练语句中的每个单词,根据所述训练语句中包括该单词在内的单词上下文,是否存在于所述预设字典中,生成每个单词对应的独热编码,获得所述训练语句对应的独热向量;
合并所述训练语句中单词的词嵌入向量和所述训练语句对应的独热向量,得到包含有所述预设字典的字典特征的第二特征向量。
4.如权利要求1所述的方法,其特征在于,所述合并所述第一隐藏状态与第二隐藏状态的步骤,包括:
对第一隐藏状态和第二隐藏状态进行向量连接操作或向量相加操作,得到所述第三隐藏状态。
5.如权利要求1所述的方法,其特征在于,所述根据所述训练语句的第三隐藏状态进行序列标注的步骤,包括:
基于所述第三隐藏状态,生成所述训练语句的分段序列,并将所述分段序列输入至所述神经网络模型的输出层softmax层,对所述神经网络模型进行训练,并获得所述softmax层输出的所述训练语句的各个分段序列所属类别的标签及其概率。
6.如权利要求5所述的方法,其特征在于,在训练所述神经网络模型之后,所述方法还包括:
利用训练得到的所述神经网络模型,对待处理语句进行序列标注。
7.一种序列标注装置,其特征在于,包括:
标签生成单元,用于生成训练语句中的单词的第一标签,所述第一标签包括词性标签和/或句法标签;
第一隐藏状态生成单元,用于针对所述训练语句,构建基于所述第一标签的第一特征向量,并通过神经网络模型生成所述第一特征向量的第一隐藏状态;
第二隐藏状态生成单元,用于针对所述训练语句,生成包含有预设字典的字典特征的第二特征向量,并通过所述神经网络模型生成所述第二特征向量的第二隐藏状态,所述预设字典包括有多个参考标注结果;
状态合并单元,用于合并所述第一隐藏状态与第二隐藏状态,得到第三隐藏状态;
第一标注处理单元,用于根据所述第三隐藏状态进行序列标注,获得所述训练语句的序列标注结果。
8.如权利要求7所述的序列标注装置,其特征在于,
所述第一隐藏状态生成单元,还用于将所述训练语句的每个单词替换为该单词所属的第一标签所对应的概率,得到所述第一特征向量;其中,每个单词所属的第一标签所对应的概率,与第一类单词在第二类单词中的比例正相关,所述第二类单词为所述训练语句中该单词所属的第一标签下的单词,所述第一类单词为所述第二类单词中属于所述参考标注结果的单词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于株式会社理光,未经株式会社理光许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910399055.7/1.html,转载请声明来源钻瓜专利网。