[发明专利]一种少样本实体识别方法、装置、介质及设备在审
申请号: | 202210058847.X | 申请日: | 2022-01-17 |
公开(公告)号: | CN114417873A | 公开(公告)日: | 2022-04-29 |
发明(设计)人: | 吴江旭;荆继远 | 申请(专利权)人: | 软通动力信息技术(集团)股份有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06K9/62 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 李彩玲 |
地址: | 100193 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 样本 实体 识别 方法 装置 介质 设备 | ||
1.一种少样本实体识别方法,其特征在于,所述方法包括:
将待识别语句映射为语句表征向量,所述语句表征向量包括所述待识别语句中包括的至少一个单词的表征向量;
将所述语句表征向量输入预先训练的触发词匹配模型,得到触发词表征向量;
将所述语句表征向量输入预先训练的实体识别模型,得到第一输出矩阵;
将所述触发词表征向量输入所述实体识别模型,根据所述触发词表征向量和所述第一输出矩阵得到第二输出矩阵;
根据所述第一输出矩阵和所述第二输出矩阵对所述待识别语句中进行实体识别。
2.根据权利要求1所述的方法,其特征在于,所述触发词匹配模型,通过如下方式进行训练:
接收输入的样本语句表征向量,所述样本语句表征向量中包括样本语句中每个单词的表征向量及触发词标记,所述触发词标记用于表示所述样本语句中的触发词,所述触发词标记根据所述样本语句中的实体获得;
通过第一编码器,根据所述触发词标记获取所述样本语句中的触发词的触发词输出矩阵并根据所述样本语句表征向量得到第三输出矩阵;
根据所述第三输出矩阵和所述触发词输出矩阵,得到样本语句加权表征向量和第一触发词加权表征向量;
获得所述样本语句加权表征向量和所述第一触发词加权表征向量的匹配度,根据所述匹配度进行触发词匹配训练。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第三输出矩阵和所述触发词输出矩阵,得到样本语句加权表征向量和第一触发词加权表征向量,包括:
根据所述第三输出矩阵和所述触发词输出矩阵,通过如下公式计算所述样本语句加权表征向量和所述第一触发词加权表征向量:
为样本语句的权重,为触发词的权重,gs为所述样本语句加权表征向量,gt为所述第一触发词加权表征向量,W1为第一参数矩阵,W2为第二参数矩阵,H为所述第三输出矩阵,HT为转置的所述第三输出矩阵,Z为所述触发词输出矩阵,ZT为转置的所述触发词输出矩阵。
4.根据权利要求3所述的方法,其特征在于,获得所述样本语句加权表征向量和所述第一触发词加权表征向量的匹配度,包括:
根据所述样本语句加权表征向量和所述第一触发词加权表征向量计算欧氏距离,其中,所述欧式距离采用如下公式计算:
d=||gs-gt||2
d为所述欧式距离,gs为所述样本语句加权表征向量,gt为所述触发词加权表征向量;
根据所述欧式距离确定所述匹配度。
5.根据权利要求2所述的方法,其特征在于,所述实体识别模型,通过如下方式进行训练:
接收输入的样本语句表征向量;
通过第二编码器,将所述样本语句表征向量转换为第一训练输出矩阵;
从所述触发词匹配模型中获取第二触发词加权表征向量;
根据所述第一训练输出矩阵和第二触发词加权表征向量,得到第二训练输出矩阵;
将所述第一训练输出矩阵和所述第二训练输出矩阵进行拼接并输入到解码器中,获得所述样本语句中的实体。
6.根据权利要求5所述的方法,其特征在于,根据所述第一训练输出矩阵和所述触发词加权表征向量,得到第二训练输出矩阵,包括:
根据所述第一训练输出矩阵和所述第二触发词加权表征向量,通过如下公式得到所述第二训练输出矩阵:
H2为所述第二训练输出矩阵,为第二训练输出矩阵的权重,为所述第二触发词加权表征向量,H1为所述第一训练输出矩阵,U1为第三参数矩阵,U2为第四参数矩阵,v为第五参数矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于软通动力信息技术(集团)股份有限公司,未经软通动力信息技术(集团)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210058847.X/1.html,转载请声明来源钻瓜专利网。