[发明专利]识别模型的训练方法、识别方法和装置在审
申请号: | 202210826699.1 | 申请日: | 2022-07-14 |
公开(公告)号: | CN116150308A | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 邓泽贵;蒋宁;吴海英 | 申请(专利权)人: | 马上消费金融股份有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/216;G06F40/242;G06F40/295;G06F18/24;G06N3/048;G06N3/08 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新 |
地址: | 401121 重庆市渝北区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 识别 模型 训练 方法 装置 | ||
1.一种识别模型的训练方法,其特征在于,包括:
获取多组样本数据,所述样本数据包括文本、所述文本的标注关系标签、所述文本对应的特征向量和所述特征向量的标注分类标签,所述标注分类标签用于表征所述文本中是否包含实体,所述标注关系标签用于表征所述文本中的实体之间的关系;
根据所述标注关系标签、所述特征向量和所述标注分类标签对初始识别模型进行训练,得到识别模型。
2.如权利要求1所述的方法,其特征在于,所述初始识别模型包括:线性分类层和关系匹配层,所述根据所述标注关系标签、所述特征向量和所述标注分类标签对初始识别模型进行训练,得到识别模型,包括:
通过所述线性分类层对输入的所述特征向量和所述标注分类标签进行分类,得到所述特征向量对应的预测分类标签;
通过所述关系匹配层对输入的所述预测分类标签、所述特征向量和所述标注关系标签进行关系匹配,得到所述特征向量的预测关系标签;
根据所述标注分类标签和所述预测分类标签构建第一损失;
根据所述标注关系标签和所述预测关系标签构建第二损失;
根据所述第一损失和所述第二损失调整所述初始识别模型,得到识别模型。
3.如权利要求2所述的方法,其特征在于,所述初始识别模型包括:池化层,所述通过所述关系匹配层对输入的所述预测分类标签、所述特征向量和所述标注关系标签进行关系匹配之前,还包括:
通过所述池化层对目标特征向量的预测分类标签进行降维,得到降维后的预测分类标签,所述目标特征向量为多个连续字词对应的特征向量,以及所述目标特征向量的预测分类标签相同。
4.如权利要求3所述的方法,其特征在于,所述文本中包括基于预设顺序排列的至少一个目标关系词构成的集合,所述标注关系标签包括三维标签矩阵,
其中,所述三维标签矩阵的第一维度用于表示作为头实体的字词在所述文本中的次序,
所述三维标签矩阵的第二维度用于表示头实体与尾实体之间的关系对应的目标关系词在所述集合中的次序,
所述三维标签矩阵的第三维度用于表示作为尾实体的字词在所述文本中的次序,
所述三维标签矩阵中的数值用于表示所在维度对应的头实体与尾实体之间存在实体关系的概率。
5.如权利要求4所述的方法,其特征在于,所述通过所述关系匹配层对输入的所述预测分类标签、所述特征向量和所述标注关系标签进行关系匹配,得到所述特征向量的预测关系标签,包括:
通过所述关系匹配层对输入的所述文本中表示实体的字词对应的特征向量和所述预测分类标签生成实体特征矩阵;
通过所述关系匹配层对输入的所述文本中表示关系的字词对应的特征向量和所述至少一个目标关系词生成关系特征矩阵;
根据所述实体特征矩阵和所述关系特征矩阵生成三维实体关系矩阵;
通过所述关系匹配层对所述三维实体关系矩阵和所述三维标签矩阵进行关系匹配,得到所述特征向量的预测关系标签。
6.如权利要求5所述的方法,其特征在于,根据所述实体特征矩阵和所述关系特征矩阵生成三维实体关系矩阵,包括:
将所述关系特征矩阵的转置矩阵与所述实体特征矩阵的乘积确定为头实体矩阵,其中,所述实体特征矩阵的元素包括表示实体的字词的预测分类标签对应的特征向量,所述关系特征矩阵的元素包括表示关系的字词的预测分类标签对应的特征向量;
将所述实体特征矩阵的转置矩阵与所述关系特征矩阵的乘积确定为尾实体矩阵;
根据所述头实体矩阵、所述尾实体矩阵生成三维待激活矩阵,其中,所述三维待激活矩阵中第一维度的长度与所述头实体矩阵对应,所述待激活矩阵中第三维度的长度与所述尾实体矩阵对应;
根据激活函数对所述三维待激活矩阵执行激活,以得到所述三维实体关系矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210826699.1/1.html,转载请声明来源钻瓜专利网。