[发明专利]模型训练及调用方法、装置、计算机设备、存储介质有效
申请号: | 202111138986.5 | 申请日: | 2021-09-27 |
公开(公告)号: | CN113837294B | 公开(公告)日: | 2023-09-01 |
发明(设计)人: | 颜泽龙;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F18/214 | 分类号: | G06F18/214;G06N3/045;G06N3/084 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 张传义 |
地址: | 518057 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 调用 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及人工智能,尤其涉及自然语言处理技术领域,提供一种神经网络模型训练及调用方法、装置、计算机设备、存储介质,包括:获取文本训练集(包括第一文本和第二文本);生成第一文本对应的第一虚拟嵌入矩阵、第二文本对应的第二虚拟嵌入矩阵;通过第一虚拟嵌入矩阵得到第一干扰,第二虚拟嵌入矩阵得到第二干扰;基于第一干扰、第二干扰和局部干扰,生成对抗样本;对第一虚拟嵌入矩阵、第二虚拟嵌入矩阵和局部干扰更新,以获得多个对抗样本;根据多个对抗样本对神经网络模型进行迭代训练,更新神经网络模型的参数,获得训练好的神经网络模型,实现提高机器阅读理解的准确性。本申请还涉及区块链技术,文本训练集可以存储在区块链节点中。
技术领域
本申请涉及人工智能领域的自然语言处理技术领域,尤其涉及一种模型训练及调用方法、装置、计算机设备、存储介质。
背景技术
机器阅读理解是自然语言处理的范畴之一,它是一种利用算法使计算机理解文章语义并回答相关问题的技术。机器阅读的目标是使计算机通过机器学习具有和人类一样的理解文章的能力,通过构建机器学习模型并使用包含问题和包含问题答案的文本对模型进行训练,调用训练好的模型进行机器阅读理解任务处理,输出机器阅读理解答案。目前,传统的模型训练过程中,由于会存在某些恶意者将正常样本添加干扰,以这些添加了干扰的样本作为正常样本进行训练,使得训练得到的模型鲁棒性不高,从而导致机器阅读理解的准确性也不高。
因此,如何提高机器阅读理解的准确性是亟待解决的问题。
发明内容
本申请提供了一种模型训练及调用方法、装置、计算机设备、存储介质,实现提高机器阅读理解的准确性。
第一方面,本申请提供了一种神经网络模型训练方法,所述方法包括:
获取文本训练集,所述文本训练集包括多组第一文本和第二文本,所述第一文本中包含问题,所述第二文本中包含所述第一文本中的问题对应的答案;
生成所述第一文本对应的第一虚拟嵌入矩阵、所述第二文本对应的第二虚拟嵌入矩阵,以及初始化局部干扰;
通过所述第一虚拟嵌入矩阵得到所述第一文本对应的第一干扰,以及通过所述第二虚拟嵌入矩阵得到所述第二文本对应的第二干扰;
基于所述第一干扰、所述第二干扰和所述局部干扰,生成对抗样本;
对所述第一虚拟嵌入矩阵、所述第二虚拟嵌入矩阵和所述局部干扰进行更新,并基于更新后的所述第一虚拟嵌入矩阵、所述第二虚拟嵌入矩阵和所述局部干扰,返回执行所述通过所述第一虚拟嵌入矩阵得到所述第一文本对应的第一干扰,以及通过所述第二虚拟嵌入矩阵得到所述第二文本对应的第二干扰的步骤,直至对所述第一虚拟嵌入矩阵、所述第二虚拟嵌入矩阵和所述局部干扰进行更新的次数达到次数阈值,以获得多个对抗样本;
根据多个所述对抗样本对神经网络模型进行迭代训练,更新所述神经网络模型的参数,获得训练好的所述神经网络模型。
第二方面,本申请还提供了一种神经网络模型调用方法,所述神经网络模型为采用上述的神经网络模型训练方法训练得到的神经网络模型,所述神经网络模型调用方法包括:
获取机器阅读理解任务对应的目标文本;
将所述目标文本输入所述神经网络模型,输出所述目标文本中包含的问题对应的答案。
第三方面,本申请还提供了一种神经网络模型训练装置,所述神经网络模型训练装置包括:
第一获取模块,用于获取文本训练集,所述文本训练集包括多组第一文本和第二文本,所述第一文本中包含问题,所述第二文本中包含所述第一文本中的问题对应的答案;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111138986.5/2.html,转载请声明来源钻瓜专利网。