[发明专利]训练风险识别模型的方法和装置在审
申请号: | 202110493567.7 | 申请日: | 2021-05-07 |
公开(公告)号: | CN113191434A | 公开(公告)日: | 2021-07-30 |
发明(设计)人: | 赵宇琦;陈彪;刘腾飞;陆逊;张梦娇;陈佩弦 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06Q20/40 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 李世喆 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 训练 风险 识别 模型 方法 装置 | ||
1.训练风险识别模型的方法,包括:
确定新增任务;
确定所述新增任务与已训练得到的第一风险识别模型对应的已有任务之间的相似性;
若所述相似性满足预设的条件,则依据所述新增任务在所述第一风险识别模型中修改结构,所述修改结构包括新增结构和/或删除结构;
采用增量学习算法,利用所述新增任务对包含修改结构的第一风险识别模型进行模型参数的更新,得到第二风险识别模型。
2.根据权利要求1所述的方法,其中,所述新增任务包括以下至少一种:
新增样本数据、新增风险类型、减少风险类型或者新增特征。
3.根据权利要求1所述的方法,其中,确定所述新增任务与已训练得到的第一风险识别模型对应的已有任务之间的相似性包括:
确定所述新增任务在风险域上的信息值IV向量以及所述已有任务在风险域上的IV向量之间的距离,基于该距离确定所述新增任务与所述已有任务之间的相似性;或者,
确定所述新增任务与已有任务在风险域上的卡方值,依据所述卡方值确定所述新增任务与所述已有任务之间的相似性,所述风险域包括所述新增任务和所述已有任务涉及的风险类型;或者,
利用所述新增任务训练得到第一全连接模型并利用所述已有任务训练得到第二全连接模型,其中所述第一全连接模型和第二全连接模型的参数维度相同;确定所述第一全连接模型和第二全连接模型中相同结构部分的参数向量之间的距离,基于该距离确定所述新增任务与所述已有任务之间的相似度。
4.根据权利要求2所述的方法,其中,依据所述新增任务在所述第一风险识别模型中修改结构包括:
若所述新增任务包括新增样本数据,则在所述第一风险识别模型中增加用以抽取特征向量表示的结构;
若所述新增任务包括新增风险类型,则在所述第一风险识别模型中增加所述新增的风险类型对应的全连接结构,或者增加所述新增的风险类型对应的全连接结构和该全连接结构对应的特征注意力结构;
若所述新增任务包括减少风险类型,则在所述第一风险识别模型中删除减少的风险类型对应的全连接结构,或者删除所述减少的风险类型对应的全连接结构和该全连接结构对应的特征注意力结构;
若所述新增任务包括新增特征,则在所述第一风险识别模型中用以抽取特征向量表示的结构中增加神经元。
5.根据权利要求1所述的方法,其中,所述采用增量学习算法,利用所述新增任务对包含修改结构的第一风险识别模型进行模型参数的更新包括:
利用所述新增任务仅对所述第一风险识别模型中的修改结构进行参数更新,保持其他结构的参数不变;或者,
利用所述新增任务对所述第一风险识别模型中的所有模型参数进行更新;或者,
采用L2正则化的方式,利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新;或者,
采用可塑权重巩固EWC的方式,利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新。
6.根据权利要求1所述的方法,其中,采用L2正则化的方式,利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新包括:
在利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新时,采用L2正则化参数的损失函数;
其中,所述L2正则化参数的损失函数中叠加了正则项,所述正则项由第一差值的平方确定,所述第一差值为本次迭代后的参数与本次迭代前的参数的差值。
7.根据权利要求1所述的方法,其中,采用EWC的方式,利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新包括:
在利用所述新增任务对包含修改结构的第一风险识别模型进行所有模型参数的更新时,采用费雪Fisher正则化的损失函数;
其中,所述Fisher正则化的损失函数中叠加了正则项,所述正则项由Fisher信息矩阵以及第二差值的平方确定,其中,所述第二差值为:本次迭代后的参数与所述新增任务之前第一风险识别模型的参数的差值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110493567.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用于康复治疗的下肢矫形器
- 下一篇:一种效果好的条码打印机