[发明专利]模型训练方法、分类信息生成方法、装置、设备和介质在审
申请号: | 202310560745.2 | 申请日: | 2023-05-17 |
公开(公告)号: | CN116644346A | 公开(公告)日: | 2023-08-25 |
发明(设计)人: | 潘滢炜;姚霆;梅涛 | 申请(专利权)人: | 京东科技控股股份有限公司 |
主分类号: | G06F18/241 | 分类号: | G06F18/241;G06F18/214;G06N3/0464;G06F17/16 |
代理公司: | 北京唯智勤实知识产权代理事务所(普通合伙) 11557 | 代理人: | 姜悦 |
地址: | 102600 北京市大兴区北京经*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 分类 信息 生成 装置 设备 介质 | ||
1.一种模型训练方法,包括:
响应于确定初始分类模型的模型训练未达到预定训练阶段,利用初始域独占特征识别模型,生成针对第一数据的初始域独占特征信息,其中,所述初始分类模型包括:所述初始域独占特征识别模型和初始域不变特征识别模型;
生成针对独占特征权重矩阵和域不变特征权重矩阵的初始正交损失信息;
根据所述初始正交损失信息和针对所述初始域独占特征信息的域独占特征损失信息,对所述初始域独占特征识别模型、所述独占特征权重矩阵和所述域不变特征权重矩阵进行参数初步更新;
响应于确定初步更新后的分类模型的模型训练达到所述预定训练阶段,利用初步更新后的域独占特征识别模型,生成针对第二数据的初步域独占特征信息,以及利用所述初始域不变特征识别模型,生成针对所述第二数据的初始域不变特征信息;
根据所述初步域独占特征信息、所述初始域不变特征信息、更新后独占特征权重矩阵和更新后域不变特征权重矩阵,对所述初步更新后的分类模型进行模型训练。
2.根据权利要求1所述的方法,其中,所述初始域独占特征识别模型包括:初始特征提取模型和初始多头偏见分类模型;以及
所述利用初始域独占特征识别模型,生成针对第一数据的初始域独占特征信息,包括:
将所述第一数据输入至所述初始特征提取模型,以输出第一数据特征信息;
将所述第一数据特征信息输入至所述初始多头偏见分类模型,以输出所述初始域独占特征信息。
3.根据权利要求2所述的方法,其中,所述根据所述初始正交损失信息和针对所述初始域独占特征信息的域独占特征损失信息,对所述初始域独占特征识别模型、所述独占特征权重矩阵和所述域不变特征权重矩阵进行参数初步更新,包括:
根据所述初始正交损失信息和所述域独占特征损失信息,生成模型训练损失信息;
根据所述模型训练损失信息,对所述初始特征提取模型、所述初始多头偏见分类模型、所述独占特征权重矩阵和所述域不变特征权重矩阵进行参数初步更新,得到更新后特征提取模型、更新后多头偏见分类模型、所述更新后独占特征权重矩阵和所述更新后域不变特征权重矩阵。
4.根据权利要求3所述的方法,其中,所述初始域不变特征识别模型包括:所述更新后特征提取模型和初始通用分类模型;以及
所述利用所述初始域不变特征识别模型,生成针对所述第二数据的初始域不变特征信息,包括:
将所述第二数据输入至所述更新后特征提取模型,以输出第二数据特征信息;
将所述第二数据特征信息输入至所述初始通用分类模型,以输出所述初始域不变特征信息。
5.根据权利要求1所述的方法,其中,所述根据所述初步域独占特征信息、所述初始域不变特征信息、更新后独占特征权重矩阵和更新后域不变特征权重矩阵,对所述初步更新后的分类模型进行模型训练,包括:
生成针对所述更新后独占特征权重矩阵和所述更新后域不变特征权重矩阵的正交损失信息,作为目标正交损失信息;
生成针对所述初步域独占特征信息的域独占特征损失信息,作为目标域独占特征损失信息;
生成针对初始域不变特征信息的域不变特征损失信息,作为目标域不变特征损失信息;
根据所述目标正交损失信息、所述目标域独占特征损失信息和所述目标域不变特征损失信息,对所述初步更新后的分类模型进行模型训练。
6.根据权利要求5所述的方法,其中,所述初始域独占特征信息为矩阵形式;以及
所述生成针对所述初步域独占特征信息的域独占特征损失信息,作为目标域独占特征损失信息,包括:
对初始域独占特征信息矩阵进行目标方向最大值求取处理,得到初始域独占特征向量;
将所述初始域独占特征向量输入至域独占特征损失函数,以输出所述目标域独占特征损失信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技控股股份有限公司,未经京东科技控股股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310560745.2/1.html,转载请声明来源钻瓜专利网。