[发明专利]一种基于参数传播的多任务图片理解方法与装置在审
申请号: | 202110804217.8 | 申请日: | 2021-07-16 |
公开(公告)号: | CN113505839A | 公开(公告)日: | 2021-10-15 |
发明(设计)人: | 黄文炳;孙富春;韩家琦 | 申请(专利权)人: | 清华大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京化育知识产权代理有限公司 11833 | 代理人: | 秦丽 |
地址: | 100000*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 参数 传播 任务 图片 理解 方法 装置 | ||
1.一种基于参数传播的多任务图片理解方法,其特征在于,包括如下步骤:
获取若干张图片数据,并对所述图片数据进行预处理后构建为训练数据集;
获取若干个图片理解任务,对每个所述图片理解任务均构建一个任务模型,其中,若干个所述图片理解任务之间具有关联,每个所述任务模型具有独立的参数;
基于线性参数传播机制,通过所述训练数据集对各所述任务模型进行训练;训练好的各所述任务模型分别用于对待处理图片数据进行图片理解。
2.根据权利要求1所述的基于参数传播的多任务图片理解方法,其特征在于,采用多层卷积神经网络对每个所述图片理解任务构建任务模型。
3.根据权利要求1所述的基于参数传播的多任务图片理解方法,其特征在于,基于线性参数传播机制对所述任务模型进行训练包括自学习和邻学习两个阶段;其中,在所述自学习阶段,通过每个所述任务模型独立训练各自参数,在所述邻学习阶段,将所有任务模型的参数固定,训练参数传播矩阵;所述参数传播矩阵用于表示各所述图片理解任务之间的关系。
4.根据权利要求3所述的基于参数传播的多任务图片理解方法,其特征在于,在所述自学习阶段,通过每个所述任务模型独立训练各自参数的方法包括:
对所有所述任务模型的参数进行随机初始化,并通过随机梯度法对每个所述任务模型的参数进行迭代更新。
5.根据权利要求4所述的基于参数传播的多任务图片理解方法,其特征在于,通过随机梯度法对每个所述任务模型的参数进行更新的具体方法包括:
在每一步迭代更新的过程中,从所述任务模型的训练数据集中随机进行数据采样,通过采样得到的数据计算所述任务模型的参数的梯度,基于所述参数的梯度对所述任务模型的参数进行更新。
6.根据权利要求3所述的基于参数传播的多任务图片理解方法,其特征在于,在所述邻学习阶段,训练所述参数传播矩阵的方法包括:
S3031、将所述参数传播矩阵初始化为单位矩阵;
S3032、基于自学习后各所述任务模型的参数进行参数传播计算,并将参数传播计算后得到的参数代入每个所述任务模型,计算所述参数传播矩阵的梯度;
S3033、基于所述参数传播矩阵的梯度对所述参数传播矩阵进行梯度更新;
S3034、基于梯度更新后的所述参数传播矩阵,重复步骤S3032-S3033,完成所述参数传播矩阵的训练。
7.一种基于参数传播的多任务图片理解装置,其特征在于,包括数据获取模块、模型构建模块、模型训练模块,所述数据获取模块、模型构建模块分别与所述模型训练模块连接;
所述数据获取模块用于获取若干张图片数据,并对所述图片数据进行预处理后构建为训练数据集;
所述模型构建模块用于获取若干个图片理解任务,对每个所述图片理解任务均构建一个任务模型,其中,若干个所述图片理解任务之间具有关联,每个所述任务模型具有独立的参数;
所述模型训练模块基于线性参数传播机制,通过所述训练数据集对各所述任务模型进行训练;训练好的各所述任务模型分别用于对待处理图片数据进行图片理解。
8.根据权利要求7所述的基于参数传播的多任务图片理解装置,其特征在于,所述模型构建模块采用多层卷积神经网络对每个所述图片理解任务构建任务模型。
9.根据权利要求7所述的基于参数传播的多任务图片理解装置,其特征在于,所述模型训练模块包括依次连接的自学习模块和邻学习模块;
所述自学习模块用于通过每个所述任务模型独立训练各自参数;
所述邻学习模块用于将所有任务模型的参数固定,训练参数传播矩阵;所述参数传播矩阵用于表示各所述图片理解任务之间的关系。
10.根据权利要求9所述的基于参数传播的多任务图片理解装置,其特征在于,所述自学习模块通过随机梯度法对每个所述任务模型的参数进行迭代更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110804217.8/1.html,转载请声明来源钻瓜专利网。