[发明专利]异构模型自适应协作方法有效

专利信息
申请号: 202110650567.3 申请日: 2021-06-10
公开(公告)号: CN113298176B 公开(公告)日: 2023-04-25
发明(设计)人: 张兰;李向阳;袁牧 申请(专利权)人: 中国科学技术大学
主分类号: G06F18/24 分类号: G06F18/24;G06N3/04;G06N3/08
代理公司: 中科专利商标代理有限责任公司 11021 代理人: 吴梦圆
地址: 230026 安*** 国省代码: 安徽;34
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 模型 自适应 协作 方法
【说明书】:

本公开提供了一种异构模型自适应协作方法,包括:获取异构模型的训练结果,根据所述训练结果建立多源映射关系组和多域映射关系组;根据预设指标分别计算所述多源映射关系组和所述多域映射关系组的执行概率和模型调度。本公开中的异构模型自适应协作方法,让原本孤立运行的异构模型能够进行协作,且支持融合多个任务、多个域的知识,提高协作的有效性和泛化性,基于异构模型协作的调度策略,可以在有限资源下,提高模型内输出标签的精度,且扩大输出标签的范围。

技术领域

本公开涉及深度学习领域,尤其涉及一种异构模型自适应协作方法。

背景技术

日趋复杂的智能应用的分析任务通常由多个异构模型组成。例如城市视频分析,该分析过程需要从单帧图像中检测违停车辆等,同时需要利用时序信息分析视频中的动态事件(例如跨摄像头车辆追踪),有时还需要分析音频数据(例如噪声监控)。上述任务需由多个异构的机器学习模型完成,需要很大的计算开销,并带来很高的数据延迟。现有的方法集中在单个模型的优化上,通过压缩单一模型的大小、对单一模型的计算进行重用、过滤单一模型的输入数据等等,这些方法可以加速单一模型的推理速度,并保持分析精度基本不变。

但是现有方法尚存在如下问题。单一模型优化复用性低,针对单一模型的优化方法所需的知识背景的专业性较强,进而难以预估其试错成本,这使得优化过程难以复用,即当新的模型待部署时,往往仍需要大量的人力物力进行针对性地优化。

此外,现有的模型优化方法都假设已知模型的白盒信息,即该过程被设定为是在部署之前进行的。对于已部署的异构模型而言,得到白盒信息进行优化是不可行的,这使得现有方法难以扩展。

发明内容

(一)要解决的技术问题

本公开提出了一种异构模型自适应协作方法,以至少解决上述现有技术中存在的问题。

(二)技术方案

为达到上述目的,本公开提供了一种异构模型自适应协作方法,包括:获取异构模型的训练结果,根据所述训练结果建立多源映射关系组和多域映射关系组;

根据预设指标分别计算所述多源映射关系组和所述多域映射关系组的执行概率和模型调度。

在本公开的一些实施例中,所述获取异构模型的训练结果包括:

收集N个模型数据,建立与所述N个模型数据相对应的所述异构模型,其中,N为大于等于2的整数;

将第N个所述异构模型作为原异构模型,将除第N个所述异构模型之外的所述异构模型作为目标异构模型,建立由所述原异构模型至所述目标异构模型间的映射关系;

对所述异构模型设定真实标签,通过所述真实标签和所述异构模型的输出数据指导所述映射关系进行训练得到所述训练结果。

在本公开的一些实施例中,所述异构模型的所述输出数据的集合构成一输出空间,所述输出空间包括:定长向量和变长序列,所述原异构模型的所述输出空间为原输出空间,所述目标异构模型的所述输出空间为目标输出空间,

所述建立由所述原异构模型至所述目标异构模型间的映射关系包括:

建立所述原输出空间内的所述定长向量至所述目标输出空间内的所述定长向量的第一映射关系;

建立所述原输出空间内的所述定长向量至所述目标输出空间内的所述变长序列的第二映射关系;

建立所述原输出空间内的所述变长序列至所述目标输出空间内的所述定长向量的第三映射关系;

建立所述原输出空间内的所述变长序列至所述目标输出空间内的所述变长序列的第四映射关系。

在本公开的一些实施例中,所述通过所述真实标签和所述异构模型的输出数据指导所述映射关系进行训练得到所述训练结果,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110650567.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top