[发明专利]神经网络模型压缩的方法、装置、存储介质和芯片在审
申请号: | 201910833833.9 | 申请日: | 2019-09-04 |
公开(公告)号: | CN112446476A | 公开(公告)日: | 2021-03-05 |
发明(设计)人: | 许奕星;陈汉亭;韩凯;王云鹤;许春景 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06K9/62 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 王雷;时林 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了人工智能领域中的一种神经网络模型压缩的方法,包括:服务器获取用户设备上传的第一神经网络模型和第一神经网络的训练数据;根据第一神经网络的训练数据和服务器存储的未标记数据,得到PU分类器;使用PU分类器,从服务器存储的未标记数据中选择扩展数据,扩展数据具有与第一神经网络模型的训练数据相似属性与分布;根据扩展数据,利用知识蒸馏KD方法训练第二神经网络模型,第一神经网络模型作为教师网络模型,第二神经网络模型作为学生网络模型。采用PU分类器,从未标记数据中选择与第一神经网络模型的训练数据具有相似属性与分布的数据,提高神经网络模型压缩的准确性,避免大量正样本数据的传输。 | ||
搜索关键词: | 神经网络 模型 压缩 方法 装置 存储 介质 芯片 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910833833.9/,转载请声明来源钻瓜专利网。