[发明专利]基于聚类的深度学习模型压缩方法、存储介质及系统在审
申请号: | 201910472337.5 | 申请日: | 2019-05-31 |
公开(公告)号: | CN110175262A | 公开(公告)日: | 2019-08-27 |
发明(设计)人: | 吕志高 | 申请(专利权)人: | 武汉斗鱼鱼乐网络科技有限公司 |
主分类号: | G06F16/71 | 分类号: | G06F16/71;G06F16/75;H04N19/85;H04L29/06 |
代理公司: | 武汉智权专利代理事务所(特殊普通合伙) 42225 | 代理人: | 董婕 |
地址: | 430000 湖北省武汉市东湖新技术开发区软件园东路*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 聚类 维度 模型压缩 索引 直播视频数据 存储介质 实时获取 压缩 学习 记录 平台服务器 聚类中心 量化编码 数据存储 数据压缩 压缩过程 权值和 创建 量化 直播 保证 | ||
1.一种基于聚类的深度学习模型压缩方法,其特征在于,包括以下步骤:
实时获取直播间的直播视频数据;
创建一深度学习模型用于对实时获取的直播视频数据进行压缩,并在压缩过程中依次获取创建的深度学习模型中各layer的权值和权值维度;
判断当前所获取layer的权值维度是否大于设定阈值:
-若是,采用分桶的有损粗量化方法,降低当前layer的权值维度,并记录降低维度后的权值索引;
-若否,记录当前layer的权值索引,并对当前layer的权值进行聚类量化编码,记录聚类完成后的聚类中心和聚类索引;
压缩完成后的直播视频数据存储至直播平台服务器。
2.如权利要求1所述的一种基于聚类的深度学习模型压缩方法,其特征在于,所述layer的权值表示为:
其中,wlayer表示layer的权值,n表示layer的权值维度,表示layer所有权值中的其中一权值。
3.如权利要求2所述的一种基于聚类的深度学习模型压缩方法,其特征在于,所述降低当前layer的权值维度,具体公式为:
其中,i为layer的权值索引,为layer第i维的权值,为layer降低维度后第i维的权值,m为期望粗量化后的维度。
4.如权利要求3所述的一种基于聚类的深度学习模型压缩方法,其特征在于,所述期望粗量化后的维度m的计算公式为:
5.如权利要求4所述的一种基于聚类的深度学习模型压缩方法,其特征在于,所述记录当前layer的权值索引,还包括对当前layer的权值进行取值合并,具体公式为:
其中,wi为取值合并后当前layer的权值,T为设定阈值。
6.如权利要求5所述的一种基于聚类的深度学习模型压缩方法,其特征在于,所述对当前layer的权值进行聚类量化编码,所使用公式为:
其中,ncluster为聚类量化的聚类中心个数,clusters为初始化的聚类中心,KMeans表示k均值聚类算法,wj等于wi,表示layer的第j个权值的聚类量化编码。
7.如权利要求6所述的一种基于聚类的深度学习模型压缩方法,其特征在于:
所述聚类量化的聚类中心个数ncluster的计算公式为:
所述初始化的聚类中心clusters的计算公式为:
其中,clustersj表示第j个初始化后的聚类中心。
8.一种存储介质,该存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现以下步骤:
实时获取直播间的直播视频数据;
创建一深度学习模型用于对实时获取的直播视频数据进行压缩,并在压缩过程中依次获取创建的深度学习模型中各layer的权值和权值维度;
判断当前所获取layer的权值维度是否大于设定阈值:
若是,则采用分桶的有损粗量化方法,降低当前layer的权值维度,并记录降低维度后的权值索引,然后将压缩完成后的直播视频数据存储至直播平台服务器;
若否,则记录当前layer的权值索引,并对当前layer的权值进行聚类量化编码,记录聚类完成后的聚类中心和聚类索引,然后将压缩完成后的直播视频数据存储至直播平台服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉斗鱼鱼乐网络科技有限公司,未经武汉斗鱼鱼乐网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910472337.5/1.html,转载请声明来源钻瓜专利网。