[发明专利]一种模型剪枝方法、装置、电子设备及存储介质在审
| 申请号： | 202111322412.3 | 申请日： | 2021-11-09 |
| 公开（公告）号： | CN114037074A | 公开（公告）日： | 2022-02-11 |
| 发明（设计）人： | 李建伟 | 申请（专利权）人： | 北京百度网讯科技有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04;G06V10/94;G06V10/764;G06K9/62 |
| 代理公司： | 北京市铸成律师事务所 11313 | 代理人： | 曹远;包莉莉 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开提供了一种模型剪枝方法、装置、电子设备、可读存储介质以及计算机程序产品，涉及计算机视觉、深度学习领域。具体实现方案为：根据目标子层输出的图像特征向量矩阵，确定所述目标子层中的多头自注意力模块对应的剪枝掩码，所述目标子层为视觉转换器模型的子层，所述剪枝掩码用于标识所述多头自注意力模块中待剪枝的自注意力头；利用所述剪枝掩码，对所述多头自注意力模块进行剪枝。该方案能够确定用于标识多头自注意力模块中待剪枝的自注意力头的剪枝掩码，并利用剪枝掩码，对视觉转换器模型的目标子层的多头自注意力模块进行自注意力头的剪枝。从而能够降低视觉转换器模型部署和运算所需要消耗的资源。 | ||
| 搜索关键词： | 一种 模型 剪枝 方法 装置 电子设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司，未经北京百度网讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111322412.3/，转载请声明来源钻瓜专利网。
