[发明专利]基于通道注意力机制的神经网络压缩方法及相关设备在审
申请号: | 201910026547.1 | 申请日: | 2019-01-11 |
公开(公告)号: | CN109858611A | 公开(公告)日: | 2019-06-07 |
发明(设计)人: | 金戈;徐亮 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 刘立天 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及人工智能领域,本申请公开了一种基于通道注意力机制的神经网络压缩方法及相关设备,所述方法包括:构建神经网络模型,并在所述神经网络模型中建立通道注意力机制,所述神经网络模型包含多个通道;对所述神经网络模型进行训练;在对所述神经网络模型的训练过程中根据所述通道注意力机制对所述神经网络模型中的通道进行删减。本申请通过在神经网络模型的全连接层前加入通道注意力层,并计算通道权重,将权重低的通道进行删减,实现对神经网络的压缩。 | ||
搜索关键词: | 神经网络模型 注意力机制 神经网络 权重 压缩 申请 人工智能领域 训练过程 连接层 构建 注意力 | ||
【主权项】:
1.一种基于通道注意力机制的神经网络压缩方法,其特征在于,包括以下步骤:构建神经网络模型,并在所述神经网络模型中建立通道注意力机制,所述神经网络模型包含多个通道;对所述神经网络模型进行训练;在对所述神经网络模型的训练过程中根据所述通道注意力机制对所述神经网络模型中的通道进行删减。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910026547.1/,转载请声明来源钻瓜专利网。