[发明专利]一种轻量级瓶颈注意力机制的深度学习方法在审
申请号: | 202111466243.0 | 申请日: | 2021-11-29 |
公开(公告)号: | CN114118415A | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 邓玉辉;李鸿 | 申请(专利权)人: | 暨南大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 黄卫萍 |
地址: | 510632 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种轻量级瓶颈注意力机制的深度学习方法,该注意力机制分成通道注意力分支和空间注意力分支;通道注意力分支通过全局平均池化和最大值池化获取中间特征图的空间信息,卷积聚合以该通道为中心的左右邻域内的k个通道的信息,将得到的两个特征图按元素相加,生成通道注意力;空间注意力分支使用卷积进行降维,通过两个的空洞卷积进行上下文获取,最后使用卷积将通道数压缩到一维,生成空间注意力;融合两个分支注意力,先将通道注意力按空间的两个维度广播扩充,然后将空间注意力按通道维度广播扩充,将扩充后的两个注意力分支按元素相加,并通过Sigmoid函数运算,生成轻量级瓶颈注意力。本发明计算代价小、模型学习能力强。 | ||
搜索关键词: | 一种 轻量级 瓶颈 注意力 机制 深度 学习方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于暨南大学,未经暨南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111466243.0/,转载请声明来源钻瓜专利网。