[发明专利]一种基于注意力机制的多尺度音频场景识别方法有效
申请号: | 201910960088.4 | 申请日: | 2019-10-10 |
公开(公告)号: | CN110782878B | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 张涛;梁晋华 | 申请(专利权)人: | 天津大学 |
主分类号: | G10L15/04 | 分类号: | G10L15/04;G10L15/06;G10L15/16;G10L15/28;G06N3/04 |
代理公司: | 天津市北洋有限责任专利代理事务所 12201 | 代理人: | 杜文茹 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 注意力 机制 尺度 音频 场景 识别 方法 | ||
1.一种基于注意力机制的多尺度音频场景识别方法,其特征在于,包括如下步骤:
1)建立基于注意力机制的多尺度音频场景识别卷积神经网络模型,用于准确识别不同频带大小和不同持续时间的音频场景;
所述的基于注意力机制的多尺度音频场景识别卷积神经网络模型,包括有依次串联的:用于提取所接收的对数梅尔图的不同尺度的特征的由Xception模型构成的特征提取模块(1),用于对特征提取模块(1)所提取的不同尺度特征进行处理,得到表示不同尺度的特征向量的特征处理模块(2),用于将表示不同尺度特征向量进行融合及场景分类的注意力模块(4),以及对特征提取模块(1)输出的最底层尺度特征进行处理后输出给注意力模块(4)的权重分配模块(3);其中,所述的特征处理模块(2),包括有:
第一横向连接结构(2.1),对所接收的上层尺度特征依次进行1×1卷积处理、3×3卷积处理和全局池化处理后得到上层尺度特征向量,送入注意力模块(4),并将1×1卷积处理的上层尺度特征信息送入第二横向连接结构(2.2);
第二横向连接结构(2.2),分别对所接收的中层尺度特征进行1×1卷积处理,以及对所接收的上层尺度特征信息进行上采样处理,再将1×1卷积处理的结果与上采样处理的结果相加后的中层尺度特征信息进行3×3卷积处理和全局池化处理后得到中层尺度特征向量,送入注意力模块(4),并将所述的中层尺度特征信息送入第三横向连接结构(2.3);
第三横向连接结构(2.3),分别对所接收的底层尺度特征进行1×1卷积处理,以及对所接收的中层尺度特征信息进行上采样处理,再将1×1卷积处理的结果与上采样处理的结果相加后的底层尺度特征信息进行3×3卷积处理和全局池化处理后得到底层尺度特征向量,送入注意力模块(4);
2)将包含有不同场景类别的音频文件和对应的场景类别的训练集输入基于注意力机制的多尺度音频场景识别卷积神经网络模型,对基于注意力机制的多尺度音频场景识别卷积神经网络模型进行训练;
3)读取音频文件并进行预处理,得到音频信号片段;
4)从所述的音频信号片段中提取对数梅尔图;
5)将所述的对数梅尔图输入到训练后的基于注意力机制的多尺度音频场景识别卷积神经网络模型中,得到最终的场景类别。
2.根据权利要求1所述的一种基于注意力机制的多尺度音频场景识别方法,其特征在于,所述的特征提取模块(1)的第二、第三和第四池化层输出的不同尺度特征分别送入特征处理模块(2),所述的特征提取模块(1)的第一池化层输出的最底层尺度特征送入权重分配模块(4)。
3.根据权利要求1所述的一种基于注意力机制的多尺度音频场景识别方法,其特征在于,所述的权重分配模块(3)包括依次进行的:对最底层尺度特征进行1×1卷积处理、3×3卷积处理、全局池化处理和全连接层处理,得到三个用于对不同尺度分配注意力的权重系数,并送入注意力模块(4)。
4.根据权利要求1所述的一种基于注意力机制的多尺度音频场景识别方法,其特征在于,所述的注意力模块(4)包括将特征处理模块(2)输出的上层尺度特征向量、中层尺度特征向量和底层尺度特征向量利用权重分配模块(3)输出的三个权重系数进行加权平均后,再依次进行全连接层处理和分类处理得到最终的场景类别。
5.根据权利要求1所述的一种基于注意力机制的多尺度音频场景识别方法,其特征在于,步骤3)所述的预处理是对输入的信号进行截断处理,截成固定时长10s的信号片段。
6.根据权利要求1所述的一种基于注意力机制的多尺度音频场景识别方法,其特征在于,步骤4)包括:
(1)对输入的音频信号片段进行分帧加窗;
(2)将得到的音频帧通过梅尔滤波器组,计算音频帧中的每个时间步范围内通过各梅尔滤波器的能量,将每个时间步范围内得到的所有通过梅尔滤波器的能量组成能量向量,将所有时间步范围内的能量向量合并,得到对应音频帧的二维梅尔图;
(3)对所述的二维梅尔图进行对数处理,得到对数梅尔图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910960088.4/1.html,转载请声明来源钻瓜专利网。