[发明专利]基于多头注意力机制的特征提取方法及语音命令识别方法有效
申请号: | 202010287007.1 | 申请日: | 2020-04-13 |
公开(公告)号: | CN111489738B | 公开(公告)日: | 2021-02-23 |
发明(设计)人: | 徐泓洋;王广新;杨汉丹 | 申请(专利权)人: | 深圳市友杰智新科技有限公司 |
主分类号: | G10L15/02 | 分类号: | G10L15/02;G10L15/22;G10L15/16;G10L15/26 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉 |
地址: | 518000 广东省深圳市南山区招商*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请揭示了一种基于多头注意力机制的特征提取方法及语音命令识别方法、装置、存储介质以及计算机设备,其中基于多头注意力机制的特征提取方法包括:获取第一特征矩阵;将第一特征矩阵输入预设的全连接层进行计算得到第二特征矩阵,第二特征矩阵的列数为N;将第二特征矩阵输入预设的多头注意力机制网络进行计算,得到第三特征矩阵,多头注意力机制网络包括M层多头注意力机制层,每层所述多头注意力机制层的注意力头数量为K,其中,每层的K分别为N的不同约数,且M为N所有约数的个数,这样只需一层全连接层以及多层不同的多头注意力机制层即可有效的实现特性提取,减少了由于多个全连接层所带来的巨大参数量,大大地降低计算量。 | ||
搜索关键词: | 基于 多头 注意力 机制 特征 提取 方法 语音 命令 识别 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市友杰智新科技有限公司,未经深圳市友杰智新科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010287007.1/,转载请声明来源钻瓜专利网。