[发明专利]一种支持领域定制语言模型的解码方法及装置有效
申请号: | 202110192804.6 | 申请日: | 2021-02-20 |
公开(公告)号: | CN113012690B | 公开(公告)日: | 2023-10-10 |
发明(设计)人: | 谢东平 | 申请(专利权)人: | 苏州协同创新智能制造装备有限公司 |
主分类号: | G10L15/16 | 分类号: | G10L15/16;G10L15/30 |
代理公司: | 江苏坤象律师事务所 32393 | 代理人: | 赵新民 |
地址: | 215012 江苏省苏州市吴中区越*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 支持 领域 定制 语言 模型 解码 方法 装置 | ||
1.一种支持领域定制语言模型的解码方法,其特征在于:基于集束搜索解码,包括:
步骤S1.生成第一解码网络,作为第一遍解码搜索网络,获得第一得分集合;通过定制领域的语言模型生成第二解码网络,作为语言模型得分查询网络获得第二得分集合;所述第一得分集合的元素为第一得分,第二得分集合的元素为第二得分;
步骤S2.扩张集束同时对定制领域的语言模型重新打分,包括迭代进行:
取当前语音帧对应的编码器扩张矩阵的子矩阵与解码器输出矩阵,将其拼接后的矩阵输入到输出层做transducer前向计算,生成第一得分矩阵;将第一得分集合、第二得分集合与所述第一得分矩阵对应位置相加得到第二得分矩阵;
基于第二得分矩阵,扩张集束放入解码假设集合;更新第一得分和第二得分;
步骤S3.判断最终解码假设集合里面是否已经有足够的解码假设;判断为是,则输出所有解码假设;判断为否,则返回步骤S2后继续进行直至有足够的解码假设。
2.根据权利要求1所述的一种支持领域定制语言模型的解码方法,其特征在于:在步骤S2之前初始化语音信号,包括:提取输入的语音序列的特征,将语音序列的帧数记为num_frames,每一个语音帧的维数记为dim_feat,以所述帧数和维数为元素得到语音特征矩阵;
将所述语音特征矩阵输入到编码器中,经编码得到矩阵[num_frames,enc_dim],将其扩张为[B,num_frames,enc_dim]的编码器扩张矩阵,其中B代表整个集束的大小;预设字表的大小记为V。
3.根据权利要求2所述的一种支持领域定制语言模型的解码方法,其特征在于:所述初始化语音信号还包括:初始化解码的B个字的集合;每个字代表句子初始符号,并得到每个字的大小为向量表示;
输入解码器,初始化解码器输出矩阵。
4.根据权利要求2所述的一种支持领域定制语言模型的解码方法,其特征在于:所述第一得分集合及第二得分集合是维数为B的向量。
5.根据权利要求2所述的一种支持领域定制语言模型的解码方法,其特征在于:所述第一得分矩阵和所述第二得分矩阵是大小为[B,V]的矩阵。
6.根据权利要求2所述的一种支持领域定制语言模型的解码方法,其特征在于:步骤S2开始时初始化解码环境,包括:
记录当前每一个集束解码对应时刻的大小为B的集合t_idx,每个元素t_idx_i为第i个集束对应的当前语音帧对应的时间戳;
初始化第一得分集合,大小为B;初始化第二得分集合,大小为B;
记录当前每一个集束解码对应的第一解码网络与第二解码网络的笛卡尔乘积状态的集合,记为笛卡尔积得分对集合,大小是B,其中的元素是对应第一解码网络与第二解码网络的状态的笛卡尔积对及相应跳转代价的集合,记为(LState, LMState, cost),包括笛卡尔积对LState, LMState和跳转代价cost。
7.根据权利要求6所述的一种支持领域定制语言模型的解码方法,其特征在于:t_idx_i的初始值设为1。
8.根据权利要求6所述的一种支持领域定制语言模型的解码方法,其特征在于:每个第一得分初始值均设为0;每个第二得分初始值均设为0。
9.根据权利要求6所述的一种支持领域定制语言模型的解码方法,其特征在于:第一解码网络的状态LState初始值设为startL,第二解码网络的状态LMState初始值设为startLM,start表示相对应的第一解码网络、第二解码网络的初始状态;cost初始值设为0。
10.根据权利要求6所述的一种支持领域定制语言模型的解码方法,其特征在于:步骤S2中“拼接后的矩阵”是保持B不变,将编码器扩张矩阵的子矩阵与所述解码器输出矩阵的其它元素进行拼接操作得到的矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州协同创新智能制造装备有限公司,未经苏州协同创新智能制造装备有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110192804.6/1.html,转载请声明来源钻瓜专利网。