[发明专利]一种在线域更新解码方法、装置、电子设备及存储介质有效
申请号: | 201910650969.6 | 申请日: | 2019-07-18 |
公开(公告)号: | CN110502746B | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 吴帅;李健;张连毅;武卫东 | 申请(专利权)人: | 北京捷通华声科技股份有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/30;G06F40/58 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100193 北京市海淀区东北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 在线 更新 解码 方法 装置 电子设备 存储 介质 | ||
1.一种在线域更新解码方法,其特征在于,所述方法包括:
将词表中的每个字词输入原解码语言模型,得到所述词表中的每个字词的旧预测概率,并生成相应的第一哈希表;所述原解码语言模型、所述词表以及解码器位于传统的解码框架中;所述传统的解码框架中的所述解码器用于生成候选结果,所述候选结果中包含候选词;所述候选词是从所述词表中选择得到的;
针对所述解码器在当前时间段内输出的多个候选结果,根据域更新语言模型,得到所述多个候选结果中所有候选词各自的新预测概率,并更新相应的第二哈希表;所述域更新语言模型位于新解码框架中;所述域更新语言模型是根据自选习惯性语料样本训练得到的;
对所述解码器在当前时间段内输出的每个候选词,分别查询所述第一哈希表和所述第二哈希表,得到该候选词的旧预测概率和新预测概率,并根据该候选词的旧预测概率和新预测概率,更新该候选词的权重;
根据所述解码器在当前时间段内输出的每个候选词的更新后的权重,生成最佳解码结果;
其中,将词表中的每个字词输入原解码语言模型,得到所述词表中的每个字词的旧预测概率,并生成相应的第一哈希表,包括:
所述传统的解码框架遍历所述词表,调用所述原解码语言模型计算所述词表中的候选词,得到所述旧预测概率。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
对训练语料进行处理,随机得到多块区域字词和所述区域字词所在区域外对应的多块前文;其中,所述区域字词包含至少一个字词;
将所述区域字词对应的所有前文分别进行组合,得到前文信息集;
利用所述前文信息集,训练预设语言模型,得到所述域更新语言模型。
3.根据权利要求2所述的方法,其特征在于,所述利用所述前文信息集,训练预设语言模型,得到所述域更新语言模型的步骤,包括:
获取所述区域字词中各字词在所在区域出现的次数;
获取所述区域内所有字词的总数;
用所述次数和所述总数的比值得到所述各字词的区域字词概率;
按先后顺序将所述区域字词的前文输入到所述预设语言模型中,得到输出概率,根据所述输出概率和所述区域字词概率计算损失函数,循环处理所有的所述区域字词和所述区域字词对应的前文,多次计算损失函数,在所述损失函数收敛时结束训练,并将结束训练时的模型确定为所述域更新语言模型。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述解码器在历史时间段内输出的历史最佳解码结果输入到所述域更新语言模型中,得到所述历史最佳解码结果中各字词的对应概率,并将该字词和该字词对应的概率存储成中间状态信息;
针对所述解码器在当前时间段内输出的多个候选词,根据所述域更新语言模型,得到所述多个候选词各自的新预测概率,并更新相应的第二哈希表,包括:
利用所述中间状态信息和所述域更新语言模型在当前时间段内针对所述多个候选词预测出的概率,得到所述多个候选词各自的新预测概率,并更新相应的第二哈希表。
5.根据权利要求1或4所述的方法,其特征在于,所述更新该候选词的权重的步骤,包括:
将所述旧预测概率、所述新预测概率和该候选词的旧权重带入到权重公式中得到该候选词的新权重;
其中,所述权重公式为:W′(w)=W(w)+λ[ω(Pfield(D(0~κτ),w))-ω(Pold(w))],W′(w)表示该候选词的新权重,W(w)表示该候选词的旧权重,Pfield(D(0~κτ,w)表示所述新预测概率,Pold(w)表示所述候选词的旧概率,ω()表示权重函数,λ的取值在0到1之间,w表示该候选词,τ表示权重更新时间段的长度,k表示自然数,D(0~κτ)表示0~κτ时间段内输出的历史最佳解码结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京捷通华声科技股份有限公司,未经北京捷通华声科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910650969.6/1.html,转载请声明来源钻瓜专利网。