[发明专利]噪音单词表示方法及装置

权利要求书

1.一种噪音单词表示方法，其特征在于，包括：

将噪音单词输入预训练的首尾字符预测模型，分别输出首尾字符的表示向量；

根据噪音单词的字符级依赖关系，确定整个单词的表示向量；

将首尾字符的表示向量和整个单词的表示向量进行组合，得到噪音单词的表示向量，用于单词识别任务；

其中，所述首尾字符预测模型，根据正确单词的首尾字符作为标签，进行训练后得到。

2.根据权利要求1所述的噪音单词表示方法，其特征在于，所述将噪音单词输入预训练的首尾字符预测模型，分别输出首尾字符的表示向量，包括：

将噪音单词输入预训练的首尾字符预测模型，根据噪音单词去除首尾字符后的语义关联信息，得到首尾字符所有的预测结果和对应的概率；

根据每个预测结果的首尾字符的表示向量和对应的概率，确定首尾字符的表示向量。

3.根据权利要求1所述的噪音单词表示方法，其特征在于，所述将噪音单词输入预训练的首尾字符预测模型之前，还包括：

获取多个正确单词，以正确单词的首尾字符作为标签，得到训练集样本；

利用所述训练集样本中正确单词的表示向量作为输入，构建初始首尾字符预测模型并进行训练，得到预训练的首尾字符预测模型。

4.根据权利要求1所述的噪音单词表示方法，其特征在于，所述根据噪音单词的字符级依赖关系，确定整个单词的表示向量，包括：

使用transformer编码器结构捕获噪音单词的字符级依赖关系，确定整个单词的表示向量。

5.根据权利要求1所述的噪音单词表示方法，其特征在于，将首尾字符的表示向量和整个单词的表示向量进行组合，包括：

将首尾字符的表示向量，分别乘上对应的系数矩阵进行加权；

将加权后的首尾字符的表示向量，通过激活函数进行映射后，与整个单词的表示向量进行相加。

6.根据权利要求5所述的噪音单词表示方法，其特征在于，所述得到噪音单词的表示向量之前，还包括：

获取已知识别结果的噪音单词，初始化所述系数矩阵，并按对应组合方法得到样本噪音单词的表示向量；

将样本噪音单词的表示向量输入单词识别器，利用单词识别器的识别结果和已知识别结果的标签，对所述系数矩阵进行更新。

7.一种噪音单词表示装置，其特征在于，包括：

首尾字符预测模块，用于将噪音单词输入预训练的首尾字符预测模型，分别输出首尾字符的表示向量；

单词向量确定模块，用于根据噪音单词的字符级依赖关系，确定整个单词的表示向量；

向量组合模块，用于将首尾字符的表示向量和整个单词的表示向量进行组合，得到噪音单词的表示向量，用于单词识别任务；

其中，所述首尾字符预测模型，根据正确单词的首尾字符作为标签，进行训练后得到。

8.根据权利要求7所述的噪音单词表示装置，其特征在于，所述首尾字符预测模块，具体用于：

将噪音单词输入预训练的首尾字符预测模型，根据噪音单词去除首尾字符后的语义关联信息，得到首尾字符所有的预测结果和对应的概率；

根据每个预测结果的首尾字符的表示向量和对应的概率，确定首尾字符的表示向量。

9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至6任一项所述噪音单词表示方法的步骤。

10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至6任一项所述噪音单词表示方法的步骤。