[发明专利]音乐神经网络模型预训练方法及电子设备和存储介质

权利要求书

1.一种音乐神经网络模型预训练方法，其特征在于，包括：

获取原始音频特征向量，对所述原始音频特征向量中的待掩码特征子向量进行掩码处理得到掩码特征子向量，并将所述原始音频特征向量中的待掩码特征子向量替换为所述掩码特征子向量；

将所述掩码特征子向量输入待训练神经网络中，以预测所述掩码特征子向量对应的预测音频特征子向量；

对所述待掩码特征子向量中的原始音频特征进行离散化处理得到离散化待掩码特征子向量，并将所述离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量；

基于所述预测音频特征子向量和所述拼接音频特征向量构建损失函数，并基于所述损失函数的当前值调整所述待训练神经网络中的参数，直至所述损失函数收敛，得到预训练完成的音乐神经网络模型；

其中，对所述待掩码特征子向量中的原始音频特征进行离散化处理得到离散化待掩码特征子向量，包括：

基于预设分类规则生成目标维度的离散化向量表；其中，所述目标维度为所述待掩码特征子向量中原始音频特征的维度；

基于所述预设分类规则确定所述待掩码特征子向量中每个原始音频特征对应的类别，以生成所述待掩码特征子向量对应的类别向量；

将所述类别向量与所述离散化向量表的乘积确定为离散化待掩码特征子向量。

2.根据权利要求1所述音乐神经网络模型预训练方法，其特征在于，对所述原始音频特征向量中的待掩码特征子向量进行掩码处理得到掩码特征子向量，包括：

基于预设概率分布和预设长度确定掩码特征数量，并在所述原始音频特征向量中确定待掩码特征子向量；其中，所述待掩码特征子向量中包含的原始音频特征的数量为所述掩码特征数量；

对所述待掩码特征子向量进行掩码处理得到掩码特征子向量。

3.根据权利要求1所述音乐神经网络模型预训练方法，其特征在于，所述基于所述预设分类规则确定所述待掩码特征子向量中每个原始音频特征对应的类别，以生成所述待掩码特征子向量对应的类别向量，包括：

利用全连接层基于预设分类规则确定所述待掩码特征子向量中每个原始音频特征对应的类别，以生成所述待掩码特征子向量对应的one hot向量。

4.根据权利要求3所述音乐神经网络模型预训练方法，其特征在于，所述利用全连接层确定所述原始音频特征的类别之后，还包括：

基于所述全连接层输出的类别对应的概率计算类别熵；

相应的，所述基于所述损失函数的当前值调整所述待训练神经网络中的参数，包括：

基于所述损失函数的当前值和所述类别熵调整所述待训练神经网络中的参数。

5.根据权利要求1所述音乐神经网络模型预训练方法，其特征在于，将所述离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量之前，还包括：

在所述原始音频特征向量中未被掩码的原始音频特征中选取负样本。

6.根据权利要求1所述音乐神经网络模型预训练方法，其特征在于，所述基于预设分类规则生成目标维度的离散化向量表，包括：

基于预设分类规则生成多组目标维度的离散化向量表；

相应的，将所述类别向量与所述离散化向量表的乘积确定为离散化待掩码特征子向量，包括：

在多组目标维度的离散化向量表中确定目标离散化向量表，将所述类别向量与所述目标离散化向量表的乘积确定为离散化待掩码特征子向量；

相应的，将所述离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量之前，还包括：

在除所述目标离散化向量表之外的离散化向量表中选取负样本。

7.根据权利要求1所述音乐神经网络模型预训练方法，其特征在于，所述基于所述预测音频特征和所述拼接音频特征构建损失函数，包括：

基于所述预测音频特征与所述拼接音频特征之间的余弦距离构建损失函数。