[发明专利]音乐神经网络模型预训练方法及电子设备和存储介质

说明书

本申请公开了一种音乐神经网络模型预训练方法、电子设备和存储介质，该方法包括：对原始音频特征向量中的待掩码特征子向量进行掩码处理得到掩码特征子向量，并将原始音频特征向量中的待掩码特征子向量替换为掩码特征子向量；将掩码特征向量输入待训练神经网络中预测预测音频特征子向量；对待掩码特征子向量中的原始音频特征进行离散化处理得到离散化待掩码特征子向量，并将离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量；基于预测音频特征子向量和拼接音频特征向量构建损失函数，调整待训练神经网络中的参数直至损失函数收敛，得到预训练完成的音乐神经网络模型，提高了下游任务中神经网络模型的训练速度和性能。

技术领域

本申请涉及音乐技术领域，更具体地说，涉及音乐神经网络模型预训练方法及电子设备和计算机可读存储介质。

背景技术

对于音乐领域的神经网络模型，在相关技术中，基于原始音频进行预训练，即将原始音频转化为频谱，对部分频谱进行掩码，然后通过编码器-解码器的方法对被掩码音频进行预测，进而进行神经网络模型的预训练。编码器-解码器的目的在于重建被掩码掉的音频，但是在下游任务中，如分类任务中，模型通常不需要音频的全部信息来进行预测，基于上述方式预训练完成的神经网络模型进行训练，影响训练速度和训练完成的神经网络模型的性能较差。

因此，如何提高下游任务中神经网络模型训练的速度和训练完成的神经网络模型的性能是本领域技术人员需要解决的技术问题。

发明内容

本申请的目的在于提供一种音乐神经网络模型预训练方法及一种电子设备和一种计算机可读存储介质，提高了下游任务中神经网络模型训练的速度和训练完成的神经网络模型的性能。

为实现上述目的，本申请第一方面提供了一种音乐神经网络模型预训练方法，包括：

获取原始音频特征向量，对所述原始音频特征向量中的待掩码特征子向量进行掩码处理得到掩码特征子向量，并将所述原始音频特征向量中的待掩码特征子向量替换为所述掩码特征子向量；

将所述掩码特征向量输入待训练神经网络中，以预测所述掩码特征子向量对应的预测音频特征子向量；

对所述待掩码特征子向量中的原始音频特征进行离散化处理得到离散化待掩码特征子向量，并将所述离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量；

基于所述预测音频特征子向量和所述拼接音频特征向量构建损失函数，并基于所述损失函数的当前值调整所述待训练神经网络中的参数，直至所述损失函数收敛，得到预训练完成的音乐神经网络模型。

为实现上述目的，本申请第二方面提供了一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如上述音乐神经网络模型预训练方法的步骤。

为实现上述目的，本申请第三方面提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述音乐神经网络模型预训练方法的步骤。

通过以上方案可知，本申请提供的一种音乐神经网络模型预训练方法，包括：获取原始音频特征向量，对所述原始音频特征向量中的待掩码特征子向量进行掩码处理得到掩码特征子向量，并将所述原始音频特征向量中的待掩码特征子向量替换为所述掩码特征子向量；将所述掩码特征向量输入待训练神经网络中，以预测所述掩码特征子向量对应的预测音频特征子向量；对所述待掩码特征子向量中的原始音频特征进行离散化处理得到离散化待掩码特征子向量，并将所述离散化待掩码特征子向量作为正样本与多个负样本进行拼接得到拼接音频特征向量；基于所述预测音频特征子向量和所述拼接音频特征向量构建损失函数，并基于所述损失函数的当前值调整所述待训练神经网络中的参数，直至所述损失函数收敛，得到预训练完成的音乐神经网络模型。