[发明专利]蒸馏系统的训练方法、装置、设备及存储介质

说明书

本申请公开了蒸馏系统的训练方法、装置、设备及存储介质，涉及深度学习、云计算、图像处理和自然语言处理等人工智能技术领域。具体实现方案为：获取第一终端设备发送的蒸馏训练请求，其中，所述蒸馏训练请求包括训练样本集和教师资源的目标类型；根据所述目标类型获取与所述教师资源对应的目标教师模型；将所述训练样本集输入至所述目标教师模型，生成目标训练结果，并将所述目标训练结果发送至所述第一终端设备，以使所述第一终端设备根据所述训练样本集和所述目标训练结果训练学生模型，有效提高蒸馏系统的计算效率。

技术领域

本申请涉及数据处理技术领域，具体涉及深度学习、云计算、图像处理和自然语言处理等人工智能技术领域，尤其涉及蒸馏系统的训练方法、装置、设备及存储介质。

背景技术

知识蒸馏系统，通常是将教师模型和学生模型放置于一个大的神经网络中，教师模型只计算前向的结果而不做反向更新，学生模型通过教师模型提供的信号进行训练。

发明内容

本申请提供了一种用于蒸馏系统的训练方法、装置、设备及存储介质。

根据本申请的一方面，提供了一种蒸馏系统的训练方法，包括：获取第一终端设备发送的蒸馏训练请求，其中，所述蒸馏训练请求包括训练样本集和教师资源的目标类型；

根据所述目标类型获取与所述教师资源对应的目标教师模型；

将所述训练样本集输入至所述目标教师模型，生成目标训练结果，并将所述目标训练结果发送至所述第一终端设备，以使所述第一终端设备根据所述训练样本集和所述目标训练结果训练学生模型。

根据本申请的另一方面，提供了一种蒸馏系统的训练装置，包括：获取模块，用于获取第一终端设备发送的蒸馏训练请求，其中，所述蒸馏训练请求包括训练样本集和教师资源的目标类型；

识别模块，用于根据所述目标类型获取与所述教师资源对应的目标教师模型；

训练模块，用于将所述训练样本集输入至所述目标教师模型，生成目标训练结果，并将所述目标训练结果发送至所述第一终端设备，以使所述第一终端设备根据所述训练样本集和所述目标训练结果训练学生模型。

根据本申请的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请的蒸馏系统的训练方法。

根据本申请的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本申请实施例公开的电子设备的蒸馏系统的训练方法。

应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是根据本申请第一个实施例的蒸馏系统的训练方法的流程图；

图2是根据本申请第二个实施例的蒸馏系统的训练方法的流程图；

图3是根据本申请第二个实施例的蒸馏系统的结构示意图；

图4是根据本申请第三个实施例的蒸馏系统的训练方法的流程图；

图5是根据本申请实施例的蒸馏系统的训练装置的方框示意图；

图6是用来实现本申请实施例的蒸馏系统的训练方法的电子设备的框图。

具体实施方式