[发明专利]经由预测模型控制边缘设备上部署的深度学习模型的性能

说明书

示例系统包括处理器，处理器用于接收数据输入和来自预测模型的、部署在资源受限的边缘设备上的深度学习(DL)模型的预测性能。处理器将基于数据输入和预测性能来修改DL模型的控制输入。处理器将控制输入发送到部署的DL模型，以修改DL模型的性能。

技术领域

本技术涉及部署的深度学习(Deep Learning，DL)模型。更具体地说，该技术与控制部署的DL模型有关。

背景技术

随着物联网(IoT)和智能边缘设备的引入，机器学习模型(machine learning，ML)的整个生命周期规划可能包括数据收集和训练，以及部署和监控。

发明内容

根据本文描述的实施例，系统可以包括处理器，用于接收数据输入和来自预测模型的、部署在资源受限的边缘设备上的DL模型的预测性能。处理器还可以基于数据输入或DL模型的预测性能来进一步修改DL模型的控制输入。处理器还可以将控制输入发送到部署的DL模型，以修改DL模型的性能。

根据本文描述的另一实施例，一种方法可以包括经由处理器监控输入数据和来自预测模型的DL模型的预测性能。该方法还可以包括基于输入数据和DL模型的预测性能，经由处理器修改控制输入。该方法还可以进一步包括经由处理器将修改后的控制输入发送到DL模型。

根据本文描述的另一实施例，用于控制部署的DL模型的计算机程序产品可以包括其中含有程序代码的计算机可读存储介质。计算机可读存储介质不是瞬时信号本身。程序代码可由处理器执行，以使处理器监控输入数据和来自预测模型的DL模型的预测性能。程序代码还可以使处理器基于输入数据和DL模型的预测性能来修改控制输入。程序代码还可以使处理器将修改后的控制输入发送到DL模型。

附图说明

图1是用于经由预测模型控制部署的DL模型的示例系统的框图；

图2是用于训练预测模型以使其用于控制部署的DL模型的示例系统的框图；

图3是可以训练预测模型来控制部署的DL模型的示例方法的框图；

图4是可以经由预测模型控制部署的DL模型的示例方法的框图；

图5A是可以经由预测模型控制DL学习模型的示例计算设备的框图；

图5B是可以经由预测模型使用DL学习模型来控制的示例计算设备的框图；

图6是根据本文描述的实施例的示例云计算环境的过程流程图；

图7是根据本文描述的实施例的示例抽象模型层的过程流程图；

图8A是可以经由预测模型控制部署的DL模型的示例的有形非暂时性计算机可读介质；以及

图8B是可以存储要经由预测模型控制的部署的DL模型的示例的有形非瞬时性计算机可读介质。

具体实施方式

随着物联网(IoT)和智能边缘设备的引入，机器学习模型(ML)的整个生命周期规划可能包括数据收集和训练，以及部署和监控。将云之外的ML模型直接部署到移动应用程序中可能会面临支持多个平台、数百个芯片组和数十亿个安装的额外挑战。此外，在深度学习模型(DL)的情况下，与其他ML 模型相比，以运行时更高的计算成本或存储器消耗为代价获得了更高的性能。

此外，当将DL模型部署到移动设备中时，可以检测将使用移动应用程序的条件，并且可以相应地扩充训练数据。例如，模型可以实现对来自训练数据集的明亮图像的高准确度检测，但是在智能手机用户遇到的一些实际的弱光设置中可能表现不佳。响应于新的情况应用不同的数据扩充技术，可以提高生产中DL模型的性能。