[发明专利]用于灵活机器学习的包装和部署算法

说明书

描述了使用利用容器的评分算法来进行灵活的机器学习推断的技术。在一些实施方案中，接收到代表用户在服务提供商网络内托管机器学习(ML)模型的请求，所述请求识别端点以使用所述ML模型执行评分。端点基于容器镜像被初始化为在虚拟机上运行的容器，并且用于对数据进行评分并将所述评分的结果返回给用户装置。

相关申请的交叉引用

本申请要求2018年6月6日提交的美国非临时申请号16/001,548和2017年11月22日提交的美国临时申请号62/590,242的权益，所述申请通过引用的方式并入本文。

背景技术

计算装置可以利用通信网络来交换数据。公司和组织操作互连许多计算装置的计算机网络来支持运营或者向第三方提供服务。计算系统可以位于单个地理位置或位于多个不同的地理位置(例如，经由私有或公共通信网络互连)。具体而言，本文统称为“数据中心”的数据中心或数据处理中心可以包括多个互连的计算系统以向数据中心的用户提供计算资源。为了促进数据中心资源的加大利用，虚拟化技术允许单个物理计算装置托管虚拟机的一个或多个实例，所述虚拟机作为独立计算装置向数据中心的用户展现并操作。

附图说明

将参考附图描述根据本公开的各种实施方案，在附图中：

图1是在一些实施方案中的在其中训练和托管机器学习模型的说明性操作环境的框图。

图2是根据一些实施方案的示出了由操作环境的部件执行以训练机器学习模型的操作的图1的操作环境的框图。

图3是根据一些实施方案的示出了由操作环境的部件执行以修改机器学习模型训练的操作的图1的操作环境的框图。

图4是根据一些实施方案的示出了由操作环境的部件执行以并行化机器学习模型训练过程的操作的图1的操作环境的框图。

图5A是根据一些实施方案的示出了由操作环境的部件执行以部署经训练的机器学习模型的操作的图1的操作环境的框图。

图5B是根据一些实施方案的示出了由操作环境的部件执行以执行经训练的机器学习模型的操作的图1的操作环境的框图。

图6是根据一些实施方案的示出了由操作环境的部件执行以执行相关的机器学习模型的操作的图1的操作环境的框图。

图7是根据一些实施方案的描绘了由模型训练系统说明性地实施的机器学习模型训练例程的流程图。

图8描绘了根据本申请的说明性模型系统的架构的一些实施方案，所述说明性模型系统诸如模型训练系统和模型托管系统，其训练和/或托管机器学习模型。

图9描绘了根据本申请的可以接收数据、准备数据、向模型训练系统传送训练请求以及向模型托管系统传送部署和/或执行请求的说明性终端用户装置的架构的一些实施方案。

图10示出了根据至少一些实施方案的示例性提供商网络环境。

图11是根据一些实施方案的向客户提供存储虚拟化服务和硬件虚拟化服务的示例性提供商网络的框图。

图12示出了根据各种实施方案的用于实施各方面的环境的示例。

具体实施方式

用于使用容器来进行灵活机器学习的包装和部署算法的方法、设备、系统和非暂时性计算机可读存储介质的各个实施方案。在一些实施方案中，用户可以创建或利用遵守提供商网络的规范的相对简单的容器，其中所述容器包括用于如何训练和/或执行机器学习模型的代码。提供商网络可以使用容器自动训练模型和/或托管模型。容器可以使用多种算法，并且可以使用多种类型的语言、库、数据类型等。因此，用户可以在了解极少的关于整体训练和/或托管实际上如何执行的情况下简单地执行机器学习训练和托管。