[发明专利]用于灵活机器学习的包装和部署算法

权利要求书

1.一种计算机实施的方法，其包括：

接收代表用户在服务提供商网络内托管机器学习(ML)模型的请求，所述请求识别要使用所述ML模型执行评分的端点；

基于容器镜像将所述端点初始化为在虚拟机上运行的容器；

向所述容器提供评分数据并且执行所述容器；以及

将结果返回给用户装置。

2.如权利要求1所述的计算机实施的方法，其中所述请求识别包括评分算法代码的所述容器镜像的位置。

3.如权利要求1所述的计算机实施的方法，其中容器还包括运行时。

4.如权利要求1至3中任一项所述的计算机实施的方法，其还包括：

使用训练数据、由所述请求所提供的训练数据集的位置来训练所述ML模型。

5.如权利要求4所述的计算机实施的方法，其中训练所述ML模型还包括：

将所述训练数据作为所述容器中第二本地目录中的一个或多个文件或作为所述容器内可访问的一个或多个输入流提供给所述容器。

6.如权利要求4所述的计算机实施的方法，其中所述请求识别要用于训练所述ML模型的一个或多个超参数，并且所述训练所述ML模型还包括将所述一个或多个超参数作为所述容器中第三本地目录中的一个或多个文件提供给所述容器。

7.如权利要求1至6中任一项所述的计算机实施的方法，其中所述端点将在图形处理单元上执行。

8.如权利要求1至7中任一项所述的计算机实施的方法，其中所述服务提供商网络的前端将接收所述请求并提供所述结果。

9.如权利要求8所述的计算机实施的方法，其中所述请求和所述结果是使用超文本传输协议(HTTP)消息来传输的。

10.如权利要求9所述的计算机实施的方法，其中所述端点是HTTP端点。

11.如权利要求1至10中任一项所述的计算机实施的方法，其中所述结果是经由数据存储库返回给所述用户装置的。

12.一种系统，其包括：

由第一一个或多个电子装置实施的存储服务；以及

由第二一个或多个电子装置实施的机器学习服务，所述机器学习服务包括在执行时使所述机器学习服务执行以下操作的指令：

接收代表用户在服务提供商网络内托管机器学习(ML)模型的请求，所述请求识别要使用所述ML模型执行评分的端点；

基于容器镜像将所述端点初始化为在虚拟机上运行的容器；以及

将评分数据提供给所述容器并执行所述容器；以及

将结果返回给用户装置。

13.如权利要求12所述的系统，其中所述请求识别包括评分算法代码的所述容器镜像的位置，并且所述指令还使所述机器学习服务基于所述容器镜像来执行所述容器。

14.如权利要求12至13中任一项所述的系统，其中所述指令还将使所述机器学习服务使用训练数据来训练所述ML模型，其中所述训练数据的位置由所述请求提供。

15.如权利要求12至14中任一项所述的系统，其中所述请求将识别要用于训练所述ML模型的一个或多个超参数，并且所述机器学习服务将为了训练所述ML模型把所述一个或多个超参数作为所述容器中第三本地目录中的一个或多个文件提供给所述容器。