[发明专利]一种深度学习多模型统一部署方法与装置

权利要求书

1.一种深度学习多模型统一部署方法，其特征在于，包括：

根据用户在网管上的设置生成预测描述文件；

下载预测描述文件和对应的模型元文件到智能计算单盘；

根据所述预测描述文件和对应的模型元文件，在所述智能计算单盘上在预设时间完成对应的用户预测和上报。

2.如权利要求1所述的深度学习多模型统一部署方法，其特征在于，所述根据用户在网管上的设置生成预测描述文件，具体为：

网管上模型仓库展示给用户后，用户输入具体的参数，生成模型描述的实例即预测描述文件，预测描述belong字段是用户输入后的具体线路号或者单盘槽位，并设置预测开始时间和预测间隔字段，同一个模型描述填入不同的belong和时间就是不同的实例化；当模型描述的输入是其他模型的输出，则还需完成被依赖模型的设置与实例化。

3.如权利要求1或2所述的深度学习多模型统一部署方法，其特征在于，所述模型元文件由深度学习模型在远程服务器使用历史样本数据训练得到，深度学习模型包括张量计算连接的计算图和待训练参数，使用这些神经网络计算单元按层次连接成模型的张量计算图，每个计算单元内部的待训练参数是随机的，历史样本数据输入到计算图，经过收敛训练得到模型所有计算单元参数即模型的参数，模型元文件是由计算图和参数组成。

4.如权利要求1或2所述的深度学习多模型统一部署方法，其特征在于，所述下载模型元文件具体为：

S201、网管通过网管-业务盘通信通道告知边缘智能计算单盘上的模型部署平台将要下载的模型元文件名称；

S202、提取S201消息中模型元文件输出标签和md5，并检索本地模型元文件存储，如果存在元文件输出标签但是md5不同，表示该模型准备更新；如果不存在元文件输出标签表示模型不存在；

S203、对于本地不存在或者需要更新模型元文件，向网管返回需要下载模型元文件，否则返回不需要下载文件；

S204、如果S203返回需要下载元文件，开始文件传输；

S205、智能计算单盘存储元文件或者更新已存在模型到永久存储介质，并返回文件存储或者更新结果。

5.如权利要求1或2所述的深度学习多模型统一部署方法，其特征在于，所述下载预测描述文件具体为：

S301、网管通过文件下载通道向边缘智能计算单盘下载预测描述文件；

S302、模型部署平台缓存预测描述文件；

S303、根据预测描述文件命名的MD5校验下载结果，并返回结果；

S304、使用缓存的预测描述文件的模型输出标签检索本地存储的预测描述文件，然后对使用相同模型的预测描述文件比较具体的belong和predict_interval参数，得到当前预测描述是否已存在；

S305、如果预测描述不存在，则将缓存的预测描述存入本地预测描述永久存储介质。

6.如权利要求1或2所述的深度学习多模型统一部署方法，其特征在于，在下载预测描述文件和对应的模型元文件到智能计算单盘之后，还包括将模型元文件与预测描述文件加载到内存：将模型元文件和预测描述文件更新到模型计算图链表和预测描述链表，这两个链表启动初始化为两个空链表，然后遍历本地存储的模型元文件和预测描述文件，根据用户设置的预测描述，多次循环执行更新流程完成多个模型元文件和预测描述文件加载到内存，形成两个互相引用的初始链表；每个链表节点引用一个模型计算图，一个模型计算图可被多个用户预测引用。