[发明专利]模型部署方法、装置、设备和介质

权利要求书

1.一种模型部署方法，其特征在于，所述方法包括：

获取人工智能芯片的芯片类型；

根据预设对应表中的第一对应关系，获取所述芯片类型对应的模型标识信息，所述第一对应关系用于表征各个芯片类型与模型标识信息的对应关系；

在软件开发工具包中查找得到所述模型标识信息所标识的模型，作为中间模型，所述软件开发工具包中包括多种中间模型和多种框架工具，所述中间模型由预先训练好的深度学习模型转化得到；

根据所述预设对应表中的第二对应关系，获取所述芯片类型对应的框架工具作为目标框架工具，所述第二对应关系用于表征各个芯片类型与框架工具的对应关系；

根据所述目标框架工具，将所述中间模型转换为所述芯片类型对应的二进制文件；

根据所述二进制文件，将所述深度学习模型部署至所述人工智能芯片中；

所述根据所述二进制文件，将所述深度学习模型部署至所述人工智能芯片中，包括：

获取所述人工智能芯片的应用逻辑，所述应用逻辑包括前处理、深度学习模型推理和后处理；

根据所述二进制文件和所述应用逻辑，编码得到可执行文件；

根据所述可执行文件，将所述深度学习模型部署至所述人工智能芯片中；

所述方法还包括：

根据预设对应表，在所述软件开发工具包中获取与所述芯片类型对应的目标调度框架，所述软件开发工具包括中包括有不同芯片类型对应的调度框架；

根据所述目标调度框架，调度所述人工智能芯片中的硬件以执行所述深度学习模型，所述硬件包括图形处理器、现场可编程逻辑门阵列和专用集成电路中的至少一种；

获取人工智能芯片的芯片类型，包括：

与承载所述人工智能芯片的设备进行远程通信，发送信息获取请求至所述设备以获取所述人工智能芯片的芯片类型，所述芯片类型与芯片生产厂家对应。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

每间隔预设更新时间周期，对所述预设对应表进行更新。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取至少两个预先训练好的深度学习模型，其中，不同的深度学习模型基于不同的深度学习框架开发得到；

将所述至少两个预先训练好的深度学习模型转换为所述中间模型；

将所述中间模型存储到软件开发工具包中。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述根据所述二进制文件，将所述深度学习模型部署至所述人工智能芯片中之后，所述方法还包括：

每间隔预设时间周期，确定部署至所述人工智能芯片的深度学习模型的准确度是否下降；

若所述准确度下降，则对所述深度学习模型进行更新。

5.根据权利要求4所述的方法，其特征在于，所述对所述深度学习模型进行更新，包括：

获取所述人工智能芯片的远程模型更新请求；

根据所述远程模型更新请求，部署新的深度学习模型至所述人工智能芯片中。

6.根据权利要求5所述的方法，其特征在于，所述根据所述远程模型更新请求，部署新的深度学习模型至所述人工智能芯片中，包括：

根据所述远程模型更新请求，获取训练数据，所述训练数据包括新增的样本图片；

根据所述训练数据，训练得到新的深度学习模型；

将所述新的深度学习模型通过空中下载技术部署至所述人工智能芯片中。

7.根据权利要求4所述的方法，其特征在于，所述确定部署至所述人工智能芯片的深度学习模型的准确度是否下降，包括：

接收用户反馈的提示信息，根据所述提示信息确定所述深度学习模型的准确度是否下降。

8.根据权利要求4所述的方法，其特征在于，所述确定部署至所述人工智能芯片的深度学习模型的准确度是否下降，包括：

获取样本数据，所述样本数据包括已标识的图片、已标识的视频中的至少一种；

获取所述深度学习模型对所述样本数据的预测结果；

根据所述预测结果，确定所述深度学习模型的准确度是否下降。