[发明专利]一种混合架构的深度学习方法及装置

摘要

本发明公开了一种混合架构的深度学习方法及装置，其特征是包括如下步骤：训练数据集更新时，训练模块重新进行深度学习网络模型训练并存储权值和偏置参数；服务器端监测进程监测到参数文件变化，将其封装到预先设定的数据结构中并通知推理模块；推理模块中断推理服务，从服务器侧读取权值和偏置文件内容并更新网络模型；服务器端监测进程同时处理需要推理的输入文件并通知推理模块；该系统装置包括服务器、训练模块、推理模块、总线接口；本发明的训练和推理混合CPU+GPU+CAPI异构深度学习系统，能充分利用资源，获得更高的能效比，实现CAPI直接访问服务器内存，实时在线迭代更新推理模型权值等参数。

主权项

一种混合架构的深度学习系统方法，用于实现对深度学习训练和推理，其特征在于：包括如下步骤：S1，训练数据集有更新变化，训练模块重新进行深度学习网络模型训练，结束后，网络模型的权值和偏置参数存储至预先设定的文件；S2，服务器端监测进程监测到参数文件变化，将权值和偏置参数存储空间的虚拟地址、长度信息封装到预先设定的数据结构中，并通知推理模块；S3，推理模块中断推理服务，通过总线接口从服务器侧读取权值和偏置文件内容，并更新网络模型；S4，服务器端监测进程同时处理需要推理的输入文件，并通知推理模块，推理模块完成后将结果返回到服务端监测进程。