[发明专利]一种DNN分区方法及采用该方法的边缘计算架构和存储介质

权利要求书

1.一种DNN分区方法，其特征在于，包括以下步骤：

S1.根据DNN的每一层的计算类型和规模进行抽象，得到DNN的层次架构及总的层数；

S2.利用每秒浮点运算来表征设备和边缘服务器的浮点计算量和计算时间，结合DNN的层数来完成设备与边缘服务器基于DNN分区博弈的数学建模；

S3.以最小化所有设备的总响应时间为目标设计优化目标函数；

S4.基于DNN的分割层为所述设备设计效用函数；

S5.基于博弈论的建模方法，把每个设备看作独立的智能体，每个智能体的目标是通过选择分割层位置来最大化自身的效用函数。

2.根据权利要求1所述的DNN分区方法，其特征在于，在所述分割层以上的DNN部分在所述设备上执行；所述分割层以下的DNN部分在所述边缘服务器上执行。

3.根据权利要求1所述的DNN分区方法，其特征在于，在所述步骤S2中所述边缘服务器分配给所述设备的资源是独占的。

4.根据权利要求1所述的DNN分区方法，其特征在于，在所述步骤S5中，采用动态高效无嫉妒分区算法通过博弈论的建模方法，把每个所述设备看作独立的智能体，使每个所述智能体的目标是通过选择分层位置来最大化自身的效用函数。

5.根据权利要求4所述的DNN分区方法，其特征在于，在所述动态高效无嫉妒分区算法是分布式及增量式算法。

6.一种采用如权利要求1-5任意一项所述的DNN分区方法的边缘计算架构，包括设备和接入所述设备的边缘服务器；其特征在于，所述设备设置为执行器；所述边缘服务器设置为学习器：DNN被分割后分别部署在所述执行器和所述学习器上，通过两者协同完成推理任务；

所述学习器用于运行深层的网络来实现加速；

所述执行器用于执行分割后的一部分所述DNN，得到的输出张量输出给所述学习器。

7.根据权利要求6所述边缘计算架构，其特征在于，所述执行器包括：环境模块、模型模块和存储模块。

8.根据权利要求7所述边缘计算架构，其特征在于，所述学习器包括：模型模块和队列模块。

9.一种计算机可读存储介质，计算机可读存储介质存储有一个或者多个程序，一个或者多个程序可被一个或者多个处理器执行，以实现如上述权利要求1-5任意一项所述的DNN分区方法中的步骤。

10.基于上述权利要求1-5任意一项所述的DNN分区方法，本申请还提供一种终端设备，其特征在于，其包括至少一个处理器、显示屏，以及存储器，还包括通信接口和总线；其中，所述处理器、所述显示屏、所述存储器和所述通信接口通过所述总线完成相互间的通信；所述显示屏设置为显示初始设置模式中预设的用户引导界面；所述通信接口传输信息；所述处理器调用所述存储器中的逻辑指令，以执行上述权利要求1-5任意一项所述的DNN分区方法。