[发明专利]部署边缘AI和构建可视化AI编程平台的方法、装置及电子设备

权利要求书

1.一种部署边缘AI的方法，其特征在于，包括：

在可视化AI编程平台中通过模块化图形建模的方式确定AI任务部署的软硬件环境，所述软硬件环境由按任务、算法、硬件、部署框架、操作系统分类的实例化子模块共同确定，每个分类的实例化子模块包含所属的代码段及编译参数；

分析所述实例化子模块的拓扑连接关系，构建出目标软硬件环境下的可编译代码程序及编译环境，调用交叉编译工具生成SDK库文件；

构建在边缘计算设备中运行的可执行程序，以外部直采数据或者合成数据作为输入，经所述SDK库文件中的推理函数提供推理运算，得到推理结果；

将所述推理结果用于参与其它逻辑运算或者在显示设备上用图形化界面进行展示。

2.根据权利要求1所述的方法，其特征在于，

所述软硬件环境由任务层、算法层、硬件层、部署框架层和操作系统层多个分类维度来确定；

所述任务层包括计算机视觉、自然语言处理、语音及各垂类子任务；

所述算法层包括所述AI任务所使用的算法模型，根据部署硬件条件选择深度学习标准或者轻量级的模型算法或者传统的机器学习模型算法；

所述硬件层包括边缘计算平台的硬件选型，包括CPU/GPU/NPU/TPU硬件架构或者不同厂商的AI芯片产品；

所述部署框架层包括AI任务的部署框架；

所述操作系统层包括边缘设备操作系统的架构版本，以确定编译SDK包时需要调用的交叉编译工具链。

3.根据权利要求1所述的方法，其特征在于，所述分析所述实例化子模块的拓扑连接关系，包括：

分析所述可视化页面中所述实例化符号模块的拓扑连接关系，确定外部数据输入及各实例化符号模块的输入输出连接关系。

4.根据权利要求1所述的方法，其特征在于，所述以外部直采数据或者合成数据作为输入，经所述SDK库文件中的推理函数提供推理运算，得到推理结果，包括：

通过边缘装置采集图像、文字、语音数据作为输入数据；

设置合适的循环周期，将所述输入数据传递给所述推理函数，得到运算后输出的数据。

5.一种构建可视化AI编程平台的方法，其特征在于，包括：

对软硬件环境进行抽象化建模，形成多个功能模块，并按类别组织形成符号库；

通过用户界面交互操作，在可视化页面中完成所述符号库中图形化符号模块的实例化及配置，形成符号模块间连接的网络拓扑图；

进行数据流向分析，确定每个符号模块间的调用传参关系；

构建可编译的程序代码段，调用交叉编译工具编译生成SDK程序包。

6.根据权利要求5所述的方法，其特征在于，所述对软硬件环境进行抽象化建模，形成多个功能模块，并按类组织形成符号库，包括：

创建所述多个功能模块对应的图形化符号模块，并按软硬件环境类别分类组织形成符号库。

7.根据权利要求6所述的方法，其特征在于，所述功能模块包含所属的代码段、输入输出变量及编译参数信息。

8.根据权利要求6所述的方法，其特征在于，所述软硬件环境类别包括：任务、算法、硬件、部署框架、操作系统。

9.根据权利要求5所述的方法，其特征在于，基于所述图形化符号模块，在可视化页面中通过拖拽、拉线、属性编辑的交互操作完成所述软硬件环境的配置。

10.根据权利要求5所述的方法，其特征在于，还包括：

对所述网络拓扑图中的所述图形化符号模块间的输入输出数据流向进行拓扑分析，以确定每个实例化的符号模块的程序代码段的编译顺序。

11.根据权利要求5所述的方法，其特征在于，还包括：

对所述软硬件环境的配置进行逻辑校验，对不符合条件的配置进行提示；

在确认所述配置正确无误后，生成拓扑分析结果。