[发明专利]部署边缘AI和构建可视化AI编程平台的方法、装置及电子设备

说明书

本申请提供一种部署边缘AI和构建可视化AI编程平台的方法、装置及电子设备，所述部署边缘AI的方法包括：在可视化AI编程平台中通过模块化图形建模的方式确定AI任务部署的软硬件环境，所述软硬件环境由按任务、算法、硬件、部署框架、操作系统分类的实例化子模块共同确定，每个分类的实例化子模块包含所属的代码段及编译参数；分析所述实例化子模块的拓扑连接关系，构建出目标软硬件环境下的可编译代码程序及编译环境，调用交叉编译工具生成SDK库文件；构建在边缘计算设备中运行的可执行程序，以外部直采数据或者合成数据作为输入，经所述SDK库文件中的推理函数提供推理运算，得到推理结果。开发人员可利用模块化、图形化的建模方式完成复杂的AI任务的部署应用流程，降低了AI落地应用的门槛，提升了开发人员的研发效率。

技术领域

本申请涉及可视化编程领域，具体涉及一种部署边缘AI和构建可视化AI编程平台的方法、装置及电子设备。

背景技术

随着人工智能逐渐普及，使用深度学习技术处理各项任务的需求越来越多，将人工智能与传统产业进行深度融合迫在眉睫。然而，随着AI算法及框架推陈出新速度越来越快、部署硬件芯片种类也越来越多，在运用AI技术解决具体问题时需要掌握大量AI领域的知识，对开发者素质要求也越来越高，这对中小企业来说需要投入大量的人力物力才能顺利完成AI任务的落地应用，限制了人工智能技术的推广。

发明内容

本申请旨在提供一种部署边缘AI和构建可视化AI编程平台的方法、装置及电子设备，通过可视化的边缘AI编程平台，交互操作简单、适配硬件广泛、部署应用灵活、易于集成，可帮助开发人员“零门槛”地在边缘端进行AI任务的部署，满足AI任务的快速落地应用需求，大大提升了开发人员的研发效率，取得了有益的效果。

根据本申请的一方面，提出一种部署边缘AI的方法，包括：

在可视化AI编程平台中通过模块化图形建模的方式确定AI任务部署的软硬件环境，所述软硬件环境由按任务、算法、硬件、部署框架、操作系统分类的实例化子模块共同确定，每个分类的实例化子模块包含所属的代码段及编译参数；

分析所述实例化子模块的拓扑连接关系，构建出目标软硬件环境下的可编译代码程序及编译环境，调用交叉编译工具生成SDK库文件；

构建在边缘计算设备中运行的可执行程序，以外部直采数据或者合成数据作为输入，经所述SDK库文件中的推理函数提供推理运算，得到推理结果；

将所述推理结果用于参与其它逻辑运算或者在显示设备上用图形化界面进行展示。

根据一些实施例，所述方法包括：

所述软硬件环境由任务层、算法层、硬件层、部署框架层和操作系统层多个分类维度来确定；

所述任务层包括计算机视觉、自然语言处理、语音及各垂类子任务；

所述算法层包括所述AI任务所使用的算法模型，根据部署硬件条件选择深度学习标准或者轻量级的模型算法或者传统的机器学习模型算法；

所述硬件层包括边缘计算平台的硬件选型，包括CPU/GPU/NPU/TPU硬件架构或者不同厂商的AI芯片产品；

所述部署框架层包括AI任务的部署框架；

所述操作系统层包括边缘设备操作系统的架构版本，以确定编译SDK包时需要调用的交叉编译工具链。

根据一些实施例，所述方法包括：

所述分析所述实例化子模块的拓扑连接关系，包括：

分析所述可视化页面中所述实例化符号模块的拓扑连接关系，确定外部数据输入及各实例化符号模块的输入输出连接关系。

根据一些实施例，所述方法包括：