[发明专利]用于人工智能AI的处理方法、装置、电子设备和存储介质

说明书

本申请公开了一种用于算子服务的处理方法，涉及人工智能技术领域，可用于机器学习和深度学习、云计算和云平台、计算机视觉、自然语言处理、语音交互等领域。具体实现方案为：响应于接收到算子注册请求，针对算子注册请求所请求注册的AI模块或AI算子服务进行算力预测，以得到算力预测结果；基于算力预测结果，确定AI模块或AI算子服务所需要的算力配额；在AI系统中保存AI模块或AI算子服务并记录注册信息，其中注册信息包括算力配额。

技术领域

本申请涉及人工智能技术领域，可用于云计算和云平台等领域，更具体地，涉及一种用于人工智能AI的处理方法、装置、电子设备和存储介质。

背景技术

随着人工智能技术的不断发展，人工智能服务开始向各行业渗透。例如，各行业开始在各个环节引入人工智能服务，导致人工智能服务的创新快速呈现碎片化、场景化的趋势。

发明内容

本申请提供了一种用于人工智能AI的处理方法、装置、电子设备和存储介质。

根据第一方面，提供了一种用于人工智能AI的处理方法，包括：响应于接收到算子注册请求，针对上述算子注册请求所请求注册的AI模块或AI算子服务进行算力预测，以得到算力预测结果；基于上述算力预测结果，确定上述AI模块或上述AI算子服务所需要的算力配额；在AI系统中保存上述AI模块或上述AI算子服务并记录注册信息，其中上述注册信息包括上述算力配额。

根据第二方面，提供了一种用于人工智能AI的处理装置，包括：预测模块，用于响应于接收到算子注册请求，针对上述算子注册请求所请求注册的AI模块或AI算子服务进行算力预测，以得到算力预测结果；确定模块，用于基于上述算力预测结果，确定上述AI模块或上述AI算子服务所需要的算力配额；保存模块，用于在AI系统中保存上述AI模块或上述AI算子服务并记录注册信息，其中上述注册信息包括上述算力配额。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器；其中，上述存储器存储有可被上述至少一个处理器执行的指令，上述指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行本申请实施例的方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，包括：上述计算机指令用于使上述计算机执行本申请实施例的方法。

根据本申请实施例提供的技术方案，不仅可以共享算子服务，而且注册时可以测评并登记算子服务的算力配额，因而部署算子服务时可以做到有据可依，进而提高资源效率。

应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1A示例性示出了根据本申请实施例的系统架构；

图1B示例性示出了根据本申请实施例的应用场景；

图1C示例性示出了根据本申请实施例的智能工作站的框图；

图2A示例性示出了根据本申请实施例的用于工作流的处理方法的流程图；

图2B和图2C示例性示出了根据本申请实施例的人脸识别应用和人脸识别工作流的示意图；

图2D示例性示出了根据本申请实施例的AI系统的工作原理图；

图3A示例性示出了根据本申请实施例的用于业务应用的处理方法的流程图；

图3B示例性示出了根据本申请实施例的将多个应用实例合并成一个业务任务的示意图；

图3C示例性示出了根据本申请实施例的批量处理多个应用实例的原理图；