[发明专利]多集群式人工智能在线服务方法及系统

说明书

本发明公开了一种多集群式人工智能在线服务方法及系统，所述方法通过获取用户提交的目标作业请求及目标作业，对所述目标作业进行分析，确定所述目标作业的作业运行模式；根据所述作业运行模式确定所述目标作业对应的目标作业集群，以及执行所述目标作业需要的目标网关组件或目标容器；在所述目标作业集群中通过所述目标网关组件或目标容器执行所述目标作业，获得处理结果并进行反馈，能够在因安全等各种需求而规划的多集群部署环境中部署人工智能在线服务，并对最终用户透明；并在人工智能在线服务中便捷高效地接入外部集群资源，实现了跨集群的安全访问。

技术领域

本发明涉及分布式系统领域，尤其涉及一种多集群式人工智能在线服务方法及系统。

背景技术

近年来，人工智能技术高速发展，并已被诸多行业广泛应用；以在线服务方式提供人工智能技术，是技术落地和支撑应用的重要途径；人工智能服务的在线服务方式既包括公有云、私有云、混合云等云计算模式，也包括传统的局域网内自建服务模式。

在多集群环境下运行人工智能在线服务有明确的业务需求；然而，人工智能业务及多集群式在线服务环境各自的特点又为这类服务的高效、安全实现带来了一些问题：人工智能在线服务需要支持批处理和微服务两大类作业运行模式，以及非实时web界面交互、实时web界面交互、编程访问API等多种交互模式；不同交互模式具有各自的技术特点，它们对服务软件架构及通信组件的需求也各不相同；在多集群服务软件设计时，难以通过一套简单的机制统一管理；而且，在多集群环境下，各个集群的网络之间通常不能自由访问，而要受到一定的规则约束，包括入出站IP范围约束、协议约束、端口约束、连接持久性约束等；并且，混合云相比一般的多集群环境，还涉及到其他的跨管理域的安全性问题以及多套用户认证机制共存问题。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种多集群式人工智能在线服务方法及系统，旨在解决现有技术中人工智能作业类型多，与外部交互模式的差异大，且存在权限约束，设计复杂的技术问题。

为实现上述目的，本发明提供一种多集群式人工智能在线服务方法，所述多集群式人工智能在线服务方法包括以下步骤：

获取用户提交的目标作业请求及目标作业，对所述目标作业进行分析，确定所述目标作业的作业运行模式；

根据所述作业运行模式确定所述目标作业对应的目标作业集群，以及执行所述目标作业需要的目标网关组件或目标容器；

在所述目标作业集群中通过所述目标网关组件或目标容器执行所述目标作业，获得处理结果并进行反馈。

优选地，所述获取用户提交的目标作业请求及目标作业，对所述目标作业进行分析，确定所述目标作业的作业运行模式，包括：

获取用户提交的目标作业请求及目标作业，对所述目标作业进行分析，获得所述目标作业对应的状态查询信息和运行日志查询信息；

响应于所述状态查询信息和所述运行日志查询信息，接收从本地业务系统获得的所述目标作业的作业运行模式。

优选地，所述获取用户提交的目标作业请求及目标作业，对所述目标作业进行分析，获得所述目标作业对应的状态查询信息和运行日志查询信息，包括：

获取用户提交的目标作业请求及目标作业；

响应于所述目标作业请求在预设日志存储服务文件系统中查询与所述目标作业对应的目标文件存储目录；

根据所述目标文件存储目录获取所述目标作业对应的状态查询信息和运行日志查询信息。

优选地，所述获取用户提交的目标作业请求及目标作业的步骤之后，所述多集群式人工智能在线服务方法还包括：