[发明专利]用户代码运行方法及装置、电子设备和存储介质在审
申请号: | 202111205652.5 | 申请日: | 2021-10-15 |
公开(公告)号: | CN113905083A | 公开(公告)日: | 2022-01-07 |
发明(设计)人: | 张宁;杨子骁;邹雨竹 | 申请(专利权)人: | 上海商汤临港智能科技有限公司 |
主分类号: | H04L67/141 | 分类号: | H04L67/141;H04L67/143;H04L67/1023;H04L12/66 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 200232 上海市自由贸易试验区临港*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用户 代码 运行 方法 装置 电子设备 存储 介质 | ||
本公开涉及一种用户代码运行方法及装置、电子设备和存储介质,所述方法包括:网关响应于接收到用户终端的连接请求,确定用户终端所属的租户,以及租户对应的计算集群,并建立计算集群中的目标计算节点与用户终端的连接,将用户终端发出的用户代码发送至目标计算节点,再将目标计算节点对用户代码的运行结果反馈至用户终端。本公开实施例能够支持以租户为粒度的计算资源隔离,每个租户可对应一个计算集群,根据每一用户终端发送的连接请求,网关可灵活地为每一用户终端匹配合适的目标计算节点,使用户终端与对应的计算集群中的目标计算节点直连,节省了用户代码运行所需的硬件资源,提高了用户代码运行效率。
技术领域
本公开涉及计算机技术领域,尤其涉及一种用户代码运行方法及装置、电子设备和存储介质。
背景技术
随着人工智能的快速发展,各种依赖于代码运行的系统也应运而生。不仅代码越来越多样化,而且对系统可以提供的功能提出越来越高的要求。
相关技术中,一般用于用户代码运行的在线编程平台,会为每个用户创建并维护一个独立的代码运行环境,例如Kernel(即可以在浏览器上间接运行代码的环境),该运行环境有自己独立的运行空间,包括内存、磁盘、处理器等。然而,面对日益复杂的代码,在线编程教育平台所需的服务器成本开销激增,资源利用率不够高,难以推广和普及,很难适应未来的公有云的架构。
发明内容
本公开提出了一种用户代码运行方案。
根据本公开的一方面,提供了一种用户代码运行方法,所述方法应用于网关,所述方法包括:响应于接收到用户终端的连接请求,根据所述连接请求,确定所述用户终端所属的租户,以及所述租户对应的计算集群,所述计算集群包括至少一个计算节点;建立所述计算集群中的目标计算节点与所述用户终端的连接;将所述用户终端发出的用户代码发送至所述目标计算节点;将所述目标计算节点对所述用户代码的运行结果反馈至所述用户终端。
在一种可能的实现方式中,建立所述计算集群中的目标计算节点与所述用户终端的连接,包括:根据负载均衡策略,从所述用户终端所属的租户对应的计算集群中,选取所述目标计算节点;建立所述目标计算节点与所述用户终端的连接。
在一种可能的实现方式中,所述至少一个计算节点被部署于不同配置的服务器,建立所述计算集群中的目标计算节点与所述用户终端的连接,包括:根据所述用户终端的所述连接请求,确定所述用户代码需要的算力资源;根据所述算力资源,从所述不同配置的服务器中,确定支持所述算力资源的目标服务器;建立所述目标服务器对应的目标计算节点与所述用户终端的连接。
在一种可能的实现方式中,所述方法还包括:在将所述目标计算节点对所述用户代码的运行结果反馈至所述用户终端之后,断开所述计算集群中的目标计算节点与所述用户终端的连接。
根据本公开的一方面,提供了一种用户代码运行方法,所述方法应用于服务器,所述服务器部署有至少一个计算集群,一个计算集群包括至少一个计算节点,所述方法包括:通过网关建立与用户终端的连接,所述计算节点为所述用户终端所属的租户对应的计算集群中的至少一个计算节点中的目标计算节点;通过所述网关接收所述用户终端发出的用户代码;对所述用户代码进行运行,得到运行结果;将所述运行结果通过所述网关反馈至所述用户终端。
在一种可能的实现方式中,对所述用户代码进行运行,得到运行结果,包括:将所述用户代码作为运行任务放置于任务队列中;从所述任务队列中获取所述运行任务;执行所述运行任务,得到所述运行结果。
在一种可能的实现方式中,所述计算节点包括服务执行环境和代码执行环境,对所述用户代码进行运行,得到运行结果,包括:在所述服务执行环境中,将所述用户代码作为运行任务放置于所述任务队列中,并从所述任务队列中获取所述运行任务;在所述代码执行环境中,执行所述运行任务,得到所述运行结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海商汤临港智能科技有限公司,未经上海商汤临港智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111205652.5/2.html,转载请声明来源钻瓜专利网。