[发明专利]用于处理任务的方法和装置在审
申请号: | 201710539626.3 | 申请日: | 2017-07-04 |
公开(公告)号: | CN107343000A | 公开(公告)日: | 2017-11-10 |
发明(设计)人: | 王倩;周恺;张发恩;肖远昊;徐东泽;许天涵;孙家元;刘岚;刘昆 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | H04L29/06 | 分类号: | H04L29/06;H04L29/08;G06N99/00 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司11204 | 代理人: | 王达佐,马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 处理 任务 方法 装置 | ||
1.一种用于处理任务的方法,其特征在于,所述方法包括:
接收客户端通过预先建立的网络通道发送的任务描述信息,其中,所述任务描述信息包括待执行脚本的存储地址和用于选取深度学习框架的选取信息,其中,所述客户端与部署有分布式存储系统的存储服务器集群通信连接,所述待执行脚本包括源数据信息,所述源数据信息用于指示源数据在所述分布式存储系统中的存储地址;
基于所述任务描述信息通过所述网络通道获取待执行脚本和源数据;
根据所述选取信息从预先设置的至少一个深度学习框架中选取待用深度学习框架;
利用获取的源数据、待执行脚本以及所述待用深度学习框架执行任务,得到任务执行结果。
2.根据权利要求1所述的方法,其特征在于,所述待执行脚本包括用于指示目的地地址的存储指示信息,其中,所述目的地地址是所述分布式存储系统中的、用于存储任务执行结果的地址;以及
所述方法还包括:
根据所述待执行脚本的存储指示信息,将得到的任务执行结果通过所述网络通道发送到所述分布式存储系统。
3.根据权利要求1所述的方法,其特征在于,所述基于所述任务描述信息通过所述网络通道获取待执行脚本和源数据,包括:
根据所述任务描述信息中的待执行脚本的存储地址通过所述网络通道从所述客户端中获取待执行脚本;
根据所述待执行脚本中的源数据信息通过所述网络通道从所述分布式存储系统中获取执行任务所需的源数据。
4.根据权利要求1所述的方法,其特征在于,所述利用获取的源数据、待执行脚本以及所述待用深度学习框架执行任务,得到任务执行结果,包括:
利用获取的源数据、待执行脚本以及所述待用深度学习框架执行深度学习训练任务,得到训练完成的深度学习模型。
5.一种用于处理任务的装置,其特征在于,所述装置包括:
接收单元,用于接收客户端通过预先建立的网络通道发送的任务描述信息,其中,所述任务描述信息包括待执行脚本的存储地址和用于选取深度学习框架的选取信息,其中,所述客户端与部署有分布式存储系统的存储服务器集群通信连接,所述待执行脚本包括源数据信息,所述源数据信息用于指示源数据在所述分布式存储系统中的存储地址;
获取单元,用于基于所述任务描述信息通过所述网络通道获取待执行脚本和源数据;
选取单元,用于根据所述选取信息从预先设置的至少一个深度学习框架中选取待用深度学习框架;
执行单元,用于利用获取的源数据、待执行脚本以及所述待用深度学习框架执行任务,得到任务执行结果。
6.根据权利要求5所述的装置,其特征在于,所述待执行脚本包括用于指示目的地地址的存储指示信息,其中,所述目的地地址是所述分布式存储系统中的、用于存储任务执行结果的地址;以及
所述装置还包括:
发送单元,用于根据所述待执行脚本的存储指示信息,将得到的任务执行结果通过所述网络通道发送到所述分布式存储系统。
7.根据权利要求5所述的装置,其特征在于,所述获取单元进一步用于:
根据所述任务描述信息中的待执行脚本的存储地址通过所述网络通道从所述客户端中获取待执行脚本;
根据所述待执行脚本中的源数据信息通过所述网络通道从所述分布式存储系统中获取执行任务所需的源数据。
8.根据权利要求5所述的装置,其特征在于,所述执行单元进一步用于:
利用获取的源数据、待执行脚本以及所述待用深度学习框架执行深度学习训练任务,得到训练完成的深度学习模型。
9.一种服务器,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-4中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710539626.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于强化代理保护证书的系统和方法
- 下一篇:数据处理方法及装置