[发明专利]基于微内核操作系统的分布式流式数据处理方法及系统在审
申请号: | 201910672072.3 | 申请日: | 2019-07-24 |
公开(公告)号: | CN110532072A | 公开(公告)日: | 2019-12-03 |
发明(设计)人: | 程学旗;李冰;张志斌;郭嘉丰;钟巧灵 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 11006 北京律诚同业知识产权代理有限公司 | 代理人: | 祁建国;张燕华<国际申请>=<国际公布> |
地址: | 100080 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出一种基于微内核操作系统的分布式流式数据处理方法及系统,包括:获取包含用户定义函数的作业代码,并以该用户定义函数作为节点将该作业代码转换为有向无环图,并根据该有向无环图中算子之间的关联度,将该有向无环图中算子进行合并,得到任务逻辑视图;根据分布式微内核操作系统的物理执行环境,将该任务逻辑视图转换为执行图,该分布式微内核操作系统中工作节点收到该执行图,并将该执行图内的作业任务与作业调度分配至空闲CPU内核执行。与现有技术相比,本发明具有端到端处理延迟低,且吞吐量高,系统镜像体积小,启动时间短的技术进步。 | ||
搜索关键词: | 有向无环图 内核操作系统 用户定义函数 任务逻辑 作业代码 算子 微内核操作系统 处理延迟 工作节点 技术进步 视图转换 系统镜像 作业调度 数据处理 端到端 关联度 体积小 流式 吞吐量 空闲 合并 转换 分配 | ||
【主权项】:
1.一种基于微内核操作系统的分布式流式数据处理方法,其特征在于,包括:/n步骤1、获取包含用户定义函数的作业代码,并以用户定义函数作为节点将该作业代码转换为有向无环图,并根据该有向无环图中算子之间的关联度,将该有向无环图中算子进行合并,得到任务逻辑视图;/n步骤2、根据分布式微内核操作系统的物理执行环境,将该任务逻辑视图转换为执行图,该分布式微内核操作系统中工作节点收到该执行图,并将该执行图内的作业任务与作业调度分配至空闲CPU内核执行。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910672072.3/,转载请声明来源钻瓜专利网。