[发明专利]一种单机高性能批流一体数据处理系统在审
申请号: | 202210079265.X | 申请日: | 2022-01-24 |
公开(公告)号: | CN114490763A | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 张腾伟 | 申请(专利权)人: | 全知科技(杭州)有限责任公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/28;G06F3/06;G06F9/48 |
代理公司: | 杭州奇炬知识产权代理事务所(特殊普通合伙) 33393 | 代理人: | 贺心韬 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种单机高性能批流一体数据处理系统,具体涉及数据计算领域,包括高性能批流一体数据计算模型,其中具体包括数据流图、数据摄入、数据处理和状态存储四个模块,其中,数据流图模型:数据进行任何业务逻辑处理,都可以将处理逻辑划分成一个有向无环图,由有向无环图体现数据的流动方向和处理步骤。本发明通过采用将数据摄入和数据处理分离的方式提升整体的处理效率,采用将任务划分成有向无环图,根据有向无环图中的节点类型,自动划分任务的方式实现批流一体数据处理功能,采用内存统一前缀大缓存结构,提高状态读写效率,数据处理时,使用微批模式提高数据计算效率,解决数据计算中批量计算和流式计算无法统一的问题。 | ||
搜索关键词: | 一种 单机 性能 一体 数据处理系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于全知科技(杭州)有限责任公司,未经全知科技(杭州)有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210079265.X/,转载请声明来源钻瓜专利网。
- 上一篇:一种植物留影绘画方法
- 下一篇:一种净水系统及其控制方法