[发明专利]一种分布式数据处理系统中的内存预估与配置优化的方法有效
申请号: | 201810184254.1 | 申请日: | 2018-03-06 |
公开(公告)号: | CN108415776B | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 石宣化;金海;柯志祥;吴文超 | 申请(专利权)人: | 华中科技大学 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F9/445 |
代理公司: | 北京海虹嘉诚知识产权代理有限公司 11129 | 代理人: | 何志欣;侯越玲 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种分布式数据处理系统中的内存预估与配置优化的方法,至少包括:将经过针对应用jar包中程序代码的条件分支和/或循环体分析及处理的程序数据流与数据特征库进行匹配,并基于匹配成功的结果预估至少一个阶段的内存上限,基于所述内存上限对应用程序进行配置参数优化,基于优化后应用程序的运行过程采集程序数据的静态特征和/或动态特征并进行持久化记录。本发明与机器学习进行内存预估的黑盒模型不同,机器学习预测的结果准确性不一定高,而且难以做到每个阶段的细粒度预测。而本发明利用程序分析和已有的数据特征较精确地预测到整体的内存占用,可以根据程序分析预估出job的每个阶段内存使用情况,做出更进一步的细粒度配置优化。 | ||
搜索关键词: | 一种 分布式 数据处理系统 中的 内存 预估 配置 优化 方法 | ||
【主权项】:
1.一种分布式数据处理系统中的内存预估与配置优化的方法,其特征在于,所述方法至少包括:将经过针对应用jar包中程序代码的条件分支和/或循环体分析及处理的数据程序流与数据特征库进行匹配,并且基于匹配成功的结果预估至少一个阶段的内存上限,基于所述内存上限对应用程序进行配置参数优化,基于优化后应用程序的运行过程采集程序数据的静态特征和/或动态特征并进行持久化记录。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810184254.1/,转载请声明来源钻瓜专利网。