[发明专利]一种基于Spark_Streaming程序的运行环境控制方法在审
申请号: | 201910687806.5 | 申请日: | 2019-07-29 |
公开(公告)号: | CN110489145A | 公开(公告)日: | 2019-11-22 |
发明(设计)人: | 霍键聪;闵宇;胡新勇 | 申请(专利权)人: | 广东睿江云计算股份有限公司 |
主分类号: | G06F8/65 | 分类号: | G06F8/65;G06F8/41;G06F16/182 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 528000 广东省佛山市禅城区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种基于Spark_Streaming程序的运行环境控制方法,包括Sprak Streaming框架、HDFS文件系统和配置文件,所述Sprak Streaming框架实时分析Spark_Streaming程序,并通过所述HDFS文件系统动态读取实时所述配置文件,实时修改Spark Streaming程序的运行环境。本发明提出一种基于Spark_Streaming程序的运行环境控制方法,通过在Spark_Streaming实时分析程序中,动态读取配置文件来实时更新运行环境配置,达到节省部署时间、节省计算资源、无需考虑数据多重分发问题和保持程序实时性的效果。 | ||
搜索关键词: | 配置文件 运行环境 动态读取 实时分析 文件系统 运行环境配置 计算资源 实时更新 实时修改 实时性 分发 部署 | ||
【主权项】:
1.一种基于Spark_Streaming程序的运行环境控制方法,包括Sprak Streaming框架、HDFS文件系统和配置文件,所述Sprak Streaming框架是构建在Spark计算引擎上的实时分析框架,所述HDFS文件系统是一种适合运行在通用硬件上的分布式文件系统,所述配置文件为配置Spark Streaming程序运行环境所需的文件,其特征在于:所述Sprak Streaming框架实时分析Spark_Streaming程序,并通过所述HDFS文件系统动态读取实时所述配置文件,实时修改Spark Streaming程序的运行环境。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东睿江云计算股份有限公司,未经广东睿江云计算股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910687806.5/,转载请声明来源钻瓜专利网。