[发明专利]一种基于大数据平台数据处理域构架方法在审
申请号: | 201910184068.2 | 申请日: | 2019-03-12 |
公开(公告)号: | CN110096545A | 公开(公告)日: | 2019-08-06 |
发明(设计)人: | 孙宝华;周巧妮;曲睿婷;于元旗;李东洋;李冲;刘为;徐立波;韩永辉;王立谦;刘碧琦;李亮;孙俊伟;周毅;胡畔 | 申请(专利权)人: | 国网辽宁省电力有限公司信息通信分公司;国家电网有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 沈阳铭扬联创知识产权代理事务所(普通合伙) 21241 | 代理人: | 屈芳 |
地址: | 110006 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 大数据 构架 存储 多数据源访问 公共通信总线 数据访问服务 点对点连接 逻辑数据库 数据一致性 物理数据库 消息中间件 信息化建设 异构数据库 服务调用 服务集成 服务提供 服务总线 建立服务 建立消息 数据访问 数据共享 数据监测 业务监测 业务数据 业务协同 应用提供 应用系统 灵活的 中间件 冗余 总线 统一 架构 复制 抽象 通讯 通信 保证 | ||
本发明涉及信息化建设领域,具体地来讲为一种基于大数据平台数据处理域构架方法,该方法包括:建立服务总线为服务提供者和服务调用者之间通过由各种点对点连接构成的公共通信总线进行通信;建立消息中间件用于不同应用系统之间进行通讯;建立统一数据访问服务,提供底层异构数据库的统一数据访问入口,将多个底层的物理数据库/存储的表按照业务的需要抽象为一个或多个逻辑数据库。本发明数据处理域通过服务总线、消息中间件实现系统间的服务集成架构,实现跨部门业务协同和逻辑数据共享为业务监测类应用提供灵活的多数据源访问,实现统一的数据监测。解决业务数据的冗余复制和多份存储,数据一致性和及时性无法保证的问题。
技术领域
本发明涉及信息化建设领域,具体地来讲为一种基于大数据平台数据处理域构架方法。
背景技术
数据处理域是公司生产经营管理过程中各类业务数据存储、处理、融合的中心,是源业务系统各个分散数据库的归并、发展与提升,为公司各业务应用提供逻辑统一的数据支撑,主要支撑业务处理类应用,由过去数据复制的业务集成方式转变为共享使用方式,实现企业级端到端流程的真正贯通,同时解决系统间数据集成及数据复制过程中存在的数据安全、效率低下和资源浪费问题,是推进业务流程贯通和数据共享,保障数据质量的关键,提升数据应用水平的基础,并逐步实现源端数据的干净透明。
数据处理域的建设有利于促进跨部门的业务协同和信息共享,实现源端数据干净透明。目前,跨部门业务集成以数据复制共享方式为主,造成业务数据的冗余复制和多份存储,数据一致性和及时性无法保证。
发明内容
本发明所要解决的技术问题在于提供一种基于大数据平台数据处理域构架方法,解决数据的冗余复制和多份存储,数据一致性和及时性无法保证。
本发明是这样实现的,
一种基于大数据平台数据处理域构架方法,该方法包括:
建立服务总线为服务提供者和服务调用者之间通过由各种点对点连接构成的公共通信总线进行通信;
建立消息中间件用于不同应用系统之间进行通讯;
建立统一数据访问服务,提供底层异构数据库的统一数据访问入口,将多个底层的物理数据库/存储的表按照业务的需要抽象为一个或多个逻辑数据库。
进一步地,所述统一数据访问服务包括数据访问组件、统一元数据管理组件、代理访问组件、元数据采集服务、以及数据管理组件,其中:
数据访问组件提供标准的JDBC驱动,上层业务应用对接,业务应用在启动时,进行初始化,向统一元数据管理获取该业务应用的需要的元数据信息;
统一元数据管理组件对应用、库表、状态、权限、和性能进行管理;
代理访问组件,提供给业务应用通过API访问底层数据;
元数据采集服务组件,对数据源元数据、数据库状态、查询引擎状态信息进行采集;
数据管理组件包括日志管理,管理统一访问服务平台的日志信息的管理。
进一步地,服务总线包括服务注册、服务目录、服务网关、服务路由、基础功能以及服务监控,所述服务注册从服务目录里获取服务信息;所述服务注册为服务路由提供服务与服务之间调用关系;所述服务路由为服务监控提供支撑;所述服务监控为服务网关提供调用监控信息;所述服务网关为服务路由提供通信I/O框架、数据序列化和异常处理基础信息。
进一步地,通过所述服务总线实现与外系统的同步交互和异步交互。
进一步地,所述消息中间件包括,消息订阅组件提供消息消费者对消息主题的订阅功能;消息发布组件提供消息生产者对消息主题的发布功能;消息队列组件提供消息的队列功能;消息路由组件提供消息的路由选择功能;以及消息缓存组件提供消息数据的缓存功能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国网辽宁省电力有限公司信息通信分公司;国家电网有限公司,未经国网辽宁省电力有限公司信息通信分公司;国家电网有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910184068.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于ERP系统的业务审计系统
- 下一篇:分布式级联数据处理方法及装置