[发明专利]一种对不同数据采集引擎的数据操作进行统一管理的方法、存储介质及系统

说明书

本发明提供一种对不同数据采集引擎的数据操作进行统一管理的方法、存储介质及系统，该方法包括如下步骤：使用数据目标适配器对异构数据库中的多个类型不同的电网数据进行统一适配；使用采集方式不同的多个数据采集引擎从异构数据库中采集得到多个电网数据；使用数据操作控制器对采集得到的多个电网数据进行数据同步；使用数据流向控制器对同步后的多个电网数据进行统一流向控制。

技术领域

本发明涉及数据处理技术领域，特别涉及一种对不同数据采集引擎的数据操作进行统一管理的方法、存储介质及系统。

背景技术

完整的大数据平台在运行期间，一般涉及以下几个数据操作过程：数据采集、数据存储、数据处理、数据展视。

电网数据通常存储在不同地区的电网数据库中，这些电网数据库集合形成异构数据库，以实现多个电网数据库之间的数据共享和透明访问，但由于各个电网数据库的字段类型和/或存储方式可能会不同，各个电网数据库中的电网数据之间类型也可能会不同。因此在对电网数据进行采集的过程中，一般使用采集方式不同的多个数据采集引擎从异构数据库中采集得到多个电网数据，然后令这些电网数据流向数据存储系统进行数据存储，或流向数据处理系统进行数据处理，或流向数据展视系统进行数据展视。在上述数据操作过程中，需针对不同类型的电网数据采用不同的数据流向工具进行多次流向控制，难以实现统一管理。

发明内容

本发明要解决的技术问题是在对电网数据进行数据操作过程中如何实现统一管理。

为解决上述技术问题，本发明提供一种对不同数据采集引擎的数据操作进行统一管理的方法，包括如下步骤：

A.使用数据目标适配器对异构数据库中的多个类型不同的电网数据进行统一适配；

B.使用采集方式不同的多个数据采集引擎从异构数据库中采集得到多个电网数据；

C.使用数据操作控制器对采集得到的多个电网数据进行数据同步；

D.使用数据流向控制器对同步后的多个电网数据进行统一流向控制。

优选地，所述步骤B中，使用采集过程监控器对采集方式不同的多个数据采集引擎的采集过程进行统一监控。

优选地，所述步骤B中，所述采集过程包括数据读取、数据传输、数据转换和数据加载。

优选地，所述步骤C中，所述数据操作控制器包括异构数据源离线同步工具DataX。

优选地，所述步骤D中，所述统一流向控制包括数据流向分发和数据流向截断。

优选地，所述数据流向控制器包括Apache Camel框架和调度控制器Azkaban。

本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的对不同数据采集引擎的数据操作进行统一管理的方法。

本发明还提供一种对不同数据采集引擎的数据操作进行统一管理的系统，包括相互连接的计算机可读存储介质和处理器，计算机可读存储介质如上所述。

本发明具有以下有益效果：在对电网数据进行采集之前，使用数据目标适配器对异构数据库中的多个类型不同的电网数据进行统一适配，使得异构数据库中的多个电网数据类型相同；在对电网数据进行采集之后，使用数据操作控制器对采集得到的多个电网数据进行数据同步，使得多个电网数据能同步实现数据流向；因此，使用数据流向控制器就能对同步后的多个电网数据进行统一流向控制，无需针对不同类型的电网数据采用不同的数据流向工具进行多次流向控制，实现了对不同数据采集引擎的数据操作进行统一管理。

附图说明

图1是对不同数据采集引擎的数据操作进行统一管理的方法流程图。

具体实施方式