[发明专利]数据回溯方法及装置、计算机可读存储介质、电子设备

说明书

本公开属于数据处理技术领域，涉及一种数据回溯方法及装置、计算机可读存储介质、电子设备。该方法包括：通过数据血缘关系确定作业的隐式依赖关系，并根据隐式依赖关系配置作业的显式依赖关系；根据显式依赖关系生成作业的任务血缘图，并在任务血缘图中确定作业下游的多个下游作业；根据任务血缘图在多个下游作业中筛选出无依赖关系的待回溯作业，并并行运行待回溯作业生成回溯数据。本公开一方面，将隐式依赖关系转换为显式依赖关系，并生成任务血缘图，提高了数据质量，降低了开发人员之间的信息共享成本；另一方面，根据任务血缘图并发式数据回溯，在提升数据质量的同时，减少了数据回溯的执行时间，节省了大量的人力资源。

技术领域

本公开涉及数据处理技术领域，尤其涉及一种数据回溯方法与数据回溯装置、计算机可读存储介质及电子设备。

背景技术

Azkaban是当下非常流行的大数据开源任务流调度系统，已经在全世界范围内获得了广泛的应用。但是在多人、多团队协作使用时，不同团队或个人维护的工程可能存在工作流级别或者作业级别的隐式依赖，造成数据质量的稳定性下降，以及维护困难等问题。

除此之外，随着公司业务的快速发展，对数据的需求也越来越多，数据开发人员往往1～2周就需要上线一个数据业务。但是，在开发人员对链路上的历史数据进行回溯时，工作流级别或者作业级别的依赖非常复杂，大规模回溯数据会消耗大量人力资源，同时还无法保障数据的质量。

鉴于此，本领域亟需开发一种新的数据回溯方法及装置。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种数据回溯方法、数据回溯装置、计算机可读存储介质及电子设备，进而至少在一定程度上克服由于相关技术的限制而导致的数据回溯难度大和数据质量差等问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种数据回溯方法，所述方法包括：通过数据血缘关系确定作业的隐式依赖关系，并根据所述隐式依赖关系配置所述作业的显式依赖关系；根据所述显式依赖关系生成所述作业的任务血缘图，并在所述任务血缘图中确定所述作业下游的多个下游作业；根据所述任务血缘图在所述多个下游作业中筛选出无依赖关系的待回溯作业，并并行运行所述待回溯作业生成回溯数据。

在本公开的一种示例性实施例中，所述根据所述隐式依赖关系配置所述作业的显式依赖关系，包括：确定所述作业的作业名称，并根据所述隐式依赖关系确定依赖所述作业的工作流和工程；确定所述工作流的当前工作流名称和所述工程的当前工程名称，以生成所述作业的显式依赖关系。

在本公开的一种示例性实施例中，所述根据所述显式依赖关系生成所述作业的任务血缘图，包括：根据所述当前工程名称和所述当前工作流名称确定当前调度信息，并确定所述作业的上游调度信息；根据所述当前调度信息和所述上游调度信息对所述显式依赖关系进行校验，以根据所述显式依赖关系生成所述作业的任务血缘图。

在本公开的一种示例性实施例中，所述根据所述当前调度信息和所述上游调度信息对所述显式依赖关系进行校验，包括：获取所述当前调度信息的目标执行时间和所述上游调度信息的首次执行时间和调度周期；对所述目标执行时间、所述首次执行时间和调度周期进行计算，得到所述作业或工作流的计划执行时间；根据所述目标执行时间、所述首次执行时间、所述调度周期和所述计划时间对所述显式依赖关系进行校验。

在本公开的一种示例性实施例中，所述通过数据血缘关系确定作业的隐式依赖关系，包括：若根据任务的目标文件确定所述任务为结构化查询语言任务，解析所述结构化查询语言任务，以获取源数据表；在所述源数据表中查询数据血缘关系，并通过数据血缘关系确定作业和作业之间的隐式依赖关系。