[发明专利]消息处理方法和装置、存储介质和电子装置

说明书

本申请提供了一种消息处理方法和装置、存储介质和电子装置，其中，该方法包括：获取具有目标消息标识的待处理数据，其中，待处理数据为从与目标流处理任务对应的多个节点处收集的数据，目标流处理任务为目标消息由被生产节点生产到被消费节点消费的流处理任务，目标消息标识用于唯一标识目标消息；在根据待处理数据确定目标消息未被正常消费的情况下，将目标消息添加到目标消息队列中，其中，目标消息队列中存储有与待处理的流处理任务对应的消息。通过本申请，解决了相关技术中的数据分发方式存在的数据易丢失的问题，保证了数据正确性，节省了人力成本。

技术领域

本申请涉及计算机领域，尤其涉及一种消息处理方法和装置、存储介质和电子装置。

背景技术

目前，一些公司的消息服务提供数据变更消息，调用RPC(Remote ProcedureCall，远程过程调用)接口获取实体数据。消息服务的单个实体的数据量大，为节省开发和资源成本，可以统一对接消息服务，采用kafka(一种开源流处理平台)将实时数据进行分发，服务于各个业务方。

虽然kafka具有高吞吐量，高并发，低延迟等特性，但是容易产生数据丢失。例如，在使用checkpoint(检查点)进行流处理任务处理时，kafka集群升级需要手动删除，或者，启动两个流程序同时运行，或者，将偏移量存储外部数据库。然而，kafka集群升级或者业务逻辑错误易导致数据丢失，且难以发现，需要人工干预，维护成本很高。

因此，相关技术中的数据分发方式，存在数据易丢失的问题。

发明内容

本申请实施例提供了一种消息处理方法和装置、存储介质和电子装置，以至少解决相关技术中的数据分发方式存在的数据易丢失的问题。

根据本申请实施例的一个方面，提供了一种消息处理方法，包括：获取具有目标消息标识的待处理数据，其中，待处理数据为从与目标流处理任务对应的多个节点处收集的数据，目标流处理任务为目标消息由被生产节点生产到被消费节点消费的流处理任务，目标消息标识用于唯一标识目标消息；在根据待处理数据确定目标消息未被正常消费的情况下，将目标消息添加到目标消息队列中，其中，目标消息队列中存储有与待处理的流处理任务对应的消息。

可选地，获取具有目标消息标识的待处理数据包括：从数据库中读取目标时间段内的目标数据，其中，数据库中存储有从节点集群中的各个节点收集的数据，目标时间段的起始时刻与当前时刻的时间差为目标差值；使用目标消息标识从目标数据中匹配出具有目标消息标识的待处理数据。

可选地，在获取具有目标消息标识的待处理数据之前，上述方法还包括：接收多个节点发送的待处理数据，其中，待处理数据包括生产节点发送的第一数据和其他节点发送的第二数据，第一数据包括目标消息、目标消息标识和时间戳，其他节点为多个节点中除了生产节点以外的节点，第二数据包括目标消息标识和时间戳；将待处理数据保存到数据库中。

可选地，在获取具有目标消息标识的待处理数据之后，上述方法还包括：根据具有目标消息标识的待处理数据，确定目标消息在各个相邻节点的后一个节点处是否被正常消费，其中，相邻节点为多个节点中按照目标流处理任务具有相邻关系的两个节点；在确定出目标消息在多个节点中的目标节点未被正常消费的情况下，确定目标消息未被正常消费。

可选地，在将目标消息添加到目标消息队列中之前，上述方法还包括：将待处理数据发送到目标设备，以通过目标设备显示目标消息以及目标节点；接收目标设备发送的修改指令，其中，修改指令用于修改目标流处理任务的任务处理流程；在将目标消息添加到目标消息队列中之后，上述方法还包括：按照修改后的任务处理流程处理目标消息。

可选地，在根据待处理数据确定目标消息已被消费节点正常消费的情况下，上述方法还包括：将待处理数据从数据库中清除，其中，数据库中存储有从节点集群中的各个节点处收集的数据。