[发明专利]一种数据存储与读取系统及其工作方法

说明书

本公开的实施例提供了一种数据存储与读取系统及其工作方法，属于大数据传输技术领域。所述数据存储方法包括数据转换模块接收数据生产设备上传的数据并进行转换；数据转发和记录模块将转换后的数据上传给所述数据存储系统，接收所述数据存储系统反馈的文件检索信息并写入所述文件检索信息数据库；文件检索信息数据库接收并存储所述数据转发和记录模块写入的文件检索信息。以此方式，可以提升数据采集与传输的高可用性和高性能，适应于各类分布式数据生产环境中的数据收集与汇总。

技术领域

本公开涉及大数据传输技术领域，尤其涉及一种数据存储、数据访问技术领域。

背景技术

利用网络进行数据传输的大规模数据采集是现在各个领域的重要需求。常见的采用方法是以中心化或半中心化服务器，进行数据采集。现有技术大多采用通过一台数据接收服务器来进行数据采集，可用性差，一旦汇总服务器发生问题就会导致采集出错。用户为了拓展数据下载节点需要将相同的程序和环境部署到新的机器上，部署麻烦，需要考虑各类不同的复杂场景，程序的可拓展性差，不适用于动态延伸，更新版本流程繁琐。

发明内容

本公开提供了一种数据存储与读取系统及其工作方法。

根据本公开的第一方面，提供了一种数据存储与读取系统，包括：

数据转发模块、记录模块、数据存储系统、文件检索信息数据库、前端显示模块，其中，

所述数据转发模块为一个或多个，用于接收数据生产设备上传的数据并将数据上传给所述数据存储系统；

所述记录模块，用于将所述数据存储系统反馈的文件检索信息写入所述文件检索信息数据库；

所述数据存储系统，用于存储所述数据转发模块上传的数据，并向所述记录模块反馈文件检索信息；还用于根据前端要求，返回指定的文件；

所述文件检索信息数据库，用于接收并存储所述记录模块写入的文件检索信息；还用于接收用户通过前端显示模块提交的访问请求；

所述前端显示模块，用于将用户的访问请求提交给所述文件检索信息数据库，接收对应的检索结果；根据所述检索结果从所述数据存储系统下载对应的文件。

在第一方面的一些实现方式中，包括：

所述数据转发模块、记录模块部署在基于K8S的云原生平台的POD中；

所述数据存储系统为基于集群的HDFS存储系统。

根据本公开的第二方面，提供了一种数据存储与读取系统的工作方法，该方法包括：

数据转发模块接收数据生产设备上传的数据并将数据上传给所述数据存储系统；

记录模块将接收所述数据存储系统反馈的文件检索信息并写入所述文件检索信息数据库；

文件检索信息数据库接收并存储所述记录模块写入的文件检索信息；

在第二方面的一些实现方式中，数据转发模块接收数据生产设备上传的数据包括：

一个或多个数据转发模块分别通过SSH服务接收一个或多个数据生产设备上传的数据，存储在临时文件缓冲区；

在第二方面的一些实现方式中，数据转发模块将所接收到的数据上传给所述数据存储系统包括：

数据转发根据定时任务，将接收到的数据上传给所述数据存储系统。

根据本公开的第三方面，提供了一种数据读取方法，该方法包括：

文件检索信息数据库接收用户通过前端显示模块提交的访问请求，并根据访问请求中的关键词进行检索；