[发明专利]基于tesseract-ocr的pdf文件解析方法

说明书

本发明公开了一种基于tesseract‑ocr的pdf文件解析方法，该方法用fitz工具包把pdf文件转换为图片序列；针对图片序列的每一个图片，用TableBank工具得到表格的多个区域位置；利用tesseract‑ocr进行图片中的图提取、表格单元格的提取和识别：本发明在tesseract‑ocr基础上，通过结合TableBank的表格检测和表格结构识别模型，得到了表格各单元格中的内容；匹配docx解析结果，解决了ocr识别错误的问题；对tesseract‑ocr的ocr模型进行替换，提升了识别的准确率和速度。本发明具有表格结构识别的功能、ocr错误纠正的功能，优化了模型的准确率和速度，纠正了多栏排版下的段落顺序混乱问题，以及部分段落或表格丢失的问题。

技术领域

本发明属于文件识别领域，尤其涉及一种基于tesseract-ocr的pdf文件解析方法。

背景技术

在大数据和人工智能的应用场景下，要对大量的信息进行搜集、处理、分析，对数据进行结构化，发现数据中的规律来指导生产。然而信息的存在方式是多样的、非结构化的，存在于各种网页、文本、各种格式的文件、图像、声音媒体中，pdf就是其中的一种存储文件类型，要抽取pdf文件的内容，首先要对它进行解析，得到其中的文本段落结构、表格的结构、图，才能进一步获取结构化的信息。

pdf的内容形式多样，且文件质量参差不齐，用目前的开源解析工具(xpdf、pdfminer、pypdf2等)不能很好地进行解析，存在各种问题，如：不能区分图、表和文本段落；不能准确提取表格中的内容(表格有几行几列、第几行第几列单元格是什么内容)；对于有多栏排版的pdf，文字段落有时会出现混乱。如果不能有效的解决这些问题，pdf文件的抽取只能依赖人工，在对大量pdf抽取的应用场景中会增加大量的成本，且效率低下。

发明内容

本发明的目的在于针对现有技术的不足，提供一种基于tesseract-ocr的pdf文件解析方法。

本发明的目的是通过以下技术方案来实现的：一种基于tesseract-ocr的pdf文件解析方法，该方法包括以下步骤：

(1)用fitz工具包把pdf文件转换为图片序列；

(2)针对图片序列的每一个图片，用TableBank工具得到表格的多个区域位置TableArea[1,…n]，n为该图片中的表格总数；

(3)利用tesseract-ocr进行图片中的图提取、表格单元格的提取和识别：

(3.1)形态学预处理和连通域分析：得到线条、图像区域和文字块blob；

(3.2)文本行结束位置(tab-stop)检测：得到每一行文本的开始和结束位置；

(3.3)发现列排版(column layout)：得到文本的顺序；

(3.4)得到各个块block，块block有多种类型，包括文本块、图像块、表格块，每个块有多个文本行；

(3.5)表格的处理：用步骤2得到的表格区域TableArea代替步骤3.4中的表格块；利用在TableArea[i]区域中的线条，把在TableArea[i]中的文本行分隔到各个单元格中，完成表格单元格的识别；

(3.6)对各个文本块的每一行、表格每个单元格中的文本行，用lstm模型进行识别，得到每个词的位置和内容，此时表格中的文本带有所在的表格index、所在的单元格行列index。

进一步地，所述步骤(3.5)具体包括以下子步骤：

(3.5.1)修正TableArea[i]区域：用TableArea[i]区域附近的横竖线条对区域进行修正，寻找TableArea[i]区域上下左右四面的线条，如果有一面在阈值距离内存在线条，则把TableArea[i]这一面的位置移动到该线条的位置；