[发明专利]一种融合主题信息的司法舆情文本摘要方法

说明书

本发明涉及融合主题信息的司法舆情文本摘要方法。本发明首先构造司法舆情文本摘要数据集；利用主题模型生成包含主题词和文档主题概率分布的司法舆情主题知识库；再在基于注意力的编解码模型基础上，提出一种基于主题信息约束的司法舆情文本摘要模型。一方面对主题词编码获得新闻文本相关的主题向量，将其作为外部知识融入解码过程中指导摘要生成；另一方面计算得到已生成摘要的主题分布，利用预训练的新闻文本主题分布优化模型。本发明利用主题信息作为外部知识，更有效的指导解码过程，生成质量更高的文本摘要，为开展融入领域知识的司法舆情文本摘要研究提供了可借鉴的方法，同时也为及时、有效、快速的司法舆情应急处置提供强有力的支撑。

技术领域

本发明涉及一种融合主题信息的司法舆情文本摘要方法，属于自然语言处理技术领域。

背景技术

司法舆情新闻聚焦于如社会公平、腐败等社会热点问题，一些敏感事件容易在短时间内引发一个社会热点话题，导致社会舆情呈现病毒式爆发趋势。因此如何及时有效的引导和处置司法舆情，消除负面影响对于社会稳定至关重要。文本摘要任务能够为长的司法舆情新闻文档生成简短的、流畅的、阅读性好的文本摘要，有利于理解司法舆情新闻，为快速有效的舆情处置提供技术支撑。

发明内容

本发明提供了一种融合主题信息的司法舆情文本摘要方法，以用于解决传统序列到序列模型在没有领域知识监督情况下，在司法舆情新闻上，生成摘要效果不理想的问题。

本发明的技术方案是：一种融合主题信息的司法舆情文本摘要方法，所述融合主题信息的司法舆情文本摘要方法的具体步骤如下：

Step1、从互联网采集数据，对数据进行处理，构造司法舆情文本摘要数据集；所述司法舆情文本摘要数据集中每个文本对应一个标准摘要Y；

Step2、在上述构造的司法舆情文本摘要数据集基础上，利用主题模型生成包含主题词和文档主题概率分布的司法舆情主题知识库；

Step3、编码器对新闻文本序列X和对应的主题词W分别进行编码，得到其特征表示新闻文本隐状态序列H和新闻文本主题词隐状态序列H′，并计算生成新闻文本相关的主题向量c′；

Step4、基于新闻文本相关的主题向量c′和新闻文本隐状态序列H，生成摘要解码向量序列R＝{r₁,r₂,…,r_M}；

Step5、计算生成摘要的主题概率s^prob和文档主题损失KL_loss；

Step6、基于标准摘要Y和生成的摘要计算其负对数似然损失NL_loss，结合上述KL_loss得到整个模型的损失，通过梯度下降算法对模型进行训练，得到优化模型，最后利用优化模型在测试集上进行测试，模型读取测试序列生成相应的摘要序列。

作为本发明的优选方案，所述步骤Step1的具体步骤为：

Step1.1、从互联网采集舆情数据并进行格式化处理，得到新闻正文和新闻标题，构造以新闻正文为源文本，新闻标题为摘要的数据集；

Step1.2、利用人工标注的方式，对摘要数据集进行标注，判断每条新闻是否为司法舆情相关新闻，得到司法舆情文本摘要数据集；所述司法舆情文本摘要数据集中每个文本对应一个标准摘要Y；

Step1.3、基于上述的司法舆情文本摘要数据集，进行数据预处理。具体构建过程如图2所示；

作为本发明的优选方案，所述步骤Step1.3的具体步骤为：

Step1.3.1、过滤新闻正文少于10个字或者新闻标题少于5个字的噪声数据；

Step1.3.2、正文和标题中所有数字以#替代；