[发明专利]一种基于深度学习集成模型的文本相似度计算方法

说明书

本发明公开了一种基于深度学习集成模型的文本相似度计算方法，包括如下步骤：采用基于双向Bi‑LSTM神经网络的进行中文分词；去停用词、纠错、同义词替换等；关键词检索；采用Word2Vec训练得到客户问题文本词向量、标准问题文本词向量；特征工程抽取；基于Siamese LSTM模型的短文本相似度计算；基于Siamese CNN模型的长文本相似度计算；基于ESIM模型的文本语义相似度计算；基于Stacking集成LSTM、CNN及ESIM模型相似度计算。本发明基于深度学习集成模型的计算方法，可以保证更高的自适应性和精确度。

技术领域

本发明属于自然语言处理技术领域，具体涉及一种基于深度学习集成模型的文本相似度计算方法。

背景技术

客服是企业和客户之间的纽带，承担着直接服务客户的工作，解答业务问题，处理服务纠纷，加深客户对企业的了解，增进客户与企业之间的感情等等。然而，客服工作不仅强度大，而且工作内容也比较枯燥乏味，这一工作特性使得客服人员容易产生负面情绪，进而导致客服人员流动性大、招聘管理难，最终使得客户体验效果不理想。

人工智能特别是深度学习的发展和应用，为基于文本相似度计算技术的智能客服提供了可行的技术方案。智能客服受到了金融服务业的青睐，被应用于证券、基金等各大金融企业。但是，由于语言表达的多样性和灵活性，客户提出的问题一般和知识库的标准问题有一定的差异，这给智能客服解决方案提出了巨大挑战。

深度学习作为机器学习的一种，在文本相似度计算中越来越成为研究的优选方案。但目前在文本相似度计算中，通常采用单一的深度学习模型实现，不能适应长文本、短文本不同语言情境。

发明内容

针对现有技术中单一模型无法满足文本相似度计算的适应性和精度需求，本发明提供一种基于深度学习集成模型的文本相似度计算方法，采用深度学习集成模型能够适应长文本、短文本不同客户服务场景，可以有效提高适应性和精度。

本发明采用如下技术方案：

一种基于深度学习集成模型的文本相似度计算方法，包括如下步骤：

(1)基于双向Bi-LSTM神经网络进行中文分词；

(2)去停用词、纠错、同义词替换；

(3)关键词检索；

(4)采用Word2Vec训练得到客户问题文本词向量、标准问题文本词向量；

(5)特征工程抽取；

(6)基于Siamese LSTM模型的短文本相似度计算；

(7)基于Siamese CNN模型的长文本相似度计算；

(8)基于ESIM模型的文本语义相似度计算；

(9)基于Stacking集成LSTM、CNN及ESIM模型相似度计算。

优选地，所述步骤(1)中基于双向Bi-LSTM神经网络进行中文分词的具体过程为：

步骤1：标注序列；

步骤2：双向LSTM网络预测标签；

步骤3：Viterbi算法求解最优路径。

步骤(1)采取双向编码句子，采取拼接向量用以情感分类。

优选地，所述步骤(5)中特征工程抽取的具体过程为：

步骤1：统计特征抽取；

步骤2：图特征抽取。

优选地，所述步骤(6)中基于Siamese LSTM模型的短文本相似度计算，采用欧式距离公式(1)计算文本词向量相似度：