[发明专利]一种实现文本匹配的可解释神经网络的方法

摘要

本发明公开了一种实现文本匹配的可解释神经网络的方法，包括以下步骤：将深层卷积网络映射为张量网络；将张量网络看作图，利用最小割理论分析语言特点(远距离相关和近距离相关)与深层卷积网络的通道数的关系；针对匹配任务的数据集(比如QA任务)，利用量子纠缠熵量化句子对的语言特点，纠缠熵越大，句子对属于远距离相关，纠缠熵越小，句子对属于近距离相关；从而将数据集分为远距离相关的子数据集和近距离相关的子数据集，根据不同的子数据集动态的调整网络架构，即卷积网络每层的通道数。

主权项

1.一种实现文本匹配的可解释神经网络的方法，包括如下步骤，/nS1、通过卷积网络相关基础信息建立张量网络模型；/nS2、采用最小割方法将张量网络视为图形处理分别获得短程相关类和远程相关类；/nS3、分别提取短程相关类和远程相关类中参数确定attention matrix数学模型，其特征在于：/n3.1、通过如下公式建立句子对的全局表示：/n给定包含单词的n个单词序列({w_i∈R^m}(i∈[n])，把它拆分成两部分V_Q∪V_A＝{w₁,...,w_n}，这里V_Q＝{w₁,...,w_b},V_A＝{w₁,...,w_n-b}；/n3.2、利用attention matrix和熵量化句子对之间的相关性通过如下公式获得Attention矩阵；/n /n其中，b表示问题句的句子长度，n-b表示问题句的句子长度，k表示词向量的维度；/n3.3、通过如下公式计算纠缠熵。/n /nS∈(0,ln(r)),S_max＝ln(r)；/n3.4、根据纠缠熵划分远程相关的子数据集和近程相关的子数据集；/n3.5、根据远程相关的子数据集确定卷积网络中相应的分配通道数量；/n3.6、根据近程相关的子数据集确定卷积网络中相应的分配通道数量。/n