[发明专利]一种自动求解数学题的伪对偶学习方法

权利要求书

1.一种自动求解数学题的伪对偶学习方法，其特征在于，包括以下步骤：

(1)、获得预测表达式

对于一个包含N个单词的待求解数学题P＝{w₁，w₂，...，w_N}输入到数学题自动求解器中进行自动求解，得到由数字集合Q、算符和常数组成预测表达式S＝{s₁，s₂，...，s_K}，其中，w_n表示第n个单词，n＝1，2，…，N，数字Q＝{q₁，q₂，...，q_M}，q_m表示第m个数字，m＝1，2，…，M，s_k表示第k个表达式元素；

数学题自动求解器包含一个数学题编码器和一个表达式解码生成器，待求解数学题P输入数学题编码器，获得待求解数学题P的语义特征E^p，语义特征E^p再输入到表达式解码生成器按最大概率输出预测表达式S，即满足：

其中，Pr表示取到字符s_k的概率值，Θ_en和Θ_dec分别数学题编码器和表达式解码生成器的学习参数；

(2)、数字填充

2.1)、对预测表达式S进行重采样，获得预测表达式S的连续近似值

2.2)、将连续近似值S^g输入到表达式编码器得到预测表达式S的语义特征E^g，将待求解数学题P正确的目标表达式输入到表达式编码器得到目标表达式S^t的语义特征E^t；

2.3)、从语义特征E^g中取出预测表达式S中数字的语义特征从语义特征E^t中取出目标表达式S^t中数字的语义特征然后进行加权求和，得到计划融合后的表达式数字语义特征

E^f_num＝εE^t_num+(1-ε)E^g_num

其中，权重ε来调整两部分的比例，ε随着训练优化过程从1指数衰减到0；

从语义特征E^p中取出数学问题中数字的语义特征其中，表示M×D维的实数空间，D是表达式编码器隐层的维度大小；

2.4)、利用一个指针网络计算待求解数学题P中第m个数字与预测表达式S中M个数字相匹配的概率分布向量：

其中，概率分布向量为Prob_m为M维度，为语义特征E^p中的第m行，W₁、W₂为指针网络的学习权重矩阵，u为列权重向量；

这样得到待求解数学题P中M个数字与预测表达式S中M个数字相匹配的概率分布向量的集合{Prob₁，Prob₂，...，Prob_M}；

(3)、训练优化

3.1)、在训练优化过程中，对于数学题自动求解器，正确的目标表达式S^t作为监督信号与预测表达式S之间计算得到负对数似然损失函数L_G；

对于数字填充，待求解数学题P中数字qm的标签为当其在对应预测表达式S中位于第j个位置时，o_m的第j维值为1，其他维值为0，对应填充损失函数计算如下：

3.2)、构建损失函数L＝L_G+L_I，通过最小化损失函数L来训练优化数学题自动求解器，从而完成伪对偶学习。