[发明专利]一种基于注意力的双向递归神经网络的诊断预测方法

说明书

本发明公开了一种基于注意力的双向递归神经网络的诊断预测方法，涉及预测诊断技术领域。该方法首先将高维的医学编码(即临床变量)嵌入低码层空间，然后将编码表示输入到一个基于注意力的双向递归神经网络中，生成隐藏状态表示。通过softmax层输入隐藏的表示，以预测未来访问的医疗代码。实验数据表明，采用本实施例提供的方法，在预测未来访问信息时，注意机制可以对之前的访问分配不同的权重，不仅能够有效的完成诊断预测任务，而且能够合理地解释预测结果。

技术领域

本发明涉及预测诊断技术领域，尤其涉及一种基于注意力的双向递归神经网络的诊断预测方法。

背景技术

电子健康记录(Electronic Health Records,EHR)由纵向的患者健康数据组成，患者EHR数据包括随时间推移的就诊序列，其中每次就诊包含多个医疗代码，包括诊断、用药和程序代码,已经成功地应用于医疗保健中的几个预测建模任务。EHR数据由一组高维临床变量(即、医疗规范)。其中一个关键任务是根据患者的既往EHR数据预测未来的诊断，即诊断预测。

在预测诊断时，每个病人的就诊时间和每次就诊的医疗编码可能具有不同的重要性。因此，诊断预测中最重要、最具挑战性的问题是:1.如何正确建模这些时间和高次二EHR数据，以显著提高预测性能；2.如何在预测结果中合理解释就诊和医疗规范的重要性。

诊断预测是一项具有挑战性和重要意义的工作，预测结果的准确预测是医疗预测模型的难点和关键问题。现有的许多诊断预测工作都采用了深度学习技术，如递归神经网络(RNNs)来建模时间和高维的EHR数据。然而，基于RNN的方法可能不能完全记住以前的所有访问信息，从而导致错误的预测。

发明内容

本发明的目的在于提供一种基于注意力的双向递归神经网络的诊断预测方法，从而解决现有技术中存在的前述问题。

为了实现上述目的，本发明采用的技术方案如下：

一种基于注意力的双向递归神经网络的诊断预测方法，包括如下步骤：

S1，构建患者电子健康病历中的医疗代码x_t作为诊断、干预编码、入院类型和时间推移序列的模型；根据时间1到t的访问信息，将第i次访问的医疗编码x_i∈{0,1}^|C|嵌入到向量表示v_i中：

v_i＝ReLU(W_vx_i+b_c)

其中，|C|是独特医疗代码的数量，m是嵌入维度大小，W_v∈R^m×|C|是医疗代码的权重，b_c∈R^m是偏置向量。ReLU是定义为ReLU(v)＝max(v,0)的整流线性单元，max()按元素顺序应用于向量；

S2，根据不同注意机制状态构建不同的双向递归神经网络：

将矢量v_i输入双向递归神经网络(BRNN)，输出隐藏状态h_i作为第i次访问的表示，隐藏状态集合记为

其中，为前向隐藏状态，为后向隐藏状态；

S3，根据相对重要性α_t和计算上下文状态向量c_t，如下：

通过以下softmax函数获得α_t：

α_t＝Softmax([α_t1，α_t2，...，α_t(t-1)]).