[发明专利]基于时间递归神经网络的微震信号到时自动拾取方法

摘要

本发明公开一种基于时间递归神经网络的微震信号到时拾取方法。本方法把每一个微震记录按照统一固定的维数采样，再人为的拾取部分记录的到时作为对应记录的标签信息，已拾取信息的记录及其标签作为网络构建时的总数据集，分成三个部分：训练数据集、验证数据集、测试数据集；通过把数据输入到深度信念神经网络中进行训练和测试，构建时间递归神经网络；把未经过到时拾取数据输入到的训练好的网络模型中，网络输出为一个对应于输入数据的序列，序列中第一个不为零的点即为微震数据的到时点。

主权项

1.一种基于时间递归神经网络的微地震信号到时自动拾取方法，其特征在于，通过构建时间递归神经网络模型实现微地震信号的识别及到时自动拾取，具体实现步骤如下：步骤一：对微地震数据按照固定的维数进行采样；步骤二：对用于网络模型训练的数据进行人工到时拾取，作为对应样本数据的标签信息；步骤三：把数据和标签放到同一数据集中，并把数据集划分为训练数据集、验证数据集和测试数据集；步骤四：搭建具有输入层、隐层和逻辑回归层的三层时间递归神经网络模型；步骤五：获取时间总数T，并设置时间步长t；时间总数T的大小等于每一个输入样本数据的长度n，数据样本X＝(x1,x2,...,xn)，T＝n；时间步长t∈T，取t＝1；步骤六：数据按照时间步长t依次输入时间递归神经网络模型，进行模型训练；所述步骤六中，把时间递归神经网络的隐层视为一个长短期记忆模型，记忆模型包含m个神经元，一个神经元中包含一个输入门、一个遗忘门、一个输出门和一个元胞；每个神经元有8组输入权重和4组偏置项，4组权重用于t时刻输入数据xt与该神经元的连接权重，分别为：Wi∈Rm、Wf∈Rm、Wc∈Rm、Wo∈Rm；另外4组权重用于t时刻，上一个时间t‑1的输出ht‑1与该神经元的连接权重，分别为：Ui∈Rm×m、Uf∈Rm×m、Uc∈Rm×m、Uo∈Rm×m；4组偏置项分别为：bi∈Rm、bf∈Rm、bc∈Rm、bo∈Rm；其中，W∈Rm表示1×m维欧式空间，U∈Rm×m表示m×m维欧式空间，b∈Rm表示1×m维欧式空间；下标i、f、c、o分别表示用于输入门、遗忘门、元胞、输出门；在t＝1时刻，所有的权值W都初始为一个1×m维的服从均值为范围在(‑a,a)之间的向量；所有的权值U都初始为一个m×m维的正交矩阵；所有的偏置项b都初始为一个1×m维的全为0的向量；长短期记忆模型在每个时刻t接受一个输入层的值xt和一个t‑1时刻长短期记忆模型的输出ht‑1；其中xt为样本第t个元素，ht‑1在t＝1时为0；长短期记忆模型参数的连接和计算方法如下：首先，通过遗忘门决定从元胞状态中丢弃什么信息，该门输入xt和ht‑1，输出一个在0和1之间的数值给每个元胞状态，1表示“完全保留”，0表示“完全舍弃”：f^t＝σ(W_fx^t+U_fh^t‑1+b_f)，其中，f^t为t时刻遗忘门的激活值；其次，通过输入门确定什么样的新信息被存放到元胞状态中，这里包括两部分，第一为σ层决定什么值是将要更新的，第二是一个tanh层创建一个新的候选元胞值it＝σ(Wixt+Uiht‑1+bi)其中i^t为t时刻输入门的激活值；然后，把旧状态C^t‑1与f^t相乘，丢弃掉确定更新的信息，接着加上i^t乘以来决定更新每个状态的变化程度，从而把旧状态C^t‑1更新为新状态C^t：最后，需要确定输出什么值，这个值基于元胞状态，这里包括两部分，第一为运行一个σ层来确定元胞状态的哪个部分将作为输出，第二是把元胞状态通过tanh层进行处理，并将它与σ层的输出相乘，这样输出的仅仅为确定要输出的那部分：ot＝σ(Woxt+Uoht‑1+bo)h^t＝o^t×tanh(C^t)，其中，o^t为t时刻输出门的激活值，h^t为t时刻对应于输入x^t在长短期记忆模型中的一个神经元的输出；步骤七：求取隐层每一个节点在所有时刻输出的最大值，并通过逻辑回归层得到网络输出；所述步骤七中，在不同的时间步长t中，每次的输入和输出都是不一样，但用到的参数W、U、b都是一样，参数共享；t时刻x^t在长短记忆模型中的输出为h^t，则所有时刻的输出为：H＝(h¹,h²,...,hⁿ)，求取该向量的最大值作为隐层的输出，通过逻辑回归函数得出网络的预测输出h_θ(x_i)，逻辑回归方程为：其中θ为隐层与输出层之间连接权值和偏置项两个参数，h_θ(x_i)表示一个数据样本中第i个特征对应的预测输出；步骤八：计算网络输出与输入样本对应的标签之间的误差，通过随时间变化的误差反向传播来完成网络参数的更新；所述步骤八中，通过网络预测输出hθ(xi)与期望输出yi之间的误差建立损失函数，其中，y∈{0,1}：其中n为一个样本中特征维数的大小；相应的建立目标函数：求取目标函数对参数的梯度：通过梯度下降的方法更新参数θ：其中为参数θ更新后的状态，α为学习率；随时间变化的误差反向传播，通过更新后的参数通过它的转置和转换函数得到隐层的重构值：其中为样本第i个特征x_i在隐层输出的重构值；依次从t＝n时刻到t＝1时刻计算重构值与每一个时刻长短期记忆模型的输出之间的误差，通过上述的方法计算得到对应的梯度，通过梯度下降的方法更新参数W、U、b；步骤九：设置一个验证参数N，当迭代训练N次后，进行一次交叉验证和测试，当验证误差趋于某值长期不变，且测试误差高于验证误差，即到达设定的准确率时停止网络训练，即基于时间递归神经网络的微地震信号到时自动拾取模型构建完成，否则返回步骤六，继续利用输入数据进行模型训练；步骤十：把未经过到时拾取的数据集输入到训练好的网络模型中，网络输出为对应于输入数据维度的一个序列；步骤十一：输出序列中第一个不为0的值即为波到时点。