[发明专利]一种复合神经网络模型及其建模方法

说明书

本发明公开了一种复合神经网络模型及其建模方法，包括：一个全连接稀疏建模模块、一个输入映射单层感知器层、一个字典学习单层感知器层以及一个反馈通路模块。全连接稀疏建模模块用于在系统的每一轮迭代中完成单一样本的稀疏建模，输入映射单层感知器层用于生成全连接稀疏建模模块所需的持续外输入，字典学习单层感知器层用于实现稀疏字典的学习和优化，反馈通路模块用于辅助全连接稀疏建模模块、提高建模的稀疏质量。本发明的优点是，通过Hopfield神经网络的全连接工作机制以及感知器神经网络模型的权值学习机制，实现一体化的数据驱动稀疏建模和字典学习，获取全局性更好、稀疏性能更优的建模结果。

技术领域

本发明涉及复合神经网络模型技术领域，特别涉及一种面向高稀疏质量稀疏建模的复合神经网络模型及其建模方法。

背景技术

作为信号处理领域中一门重要的信息压缩和特征提取方法，压缩感知(稀疏分解)技术在近年来得到了广泛的研究和应用，这类方法通过建立稀疏分解字典，可以将信号表达为少量稀疏重构系数与字典原子的线性组合，从而实现信号的压缩存储、传输，同时也可以作为一种有效的信号分析和特征提取手段。现有的压缩感知稀疏建模算法，如K-SVD及其改进算法等，常使用l₁范数或其他近似稀疏约束项作为l₀范数求解的最优凸近似，通过将l₁范数视为约束项并最小化重构误差来实现l₀范数的近似求解。这些方法虽然能够得到具备稀疏性的建模结果和字典学习结果，但受到求解算法的限制，其求解范式的稀疏约束项往往只能作为一个约束条件而非优化对象参与求解过程，稀疏度的限制往往不够充分，且求解过程的全局性也会受到影响、通常使用的贪婪求解算法会引入多种导致建模质量下降的问题，也很难得到接近训练样本数据集真实成分的字典学习结果。为了进一步提升现有稀疏分解算法的表现、使训练出的稀疏字典可以更好地提取训练样本集的固有特征、同时对每个单一样本也能求得全局上更优秀的稀疏表达系数向量，有必要对现有稀疏建模求解方法进行革新，引入具有良好全局性和优化效果的神经网络优化算法，以得到优化程度更高的稀疏分解结果。

发明内容

本发明针对现有技术的缺陷，提供了一种复合神经网络模型及其建模方法，解决了现有技术中存在的缺陷。

为了实现以上发明目的，本发明采取的技术方案如下，共包含3部分主要发明内容：

一种复合神经网络模型，包括：一个全连接稀疏建模模块、一个输入映射单层感知器层、一个字典学习单层感知器层以及一个反馈通路模块；

所述全连接稀疏建模模块与普通Hopfield神经网络结构相同，用于在系统的每一轮迭代中完成单一样本的稀疏建模，工作过程中需要接受来自输入映射感知器层的外输入，该模块收敛后的最终结果将提供给字典学习感知器层作为字典学习的依据；在该模块工作过程中，需要与反馈通路模块互相作用以提高建模的稀疏质量；

所述输入映射单层感知器层用于生成全连接稀疏建模模块所需的持续外输入，需要接收原始样本的输入并与稀疏字典作为感知器层的连接权值共同生成全连接建模层所需的输入，稀疏字典连接权值需要随时与字典学习单层感知器层保持一致；

所述字典学习单层感知器层用于实现稀疏字典的学习和优化，字典学习单层感知器层连接系数矩阵对应稀疏建模字典，需要接收全连接稀疏建模层对每个样本迭代收敛后的输出信号(即稀疏建模结果)，在输出端与期望输出信号(即原始样本信号)作比对，通过BP方式修正系数矩阵(即稀疏建模字典)实现字典学习，并同步影响输入映射感知器层的权值矩阵；

所述反馈通路模块用于辅助全连接稀疏建模模块、提高建模的稀疏质量，在全连接稀疏建模模块的工作过程中持续接收稀疏建模模块的输出，并将反馈结果输出至稀疏建模模块的输入端，调节全连接稀疏建模模块的网络行为；在这一模块中，使用不同的反馈结果计算方式将实现基于不同约束的稀疏建模。

本发明还公开了上述复合神经网络模型的建模方法，其特征在于，包括以下步骤：