[发明专利]基于贝叶斯卷积的不确定性处理方法、装置、设备和介质在审
申请号: | 202111214022.4 | 申请日: | 2021-10-19 |
公开(公告)号: | CN116012597A | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 方建生 | 申请(专利权)人: | 广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司 |
主分类号: | G06V10/44 | 分类号: | G06V10/44;G06N3/0464;G06N3/08 |
代理公司: | 北京泽方誉航专利代理事务所(普通合伙) 11884 | 代理人: | 唐明磊 |
地址: | 510530 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 贝叶斯 卷积 不确 定性处理 方法 装置 设备 介质 | ||
本发明实施例公开了基于贝叶斯卷积的不确定性处理方法、装置、电子设备和存储介质,通过获取待识别图像;将待识别图像输入预训练的卷积神经网络模型进行目标识别,卷积神经网络模型包括基于贝叶斯卷积层的通道注意力模块,通道注意力模块用于对输入的初始多维特征依次进行平均池化和转置,得到一维特征,对一维特征进行贝叶斯卷积,得到卷积特征,将卷积特征扩展到与初始多维特征的维度相同,并与初始多维特征相乘,得到通道注意力模块的输出多维特征,卷积神经网络模块基于输出多维特征对待识别图像进行图像识别;输出卷积神经网络模型对待识别图像的识别结果。解决现有模型参数较多、先验分布给定问题,可以有效地对图像的不确定性进行预测。
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及基于贝叶斯卷积的不确定性处理方法、装置、电子设备和存储介质。
背景技术
CNN(Convolutional Neural Network,卷积神经网络)基于观测到的数据(训练样本)通过反向传播训练模型,获得模型参数的最优点估计,支持模型输出确定性结果。这种基于参数最优点估计训练的CNN网络能较好地拟合观测到的数据,但不能较好地预测未观测到的数据(测试样本),即产生了对现有训练样本的过度拟合。尽管现有的正则化方法可以一定程度缓解过拟合,如early stopping、权值衰减、L1-L2正则化、dropout等,但模型本身不能度量不确定性。以分类任务来说,softmax函数通过压缩其他类的输出概率得分来最大化给定类的输出概率得分,这种概率不是模型对输出给定类的置信度。
为提升CNN模型的泛化能力,支持模型度量不确定性,现有的研究引入了贝叶斯(Bayesian)方法,得到BCNN(Bayesian Convolutional Neural Network,贝叶斯卷积神经网络),将模型参数的最优点估计转化为模型参数的分布估计。BCNN首先为参数给定一个先验分布,然后通过变分推理(Variational Inference)方法进行梯度近似估计,基于观测到的数据(训练样本)学习拟合参数的后验分布。从观测到的数据中学习到参数的后验分布,用于对未观测到的数据(测试样本)进行推断。
发明人在使用BCNN构建网络模型进行图像识别时发现,尽管BCNN模型支持不确定性估计,但仍然存在参数多、良好先验分布难以给定、梯度近似估计的问题。
发明内容
本发明提供了一种基于贝叶斯卷积的不确定性处理方法、装置、电子设备和存储介质,以解决现有贝叶斯卷积神经网络模型参数较多、良好先验分布难以给定、梯度近似估计的技术问题。
第一方面,本发明实施例提供了一种基于贝叶斯卷积的不确定性处理方法,包括:
获取待识别图像;
将所述待识别图像输入预训练的卷积神经网络模型进行目标识别,所述卷积神经网络模型包括基于贝叶斯卷积层的通道注意力模块,所述通道注意力模块用于对输入的初始多维特征依次进行平均池化和转置,得到一维特征,对所述一维特征进行贝叶斯卷积,得到卷积特征,将所述卷积特征扩展到与所述初始多维特征的维度相同,并与所述初始多维特征相乘,得到所述通道注意力模块的输出多维特征,所述卷积神经网络模块基于所述输出多维特征对所述待识别图像进行图像识别;
输出所述卷积神经网络模型对所述待识别图像的识别结果。
第二方面,本发明实施例还提供了一种基于贝叶斯卷积的不确定性处理装置,包括:
图像获取单元,用于获取待识别图像;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司,未经广州视源电子科技股份有限公司;广州视源人工智能创新研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111214022.4/2.html,转载请声明来源钻瓜专利网。