[发明专利]基于信息瓶颈理论的解纠缠表征学习方法及装置在审
申请号: | 202310195436.X | 申请日: | 2023-02-24 |
公开(公告)号: | CN116152365A | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 韩丛英;刘子文;李明强;唐思琦;郭田德 | 申请(专利权)人: | 中国科学院大学 |
主分类号: | G06T9/00 | 分类号: | G06T9/00;G06N3/0455;G06N3/08 |
代理公司: | 北京中知法苑知识产权代理有限公司 11226 | 代理人: | 李明;赵吉阳 |
地址: | 100049 北京市石景*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 信息 瓶颈 理论 纠缠 表征 学习方法 装置 | ||
1.一种基于信息瓶颈理论的解纠缠表征学习方法,其特征在于,所述解纠缠表征学习方法包括:
将待处理的图像数据输入基于信息瓶颈理论建立的阶梯式编码器网络,得到多个属性表示以及残余信息表示;其中,各个所述属性表示分别与所述图像数据中的多个属性信息一一对应,所述残余信息表示与所述图像数据中所述多个属性信息之外的其他信息相对应;
连接所述多个属性表示以及所述残余信息表示,得到所述图像数据对应的最终隐藏表示;其中,所述最终隐藏表示包括多个表示块,各个所述表示块分别与多个所述属性表示以及所述残余信息表示一一对应;
将所述最终隐藏表示中的所有所述表示块投影到同一个共享隐空间中,得到每个所述表示块分别对应的投影表示;
连接各个所述投影表示,将连接后的各个所述投影表示输入预设的解码网络,得到所述图像数据对应的解纠缠重构数据。
2.根据权利要求1所述的解纠缠表征学习方法,其特征在于,
所述阶梯式编码器网络包括依次连接的n层编码器,每层编码器均基于其对应的输入数据输出所述图像数据中的一个属性信息对应的属性表示,并得到其输入数据中该属性表示对应的属性信息之外的其他信息对应的本层编码器的剩余信息表示,同时将本层编码器的剩余信息表示作为下一层编码器的输入数据;
所述将待处理的图像数据输入基于信息瓶颈理论建立的阶梯式编码器网络,得到多个属性表示以及残余信息表示,包括:
将所述图像数据输入所述阶梯式编码器网络,得到所述阶梯式编码器网络中第1,2,…,n层编码器分别输出的属性表示z1,z2,…,zn以及残余信息表示sn。
3.根据权利要求2所述的解纠缠表征学习方法,其特征在于,所述解纠缠表征学习方法还包括:
对所述阶梯式编码器网络和所述预设的解码网络进行优化,以使下式(1)所示的损失函数达到最小:
其中,代表所述阶梯式编码器网络对应的第一损失函数,代表所述解码网络对应的第二损失函数,λ代表平衡因子。
4.根据权利要求3所述的解纠缠表征学习方法,其特征在于,所述第一损失函数表示为下式(2):
其中,φ代表所述阶梯式编码器网络的网络参数,β代表拉格朗日乘数,θ代表所述解码网络的网络参数,i=1,2,…,n代表所述阶梯式编码器网络中的编码器层数编号,si-1代表第i-1层编码器的剩余信息表示,hi=[zi,si]代表第i层编码器输出的属性表示zi与第i层编码器的剩余信息表示si组成的表示集合,x代表所述图像数据,z=[z1;z2;…;zn;sn]代表所述图像数据对应的最终隐藏表示,Iφ(si-1;hi)代表si-1与hi基于所述阶梯式编码器网络的互信息,Iθ,φ(z;x)代表z与x基于所述阶梯式编码器网络和所述解码网络的互信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院大学,未经中国科学院大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310195436.X/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置