[发明专利]一种基于冗余信息过滤的无监督句子表征学习方法在审
| 申请号： | 202310508625.8 | 申请日： | 2023-05-08 |
| 公开（公告）号： | CN116523027A | 公开（公告）日： | 2023-08-01 |
| 发明（设计）人： | 孙玉灵;陈少斌 | 申请（专利权）人： | 华东师范大学 |
| 主分类号： | G06N3/088 | 分类号： | G06N3/088;G06N3/0895;G06N3/08;G06F40/194;G06F16/33;G06F16/35 |
| 代理公司： | 上海蓝迪专利商标事务所(普通合伙) 31215 | 代理人： | 徐筱梅;张翔 |
| 地址： | 200241 *** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于冗余信息过滤的无监督句子表征学习方法，其特点是基于信息最小化原则的重构操作，对预训练数据集当中的冗余信息进行过滤，训练使用BERT和RoBERTa为基础模型，将其在维基百科数据集上训练得到InforMin‑CL模型，该模型输出端的隐藏向量被全连接网络进一步映射得到的向量，作为学习到的句子表示，所述重构通过一个正样本去重构另一个正样本，以实现冗余信息的过滤。本发明与现有技术相比具有基于信息最小化原则设计的重构操作，以丢弃冗余信息，通过基于对比学习的句子表征学习模型，可贡献于所有基于对比学习的句子表征学习模型中的预训练冗余信息过滤问题，对提升模型性能有极大的帮助。 | ||
| 搜索关键词： | 一种 基于 冗余 信息 过滤 监督 句子 表征 学习方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华东师范大学，未经华东师范大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310508625.8/，转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端，信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置
