[发明专利]面向语言模型的双单元搜索空间的结构搜索方法在审
申请号: | 202111084940.X | 申请日: | 2021-09-16 |
公开(公告)号: | CN113902094A | 公开(公告)日: | 2022-01-07 |
发明(设计)人: | 余正涛;苗育华 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 昆明人从众知识产权代理有限公司 53204 | 代理人: | 何娇 |
地址: | 650093 云*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及面向语言模型的双单元搜索空间的结构搜索方法,涉及人工智能领域。本发明在语言模型任务上对已有搜索策略的搜索空间提出了改进,构造了更加适合语言模型任务的搜索空间。通过在循环神经网络单元内部增加信息储存单元来对序列前端信息进行有效的保存,这样的搜索空间与语言模型任务更加匹配,且增加的单元能够缓解常规循环神经网络单元结构存在的无法解决长序列依赖的问题,增加序列语义信息的连续性。同时由于单元的增加直接扩大了搜索空间,也提高了搜索到更好的网络结构的概率。 | ||
搜索关键词: | 面向 语言 模型 单元 搜索 空间 结构 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111084940.X/,转载请声明来源钻瓜专利网。