[发明专利]一种基于预训练模型提示微调的无监督短语抽取方法在审
| 申请号： | 202310690973.1 | 申请日： | 2023-06-12 |
| 公开（公告）号： | CN116738955A | 公开（公告）日： | 2023-09-12 |
| 发明（设计）人： | 线岩团;龙彪;余正涛;王红斌;相艳 | 申请（专利权）人： | 昆明理工大学 |
| 主分类号： | G06F40/186 | 分类号： | G06F40/186;G06F40/30;G06F40/289;G06F18/22;G06F18/214;G06N3/0455;G06N3/088 |
| 代理公司： | 云南盛恒知识产权代理有限公司 53224 | 代理人： | 占国霞 |
| 地址： | 650093 云*** | 国省代码： | 云南;53 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 本发明公开的一种基于预训练模型提示微调的无监督短语抽取方法，包括如下步骤：S1、使用自定义嵌入层对模版进行嵌入，然后将两种结果拼接得到带有文本信息和模版信息的向量；S2、利用预训练语言模型中的注意力结构生成一个向量序列，然后对向量序列进行降维；S3、计算全局语义模板向量与局部语义模板向量的KL散度，并使用句子长度对分数进行约束以避免出现局部最优解；S4、将得到每个词在背景和全局上的分数；S5、应用全局分数与背景分数的差值大于某个阈值的连续位置认为该片段为关键短语来进行短语抽取。本发明够有效地分离文本中的背景语义信息和全局语义信息，并利用单词在背景信息和语义信息上的分数差无监督地定位关键短语。 | ||
| 搜索关键词： | 一种 基于 训练 模型 提示 微调 监督 短语 抽取 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于昆明理工大学，未经昆明理工大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310690973.1/，转载请声明来源钻瓜专利网。
