[发明专利]结合显隐式信息的注意力知识网络在审
申请号: | 202310017654.4 | 申请日: | 2023-01-06 |
公开(公告)号: | CN116010716A | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 秦继伟;邓尚举;王小乐;郑炅 | 申请(专利权)人: | 新疆大学 |
主分类号: | G06F16/9536 | 分类号: | G06F16/9536;G06F16/9535;G06F16/36;G06F18/25;G06N3/045;G06N3/08;G06N5/022 |
代理公司: | 济南鼎信专利商标代理事务所(普通合伙) 37245 | 代理人: | 曹玉琳 |
地址: | 830046 新疆维吾尔*** | 国省代码: | 新疆;65 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 结合 显隐式 信息 注意力 知识 网络 | ||
1.结合显隐式信息的注意力知识网络,其特征在于,包括步骤:
S1、收集用户历史行为数据,进行数据处理,并将推荐系统中的项目和知识图谱中的实体对应起来,利用用户历史交互的项目在知识图谱中对应的实体,在知识图谱中向外延申,并使用一个多头注意力机制为实体分配不同的权重;
S2、使用一个信息共享层,使项目和实体产生特征交互,互补可用信息;
S3、在波纹传播层中,输入用户交互的项目表示,然后利用项目和知识图谱中实体的对应关系和知识图谱中实体间的连接关系,在知识图谱中传播用户偏好,最后将扩散得到的实体表示聚合到用户表示;
S4、在跨特征融合网络中,在元素级进行特征的显式交互,减少参数数量;
S5、将获得的用户和项目的增强嵌入表示进行点积得到用户对项目的预测结果,最终在预测层,将显隐式信息结合输出点击预测结果。
2.根据权利要求1所述的结合显隐式信息的注意力知识网络,其特征在于,步骤S2中,将推荐系统中项目的潜在嵌入表示和对应的知识图谱中实体表示输入到信息共享层中,信息共享层先对项目的嵌入表示和知识图谱中的实体表示进行升维,然后在高纬度下进行信息的融合互补,最终将融合共享后的高维信息处理后输出。
3.根据权利要求1所述的结合显隐式信息的注意力知识网络,其特征在于,步骤S3中,使用注意力机制为每一层波纹网络分配不同的权重。
4.根据权利要求1所述的结合显隐式信息的注意力知识网络,其特征在于,步骤S4中,在跨特征融合网络中,对先前的项目表示和波纹传播层扩散过程中的每一层所聚合的实体表示进行外积操作,形成类似张量的形式,然后通过对该张量进行维度压缩得到下一级网络的输入。
5.根据权利要求1所述的结合显隐式信息的注意力知识网络,其特征在于,步骤S5中,采用负采样策略训练模型,损失函数如下:
其中,U表示用户,V表示项目,E表示实体嵌入矩阵,R为关系嵌入矩阵,J( )为交叉熵损失函数,λ*为模型参数。
6.根据权利要求1所述的结合显隐式信息的注意力知识网络,其特征在于,步骤S5中,使用随机梯度下降法优化目标函数,学习率和batch_size分别采用网格搜索法确定。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新疆大学,未经新疆大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310017654.4/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置