[发明专利]用于处理由观察到的三元组语句表示的知识图的神经形态硬件和用于训练学习组件的方法在审
申请号: | 202210057132.2 | 申请日: | 2022-01-18 |
公开(公告)号: | CN114819048A | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | J·索莱加里多;D·多德 | 申请(专利权)人: | 西门子股份公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G05B13/02;G06N5/04 |
代理公司: | 中国专利代理(香港)有限公司 72001 | 代理人: | 浩路;周学斌 |
地址: | 德国*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 处理 观察到 三元 语句 表示 知识 神经 形态 硬件 训练 学习 组件 方法 | ||
1.一种用于处理由观察到的三元组语句(T)表示的知识图(KG)的神经形态硬件,
- 其具有学习组件(LC),
学习组件(LC)由以下各项组成:
- 输入层,包含神经元(N)的节点嵌入群体(NEP),其中每个节点嵌入群体(NEP)表示被包含在观察到的三元组语句(T)中的实体,以及
- 输出层,包含输出神经元(SDON),所述输出神经元(SDON)被配置成用于表示每个可能三元组语句的似然性,
并且学习组件(LC)对从能量函数导出的基于采样的概率模型进行建模,其中观察到的三元组语句(T)具有最小能量,以及
- 其具有控制组件(CC),控制组件(CC)被配置成用于将学习组件(LC)切换到如下模式:
- 数据驱动的学习模式,其被配置成用于仅使用被指派有低能量值的观察到的三元组语句(T)、利用最大似然学习算法来训练所述组件(LC),所述最大似然学习算法最小化所述基于采样的概率模型中的能量,
- 采样模式,其中学习组件(LC)支持三元组语句的生成,以及
- 模型驱动的学习模式,其被配置成用于仅使用所生成的三元组语句、利用所述最大似然学习算法来训练所述组件(LC),其中学习组件(LC)进行学习以将高能量值指派给所生成的三元组语句。
2.根据权利要求1所述的神经形态硬件,
- 其中控制组件(CC)被配置成交替地进行如下操作:
- 通过选择性地激活所述节点嵌入群体(NEP)当中的主体和客体群体来呈现去往学习组件(LC)的输入,
- 设置学习组件(LC)的超参数,特别是设置调节学习组件(LC)的学习更新(LU)的因子(η),
- 读取学习组件(LC)的输出,以及
- 使用学习组件(LC)的输出作为对学习组件(LC)的反馈。
3.根据权利要求1或2所述的神经形态硬件,
- 其中所述输出层针对所述知识图(KG)的每个可能关系类型具有一个输出神经元(SDON)。
4.根据权利要求3所述的神经形态硬件,
- 其中所述输出神经元(SDON)是随机树突输出神经元,所述随机树突输出神经元在其树突中存储在观察到的三元组语句(T)中的主体与客体之间给出的关系的嵌入,从而将所有树突分支求和成最终得分,所述最终得分使用激活函数(AF)被变换成概率。
5.根据权利要求4所述的神经形态硬件,
- 其中取决于学习组件(LC)的模式,所述激活函数(AF)的输出是对三元组语句的似然性的预测、或转移概率。
6.根据权利要求4或5所述的神经形态硬件,
- 其中直接在所述随机树突输出神经元(SDON)的树突树中计算针对关系嵌入的学习更新(LU)。
7.根据前述权利要求中任一项所述的神经形态硬件,
- 其中使用从每个输出神经元(SDON)到所述节点嵌入群体(NEP)的神经元(N)的静态反馈连接(FC)来计算针对实体嵌入的学习更新(LU)。
8.根据前述权利要求中任一项所述的神经形态硬件,
- 其中在采样模式中,通过从所述激活函数(AF)进行采样,二元输出向控制组件(CC)发信号通知三元组语句是否被接受。
9.根据前述权利要求中任一项所述的神经形态硬件,
- 其中所述神经形态硬件是专用集成电路、现场可编程门阵列、晶片级集成、具有混合模式VLSI神经元的硬件、或神经形态处理器、特别是神经处理单元或混合信号神经形态处理器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西门子股份公司,未经西门子股份公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210057132.2/1.html,转载请声明来源钻瓜专利网。