[发明专利]用于压缩语言模型的电子设备、用于提供推荐词的电子设备及其操作方法在审
| 申请号： | 201880005774.X | 申请日： | 2018-02-06 |
| 公开（公告）号： | CN110168542A | 公开（公告）日： | 2019-08-23 |
| 发明（设计）人： | 俞承学;奈尔什·库尔卡尼;宋熙俊;李海俊 | 申请（专利权）人： | 三星电子株式会社 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27;G06N3/04;G06N3/08 |
| 代理公司： | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人： | 王达佐;杨莘 |
| 地址： | 韩国京畿道水*** | 国省代码： | 韩国;KR |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 提供了一种用于压缩语言模型的电子设备，该电子设备包括：存储装置，其被配置成存储语言模型，该语言模型包括通过基于包括多个语句的基本数据进行递归神经网络(RNN)训练而生成的嵌入矩阵和softmax矩阵；以及处理器，其被配置成：将嵌入矩阵转换成第一投影矩阵与共享矩阵的乘积，第一投影矩阵与共享矩阵的乘积具有与嵌入矩阵的大小相同的大小，并且将softmax矩阵的转置矩阵转换成第二投影矩阵与共享矩阵的乘积，第二投影矩阵与共享矩阵的乘积具有与softmax矩阵的转置矩阵的大小相同的大小，以及通过基于基本数据而相对于第一投影矩阵、第二投影矩阵和共享矩阵执行RNN训练来更新第一投影矩阵、第二投影矩阵和共享矩阵的元素。 | ||
| 搜索关键词： | 矩阵 投影矩阵 电子设备 共享 嵌入 压缩语言模型 基本数据 转置矩阵 递归神经网络 存储语言 存储装置 矩阵转换 语言模型 处理器 配置 语句 转换 更新 | ||
【主权项】：
1.一种电子设备，配置成压缩语言模型，所述电子设备包括：存储装置，配置成存储语言模型，所述语言模型包括通过基于包括多个语句的基本数据进行递归神经网络RNN训练而生成的嵌入矩阵和softmax矩阵；以及处理器，配置成：将所述嵌入矩阵转换成第一投影矩阵与共享矩阵的乘积，所述第一投影矩阵与所述共享矩阵的乘积具有与所述嵌入矩阵的大小相同的大小，并且将所述softmax矩阵的转置矩阵转换成第二投影矩阵与所述共享矩阵的乘积，所述第二投影矩阵与所述共享矩阵的乘积具有与所述softmax矩阵的所述转置矩阵的大小相同的大小，以及通过基于所述基本数据而相对于所述第一投影矩阵、所述第二投影矩阵和所述共享矩阵执行所述RNN训练来更新所述第一投影矩阵、所述第二投影矩阵和所述共享矩阵的元素。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于三星电子株式会社，未经三星电子株式会社许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201880005774.X/，转载请声明来源钻瓜专利网。
