[发明专利]用于存储语言模型的方法、设备、介质和程序产品在审
申请号: | 202210191648.6 | 申请日: | 2022-02-28 |
公开(公告)号: | CN114580406A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 赵梦原 | 申请(专利权)人: | 贝壳找房网(北京)信息技术有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/30;G06F40/216;G10L15/26 |
代理公司: | 北京思源智汇知识产权代理有限公司 11657 | 代理人: | 郑晓斐 |
地址: | 101500 北京市密云区经济开发区兴盛南路*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 存储 语言 模型 方法 设备 介质 程序 产品 | ||
1.一种用于存储语言模型的方法,其特征在于,包括:
获取待存储的语言模型中的待存储词表,所述待存储词表包括多个词序列以及每个所述词序列的概率信息,其中,所述词序列包括高阶词序列和低阶词序列,每个所述高阶词序列包含至少一个所述低阶词序列;
确定所述高阶词序列与所述低阶词序列的父子从属关系;
基于所述父子从属关系,确定所述待存储词表对应的树状结构,所述树状结构中的节点与所述词序列一一对应;
当所述词序列在所述树状结构中对应的节点为非叶子节点时,基于该词序列的概率信息以及该非叶子节点的子节点对应的词序列的概率信息,生成该词序列的状态信息;
确定所述词序列与所述状态信息的映射关系;
基于所述父子从属关系和所述映射关系,存储所述待存储词表和所述状态信息。
2.根据权利要求1所述的方法,其特征在于,基于该词序列的概率信息以及该非叶子节点的子节点对应的词序列的概率信息,生成该词序列的状态信息,包括:
基于所述父子从属关系,确定所述非叶子节点的子节点对应的词序列,并为每一个所述子节点对应的词序列构建一个数据对,所述数据对包括编号数据和信息数据,将所述信息数据的末位确定为叶子标识位;
若所述子节点为非叶子子节点,则将所述非叶子子节点对应的词序列的编号和指针,分别写入所述非叶子子节点对应的数据对中的编号数据和信息数据,并将该数据对的叶子标识位设置为1,所述指针用于确定所述非叶子子节点对应的词序列的状态信息的存储地址;
若所述子节点为叶子子节点,则将所述子节点对应的词序列的编号和概率信息,分别写入所述子节点对应的数据对中的编号数据和信息数据,并将该数据对的叶子标识位设置为0,其中,该子节点对应的词序列的的概率信息不包括回退概率;
将所述数据对作为数组元素,存入预设的序列容器;
基于所述非叶子节点对应的词序列的概率信息以及所述序列容器的调用指令,生成所述状态信息。
3.根据权利要求2所述的方法,其特征在于,所述指针经由如下步骤生成:
确定所述非叶子子节点对应的词序列的状态信息的存储位置相对于所述非叶子节点对应的词序列的状态信息的存储位置的地址偏移量;
将所述地址偏移量确定为所述非叶子子节点对应的词序列的指针。
4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
将所述信息数据的首位确定为溢出标识位;
若所述非叶子子节点的数量小于所述信息数据的存储空间,将所述非叶子子节点的数据对的溢出标识位设置为0;
若所述非叶子子节点的数量不小于所述信息数据的存储空间,将所述非叶子子节点对应的词序列的状态信息的存储地址作为数组元素,存入预先设置的溢出数组;将所述非叶子子节点的数据对中的溢出标识位设置为1;以及,将所述非叶子子节点对应的词序列的状态信息的存储地址在所述溢出数组中的序号确定为所述非叶子子节点对应的词序列的指针。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述树状结构中的叶子节点对应的词序列为最低阶词序列,则基于所述最低阶词序列的概率信息,生成所述最低阶词序列的状态信息。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
将所述最低阶词序列的状态信息的存储地址作为数组元素,存入预先构建的一维数组。
7.根据权利要求1至6之一所述的方法,其特征在于,存储所述状态信息,包括:
对所述非叶子节点的子节点对应的词序列的状态信息排序,并按照排序结果将所述非叶子节点的子节点对应的词序列的状态信息依次存入与所述非叶子节点对应的词序列的状态信息相邻的存储位置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贝壳找房网(北京)信息技术有限公司,未经贝壳找房网(北京)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210191648.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种微凹辊间隙雕刻工艺
- 下一篇:一种水利工程用清淤设备