[发明专利]完整语言序列的语言建模

摘要

提供方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于对完整语言序列的语言建模。访问指示语言序列的训练数据，确定每个语言序列在训练数据中出现的次数的计数。选择语言序列的真子集，并且训练语言模型的第一组件。第一组件包括用于向被选语言序列指派评分的第一概率数据。基于训练数据来训练语言模型的第二组件，其中第二组件包括用于向被选语言序列中未包括的语言序列指派评分的第二概率数据。生成相对于第一概率数据归一化第二概率数据的调整数据，并且存储第一组件、第二组件和调整数据。

主权项

1.一种由数据处理装置执行的用于语言建模的方法，所述方法包括：访问指示一个或多个用户所提交的查询的训练数据；针对所述查询中的每一个查询确定训练数据指示该查询被提交的次数的计数；基于计数选择所述查询的真子集；基于计数训练语言模型的第一组件，所述第一组件包括指示训练数据当中被选查询的相对频率的第一概率数据；基于训练数据训练语言模型的第二组件，所述第二组件包括用于向所述被选查询中未包括的查询指派评分的第二概率数据；确定相对于第一概率数据归一化第二概率数据的调整数据；存储第一组件、第二组件和调整数据；使用语言模型的第一组件来确定特定查询的第一评分；使用语言模型的第二组件来确定所述特定查询的第二评分；确定第一评分和第二评分不满足预定关系；以及响应于确定第一评分和第二评分不满足预定关系，从所述被选查询中去除所述特定查询以生成变更的被选查询集合。