[发明专利]一种裁减语言模型的方法和装置

说明书

技术领域

本发明涉及语言建模技术领域，尤其涉及一种裁减语言模型的方法和装置。

背景技术

随着计算机硬件性能的不断提升和软件智能性的不断提高，人们越来越期望计算机能够提供更加自然的人机交互方式，这表现在：(1)提供更加智能的汉语输入法；(2)提供连续语音输入功能；(3)提供连续手写功能。而这三种交互方式的实现，底层都需要有语言建模技术的支持，语言模型的性能直接决定了上述人机交互软件的智能性和易用性。

统计语言建模技术是目前语言建模的主流技术，Ngram语言模型是最成功的统计语言模型。Ngram表示在语料库中连续出现的N个词组成的词语序列，比较常用的是bigram(2个词组成的序列)和trigram(3个词组成的序列)，Ngram语言模型由大量的Ngram组成。Ngram语言模型是根据词语之间的条件概率来计算候选汉语句子的概率，并挑选概率最大的候选汉语语句作为人机交互软件的输出。按照Ngram语言模型的规定，对于一个包含m个词的汉语语句S＝W₁W₂...W_m，其概率为：

P(S)=P(W1W2...Wm)=Πi=1mP(Wi|Wi-n+1...Wi-1)=Πi=1mC(Wi-n+1...Wi-1Wi)C(Wi-n+1...Wi-1)]]>

其中，P(W_i|W_i-n+1...W_i-1)表示在词语序列W_i-n+1W_i-1出现的条件下出现词语W_i的条件概率；