[发明专利]一种基于神经网络的第二语言习得模型

权利要求书

1.一种自适应学习系统，其特征在于：所述自适应学习系统包括基于神经网络的第二语言习得模型，所述基于神经网络的第二语言习得模型包括上下文语境编码器、语言学特征编码器、用户信息编码器、题目形式编码器和解码器，所述上下文语境编码器的输入特征为单词与字母，所述语言学特征编码器的输入特征为相应单词的词性与依存标签，所述用户信息编码器的输入特征为学生ID信息、学习时长和学生的国籍，所述题目形式编码器的输入特征为答题状态、习题的类型、答题时间和答题的方式，所述解码器的输入包括上下文语境编码器的输出、语言学特征编码器的输出、用户信息编码器的输出和题目形式编码器的输出，所述解码器的输出包括单词的预测概率；

其中，所述上下文语境编码器包括单词级别编码器与字母级别编码器，所述单词级别编码器的结构为双向的LSTM结构，所述字母级别编码器的结构为层级式的双向LSTM结构，所述语言学特征编码器的结构为LSTM结构，通过将词性与依存标签的嵌入表述拼接作为输入，所述用户信息编码器和题目形式编码器的结构均为全连接的神经网络结构。

2.根据权利要求1所述的一种自适应学习系统，其特征在于：所述单词级别编码器的结构表述为将句子中的各个单词(w₁，w₂，...，w_N)的词嵌入表述作为输入，输入到前向与后向LSTM模型中，将前后向LSTM最后一层的输出拼接得到单词级别编码器的输出g_t：

其中K₀表述LSTM的层数；

所述字母级别编码器的结构表述为将各个单词(w₁，w₂，...，w_N)的字母嵌入表述输入到一个LSTM中，对各个单词做编码，然后把各个单词的编码输出通过Mean over Time层，得到(h_w1，h_w2，...，h_wN)，其中K₁为LSTM的层数，M为该单词的字母数量，把(h_w1，h_w2，...，h_wN)输入到前向与后向LSTM中，然后把前后向LSTM的输出拼接得到字母级别编码器的输出

其中K₂表述该LSTM层的层数，

上下文编码器最后输出为：O＝(o₁，o₂，...，o_N)，其中

3.根据权利要求1所述的一种自适应学习系统，其特征在于：所述语言学特征编码器结构表述为将词性与依存标签的嵌入表示拼接作为输入：

其中K₃为该LSTM层的层数。

4.根据权利要求1所述的一种自适应学习系统，其特征在于：所述用户信息编码器结构表述为：

u⁰＝[u,s,days]

其中u是用户的嵌入表示，s是用户国籍的嵌入表示，days是用户的学习时长，j＝1，2，...，K₄，K₄为神经网络的层数，W_u，b_u是参数，由训练得到。

5.根据权利要求1所述的一种自适应学习系统，其特征在于：所述题目形式编码器表述为：

f⁰＝[m,sess,c,t]

其中m是题型的嵌入表示，sess表示答题状态的嵌入表示，c表示答题方式的嵌入表示，t是答题花费的时间，j＝1，2，...，K₅，K₅是题型编码器的层数，W_f、b_f是训练得到的参数。