[发明专利]基于半监督学习的大规模网络开放课程退课预测算法

摘要

本发明涉及基于半监督学习的大规模网络开放课程退课预测算法，首先从慕课网站获取用户的学习日志文件，获取的用户一部分构成测试样本集，另一部分构成训练样本集；其次根据用户的学习日志文件统计训练样本集中所有样本的行为特征，得到最能表达训练样本集中所有样本共有特性的n种行为特征；第三根据n种行为特征采用半监督学习方法获得R种分类器；第四使用测试样本集对R种分类器的标注准确率进行测试，选出标注准确率最高的分类器，最后将任意一个未标记的用户的行为特征输入上述分类器，即可对给用户进行标记。该算法只需要使用较少的标记样本即可，减少了对样本进行标注花费的大量人力和物力，不但节约了预测成本，而且预测准确率也提高了。

主权项

基于半监督学习的大规模网络开放课程退课预测算法，其特征在于，包括如下步骤：S1：从MOOC网站获取用户的学习日志文件，获取的用户一部分构成测试样本集，另一部分构成训练样本集，其中测试样本集中的测试样本全部是已标记样本，该训练样本集中包括未标记样本和已标记样本，所有未标记样本构成未标记样本集，所有已标记样本构成标记样本集；S2：根据用户的学习日志文件统计训练样本集中所有样本的行为特征，得到最能表达训练样本集中所有样本共有特性的n种行为特征；设某一课程的课程持续时间为K周；设U_i＝{U(i,1),....,U(i,j),....,U(i,n)}，U_i表示训练样本集中的第i个样本，U(i,j)＝{(U(i,j)₁,....U(i,j)_k....U(i,j)_K)}，U(i,j)表示训练样本集中第i个样本的第j种行为特征向量，U(i,j)_k表示第i个用户的第j种行为特征在课程持续时间的第k周出现的次数；S3：从n种行为特征中随机选取m种行为特征，并采用下述方式获得R种分类器，其中，m≤n，$R=C_n^m=\frac{n!}{m!(n-m)!},r=1,2,3...R;$R种分类器的获得方式如下：S301：设r＝1；S302：j＝1；S303：v＝1；S304：设P_rj(C|U(i,j))为训练样本集中第i个样本在第j种行为特征下被标注为C的概率，其中，被标注C＝0的样本表示存留用户，被标注C＝1的样本表示退课用户；S305：选择未标记样本集中第j种行为特征下的所有未标记样本，第j种行为特征下所有未标记样本形成的集合U_j，分别计算集合U_j中每个未标记样本的P_rj(C＝0|U(v,j)_k)和P_rj(C＝1|U(v,j)_k)，其中v＝1,2,...,|U_j|，|U_j|表示集合U_j中样本的总数；$P_{rj}(C=0|U\left(v,j\right))=\frac{P_{rj}\left(U\right(v,j\left)\right|C=0)\·P_{rj}(C=0)}{P_{rj}\left(U\right(v,j\left)\right)}---\left(1\right);$$P_{rj}(C=0)=\frac{\left|L_{j,C=0}\right|}{\left|U_j\right|+\left|L_j\right|}---\left(1a\right);$其中，|L_j,C＝0|表示在第j种行为特征下已标记样本集中被标注C＝0的样本的总数，L_j表示第j种行为特征下所有已标注样本形成的集合，|L_j|表示集合L_j中样本的总数，|U_j|+|L_j|表示第j种行为特征下训练样本集中样本的总数；P_rj(U(v,j)|C＝0)＝P_rj(U(v,j)₁|C＝0)·P_rj(U(v,j)₂|C＝0),...,  (1b)；P_rj(U(v,j)_k|C＝0),...P_rj(U(v,j)_K|C＝0)$P_{rj}\left(U{\left(v,j\right)}_k\right|C=0)=\frac{\left|L_{j,C=0}\left(U{\left(v,j\right)}_k\right)\right|}{\left|L_{j,C=0}\right|}---(1b-1);$其中，|L_j,C＝0|表示在第j种行为特征下已标记样本集中被标注C＝0的样本的总数，|L_j,C＝0(U(v,j)_k)|表示在第j种行为特征下已标记样本集中被标注C＝0的样本中，在课程持续时间的第k周出现第j种行为的次数为U(v,j)_k的样本的总数；$P_{rj}(C=1|U\left(v,j\right))=\frac{P_{rj}\left(U\right(v,j\left)\right|C=1)\·P_{rj}(C=1)}{P_{rj}\left(U\right(v,j\left)\right)}---\left(2\right);$$P_{rj}(C=1)=\frac{\left|L_{j,C=1}\right|}{\left|U_j\right|+\left|L_j\right|}---\left(2a\right);$其中，|L_j,C＝1|表示在第j种行为特征下已标记样本集中被标注C＝1的样本的总数；P_rj(U(v,j)|C＝1)＝P_rj(U(v,j)₁|C＝1)·P_rj(U(v,j)₂|C＝1),...,  (2b)；P_rj(U(v,j)_k|C＝1),...P_rj(U(v,j)_K|C＝1)$P_{rj}\left(U{\left(v,j\right)}_k\right|C=1)=\frac{\left|L_{j,C=1}\left(U{\left(v,j\right)}_k\right)\right|}{\left|L_{j,C=1}\right|}---(2b-1);$其中，|L_j,C＝1|表示在第j种行为特征下已标记样本集中被标注C＝1的样本的总数，|L_j,C＝1(U(v,j)_k)|表示在第j种行为特征下已标记样本集中被标注C＝1的样本中，在课程持续时间的第k周出现第j种行为的次数为U(v,j)_k的样本的总数；P_rj(U(v,j))＝P(U(v,j)|C＝0)·P(C＝0)  (3)；P(U(v,j)|C＝1)·P(C＝1)输出P_rj(C＝0|U(v,j)_k)和P_rj(C＝1|U(v,j)_k)；S306：令v＝v+1；S307：当v>|U_j|时，执行下一步，否则返回步骤S304；S308：max{P_rj(C＝0|U(v,j))}＝max{P_rj(C＝0|U(v,j)),v＝1,2,3...u_j}，将max{P_rj(C＝0|U(v,j))}对应的未标记样本从集合U_j中剔除，同时将max{P_rj(C＝0|U(v,j))}对应的未标记样本移入集合L_j，并将max{P_rj(C＝0|U(v,j))}对应的未标记样本标注C＝0；max{P_rj(C＝1|U(v,j))}＝max{P_rj(C＝1|U(v,j)),v＝1,2,3...TU_j}，将max{P_rj(C＝1|U(v,j))}对应的未标记样本从集合U_j中剔除，同时将max{P_rj(C＝1|U(v,j))}对应的未标记样本移入集合L_j，并将max{P_rj(C＝1|U(v,j))}对应的未标记样本标注C＝1；S309：更新第j种行为特征下所有未标记样本形成的集合U_j和第j种行为特征下所有已标注样本形成的集合L_j，令|U_j|＝|U_j|‑2，|T_j|＝|T_j|+2；S310：|U_j|≥2时，返回步骤S303，否则执行下一步；S311：令j＝j+1；S312：当j>m时，输出当前已标记样本集，并执行下一步；否则返回步骤S303；S313：令r＝r+1；S314：当r>R时，执行下一步；否则返回步骤S302；S4：选择最优的分类器S401：获取步骤S1中的测试样本集，该测试样本集中共有H个测试样本，h＝1,2，…H；S402：令r＝1；S403：令h＝1；S404：根据公式(4)计算P_h(C＝0|U(v,j))：$P_h(C=0|U\left(v,j\right))=\underset{j=1}{\overset{m}{\Σ}}{P}_{rj}(C=0|U\left(v,j\right))---\left(4\right);$根据公式(5)计算P_h(C＝1|U(v,j))：$P_h(C=1|U\left(v,j\right))=\underset{j=1}{\overset{m}{\Σ}}{P}_{rj}(C=1|U\left(v,j\right))---\left(5\right);$S405：如果P_h(C＝0|U(v,j))≥P_h(C＝1|U(v,j))，则将第h个测试样本标注C＝0，否则标注C＝1，输出标记后的第h个测试样本；S406：令h＝h+1；S407：如果h>H，则执行下一步，否则返回步骤S404；S408：计算第r个分类器的准确率η_r，其中S＝H表示使用第r个分类器进行标注的次数，S’表示使用第r个分类器标注正确的次数；S409：令r＝r+1；S410：如果r>R，则执行下一步，否则返回步骤S403；S411：max{η_r}＝max{η_r,r＝1,2,3...R}，max{η_r}对应的分类器为标注准确率最高的分类器，最后输出max{η_r}对应的分类器，该分类器记为S5：对于任意一个未标记的用户U_x，根据其学习日志文件，获取该用户的n种行为特征，选定步骤S411输出的分类器，然后根据公式(6)计算$P_{U_x}(C=0|U\left(1,j\right));$$P_{U_x}(C=0|U\left(1,j\right))=\underset{j=1}{\overset{m}{\Σ}}{P}_{{r_{max}}^j}(C=0|U\left(1,j\right))---\left(6\right);$根据公式(7)计算$P_{U_x}(C=1|U\left(1,j\right))=\underset{j=1}{\overset{m}{\Σ}}{P}_{{r_{max}}^j}(C=1|U\left(1,j\right))---\left(7\right);$如果$P_{U_x}(C=0|U\left(1,j\right))\≥P_{U_x}(C=1|U\left(1,j\right))$则将用户U_x标注C＝0，否则注C＝1。