基于组合神经网络的移动学习情境预测方法

文档序号:32349103发布日期:2022-11-26 12:19阅读:89来源:国知局
基于组合神经网络的移动学习情境预测方法

1.本发明属于计算机技术领域,具体涉及到移动学习情境预测方法。


背景技术:

2.移动学习(m-learning)是实现学习者随时随地学习的新型模式,是智慧学习和智慧教育的重要组成部分,已经成为教育信息科学领域的前沿研究方向。国内外在教育领域开展的移动研究可以大致分为:学习者移动行为的分析与识别、学习者移动行为模式的挖掘、学习者移动情境感知以及学习者移动学习地点的预测,学习者的学习效果以及学习效率会受到所处的情境的影响。在不同的学习情境下,学习者会根据在特定地点、特定时间下对学习的个性化需求,选择合适的学习内容以及学习形式。基于情境感知的移动学习研究使移动学习具有情境性,其最大的优势是可以识别和获取学习者的移动学习情境,追踪学习者的学习需求,从而能够更好地为学习者提供个性化学习服务,提高学习者的学习质量与学习效果。
3.通过研究学习者不同的移动学习情境等相关数据,分析并挖掘这些数据的内在联系具有广阔的研究前景。目前为止,学习情境研究中的移动学习情境预测问题还没有受到学者的关注。根据移动学习情境的时序信息以及相关的传感器信息,预测学习者下一个所处的移动学习情境以及在该学习者停留时长和移动学习情境切换时长,可以根据预测的结果为学习者提供合适形式和合适时长的课程资源。比如,预测下一个移动学习情境在运动场,可以向其推荐与停留时长相近的音频学习资料。此外,运营商还可以根据预测结果对wifi数据流量区域进行部署。因此,移动学习情境预测问题具有重大且深远的意义。针对该问题的研究仍然具有挑战性,传统的与时间相关的预测方法依赖于人工设计特征,该方法的计算过程较为复杂且运算时间较长,无法同时预测学习者下一个移动学习情境以及该情境的学习者停留时长和移动学习情境切换时长。基于深度学习的研究方法可以解决这一问题。该方法通过设计合适的神经网络结构,在数据预处理完成之后作为网络输入进行训练。为了训练出高准确率的网络,并且使网络具有较强的泛化能力,通常需要大量的数据来进行训练。事实上,获取足够多的数据有一定的困难,这也是这一方法的局限性。数据增强可以解决这一局限,作为一种的扩充数据量有效方法,已经在许多实验与研究成果中得以验证。该技术通过对数据进行变换,变换后的数据作为对原始数据的补充,从而提升网络的准确率以及泛化能力。因此,在移动学习情境预测问题的研究中,还融合了数据增强技术。


技术实现要素:

4.本发明所要解决技术问题在于克服上述现有技术的缺点,提供一种网络构建简单、网络性能较好、使用范围广的基于组合神经网络的移动学习情境预测方法。
5.解决上述技术问题所采用的技术方案是由下述步骤组成:
6.(1)预处理数据
7.数据集来源于50名学习者使用数据采集app得到的移动学习情境数据集r:
8.r={id,e,st,f,l,a,h,dv,w,s}
9.式中,id为学习者姓名、e为移动学习情境、st为学习者到达时间、f为学习者所处楼层、l为学习者所处经度、a为学习者所处纬度、h为学习者所处高度、dv为采集设备型号、天气类型、s为传感器;e取值为[1,q],q取值为有限的正整数;f取值为[-1,18],l、a、h取值为有限的正实数,w选取晴、阴、多云、小雨、中雨、大雨;s为传感器、s∈{s1,s1,...,s
73
},其中,s1为光线传感器、s2为加速度传感器、s3为方向传感器、s4为步数传感器。
[0010]
对移动学习情境数据集r进行预处理如下:
[0011]
1)学习者到达时间扩充
[0012]
对学习者到达时间st进行学习者停留时长扩充tp,按式(1)对sti和stj进行学习者停留时长扩充tpi:
[0013]
tpi=st
j-stiꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0014]
式(1)中,stj表示第j个样本对应的学习者到达时间st,sti表示第i个样本对应的学习者到达时间st,i、j取值至少为2的有限正整数,其中i<j。
[0015]
对学习者到达时间st进行移动学习情境切换时长扩充ti,按式(2)对stk和stj进行学习者停留时长扩充tik:
[0016]
tik=st
k-stjꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0017]
式(2)中,stk表示第k个样本对应的学习者到达时间st,k取值至少为2的有限正整数,其中j<k。
[0018]
对移动学习情境数据集r中到达时间扩充后的数据集r

为:
[0019]r′
={id,e,st,f,l,a,h,dv,w,s,tp,ti};
[0020]
2)选择特征
[0021]
使用皮尔逊相关系数在扩充后数据集r

中的学习者姓名id、学习者到达时间st、学习者所处楼层f、学习者所处经度l、学习者所处纬度a、学习者所处高度h、采集设备型号dv、天气类型w、传感器s的特征与移动学习情境e、学习者停留时长tp、移动学习情境切换时长ti的相关系数中,选择相关系数绝对值大于0.1的特征作为特征选择数据集d。
[0022]
d={id,st,f,w,s1,s2,s3,s4,e,tp,ti}
[0023]
3)处理数值
[0024]
对特征选择数据集d进行缺失值填充、异常数值替换、编码转换。
[0025]
所述的缺失值填充是对缺失值用0进行填充;所述的异常数值替换是采用random随机函数按式(3)确定学习者停留时长tpi:
[0026]
tpi=random(tpb,tp
i-1
),tpi≥120
ꢀꢀꢀꢀ
(3)
[0027]
式(3)中,random()为随机函数,tpi≥120时tpi为异常值,对异常值tpi用随机函数random进行替换;tpb表示第b个样本对应的学习者停留时长tp,tpi表示第i个样本对应的学习者停留时长tp,b取值为[5,15],b<i。
[0028]
所述的编码转换是对天气类型w进行整数编码转换;整数编码转换为:用天气类型w中晴、阴、多云、小雨、中雨、大雨,将第i个样本对应的天气类型wi映射为[1,6]的不同整数;将特征选择数据集d中所有取值使用float函数转换为浮点型数值。
[0029]
4)划分数据集
[0030]
将特征选择数据集d按1:1划分为训练集d
train
、测试集d
test

[0031]
(2)数据增强
[0032]
按式(4)对训练集d
train
进行高斯白噪声数据增强,得到增强后的训练集为:
[0033][0034][0035][0036]
式(4)中,concat()表示将random()处理后的数据沿着列进行g次拼接、g取值为[20,30],|d
train
|为训练集的长度、取值为有限的正整数,d
train,p
表示训练集d
train
中的第p条样本,snr表示白噪声信噪比、取值为[20,40]。
[0037]
(3)处理数据
[0038]
分别对高斯白噪声数据增强数据集和测试集d
test
中的移动学习情境e和天气类型w采用独热编码方法进行转换;将第i个样本对应的移动学习情境ei转换为具有q个元素的一维向量,将第i个样本对应的天气类型wi转换为具有6个元素一维向量。
[0039]
对高斯白噪声数据增强数据集和测试集d
test
中所有数据x按式(5)进行归一化处理x

为:
[0040][0041]
将高斯白噪声数据增强数据集和测试集d
test
按式(6)转换为具有前后时序关系的监督型数据d':
[0042]d′
=shift(ds,n)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0043]
shift(ds,n)=[[d1,d2,..,dn],[d2,d3,..,d
n+1
],...,[d
|ds|-n+1
,d
|ds|-n+2
,..,d
|ds|
]]
[0044]
式(6)中,shift()为监督型数据转化函数;ds表示高斯白噪声数据增强数据集或测试集d
test
,d1表示数据集ds中第1条样本,n取值为[30,50],n<|ds|。
[0045]
(4)构建组合神经网络
[0046]
组合神经网络由归一化层、长短期记忆-卷积神经网络、长短期记忆-注意力神经网络、噪声-长短期记忆神经网络、长短期记忆神经网络、全连接神经网络1、全连接神经网络2连接构成。
[0047]
归一化层的输出端与并联的长短期记忆-卷积神经网络和长短期记忆-注意力神经网络的输入端相连,长短期记忆-卷积神经网络和长短期记忆-注意力神经网络的输出端一路与噪声-长短期记忆神经网络的输入端相连、另一路与长短期记忆神经网络的输入端相连,长短期记忆神经网络的输出端与并联的全连接神经网络1、全连接神经网络2的输入端相连。
[0048]
(5)训练组合神经网络
[0049]
将高斯白噪声数据增强数据集输入到组合神经网络的归一化层,用adam优化器参与网络训练;损失函数分别使用按式(7)的focal损失函数和式(8)的huber损失函数。
[0050]
fl(p
t
)=-α
t
(1-p
t
)
γ
log(p
t
)
ꢀꢀꢀꢀꢀꢀ
(7)
[0051][0052][0053]
式(7)中,ye是移动学习情境e的真实值,是移动学习情境e的预测值,p
t
是移动学习情境e的真实值与移动学习情境e的预测值相同的概率值,p取值为[0,1];α
t
表示移动学习情境e的真实值与移动学习情境e的预测值相同的权重值,α和γ均是focal损失函数的参数,α取值为[10-7
,10-5
],γ取值为[1,3]。
[0054][0055]
式(8)中,y
tp
是tp的真实值,是tp的预测值,δ是huber损失函数的参数、取值为[1,3];y
tp
和可以分别替换为y
ti

[0056]
训练时分别使用批量大小为{8,16,32,64}的集合进行训练;训练的学习率η按式(9)进行自动调整,直至focal损失函数和huber损失函数收敛:
[0057][0058]
式(9)中,η0表示初始学习率、取值为[0.0001,0.01]的小数,epoch表示训练轮次,取值为[30,50]。
[0059]
(6)组合神经网络测试与反归一化
[0060]
使用测试集d
test
进行网络测试,分别预测移动学习情境e、学习者停留时长tp和移动学习情境切换时长ti;测试完成后,将最终得到的预测数据反归一化处理y为:
[0061][0062]
(7)组合神经网络性能评估
[0063]
使用准确率、精确率、召回率、f
1-score、加权精确率、加权f
1-score和均方根误差评价指标评估网络在测试集上的效果。
[0064]
按式(11)确定准确率accuracy:
[0065][0066]
式(11)中,tem表示第m种移动学习情境em被预测正确的样本数,w表示测试集d
test
样本总数、取值为有限的正整数。
[0067]
按式(12)确定精确率precision:
[0068][0069]
[0070]
式(12)中,precisionm表示第m种移动学习情境tem的精确率,fem表示第m种移动学习情境em被预测错误的样本数。
[0071]
按式(13)确定召回率recall:
[0072][0073][0074]
式(13)中,recallm表示第m种移动学习情境em的召回率,u取值为[1,q]。
[0075]
按式(14)确定f
1-score:
[0076][0077][0078]
式(14)中,f
1-scorem表示第m种移动学习情境em的f1-score。
[0079]
按式(15)确定加权精确率wp:
[0080][0081]
式(15)中,wm表示第m种移动学习情境em在测试集d
test
中的样本数。
[0082]
按式(16)确定加权f1-scorewf1:
[0083][0084]
按式(17)确定均方根误差rmse:
[0085][0086]
式(17)中,评估学习者停留时长tp的预测结果时,tv表示第v个样本对应的学习者停留时长tpv的实际值,tv′
为第v个样本对应的学习者停留时长tpv的预测值;评估移动学习情境切换时长ti的预测结果时,tv表示第v个样本对应的移动学习情境切换时长tiv的实际值,tv′
表示第v个样本对应的移动学习情境切换时长tiv的预测值;v取值为[1,w]。
[0087]
本发明的长短期记忆-卷积神经网络由长短期记忆层1与长短期记忆层2、卷积层依次串联构成。
[0088]
本发明的长短期记忆层1由64个神经元构成,激活函数为relu激活函数;所述的长短期记忆层2由32个神经元构成,激活函数为relu激活函数;所述的卷积层由32个大小为1的1维卷积核,步长为3,激活函数为relu激活函数。
[0089]
本发明的长短期记忆-注意力神经网络由长短期记忆1与长短期记忆层2、注意力层依次串联构成。
[0090]
本发明的长短期记忆1由64个神经元构成,激活函数为relu激活函数;所述的长短期记忆层2由32个神经元构成,激活函数为relu激活函数;所述的注意力层由16个神经元构成,激活函数为softmax激活函数。
[0091]
本发明的噪声-长短期记忆神经网络由高斯噪声层与长短期记忆层、随机失活层依次串联构成。
[0092]
本发明的高斯噪声层的标准偏差为0.2;所述的长短期记忆层由64个神经元构成,激活函数为relu激活函数;随机失活层的随机失活率为0.4。
[0093]
本发明的全连接神经网络1由全连接层1与随机失活层、全连接层2依次串联构成。
[0094]
本发明的全连接层1由32个神经元构成,激活函数为leaky_relu激活函数;随机失活层的随机失活率为0.2;所述的全连接层2由16个神经元构成,激活函数为softmax激活函数。
[0095]
本发明的全连接神经网络2的结构与全连接神经网络1的结构相同,所用的激活函数为sigmoid激活函数。
[0096]
本发明与现有技术相比具有以下优点:
[0097]
由于本发明采用了数据预处理步骤,通过时间格式转换,可以将原始数据中单一的时间属性到达时间进行扩充,便于后续预测移动学习情境的学习者停留时长和移动学习情境切换时长;将数据进行特征选择、数值处理和数据集划分,可以规范数据便于网络训练。
[0098]
由于本发明采用了数据增强步骤,解决了数据量不够大的问题,有效地扩充的数据量,便于提高网络训练的泛化能力和提高网络的预测性能,使用数据增强的网络预测性能较好。
[0099]
由于本发明采用了数据处理步骤,通过将数据进行独热编码转换、0-1归一化处理以及转换为监督型数据,使得数据更加规范便于后续组合神经网络的训练以及收敛。
[0100]
由于本发明采用了组合神经网络,将该网络应用到移动学习情境的预测方法中,提取有意义的移动学习情境时序信息,有效地选择了影响移动学习情境的局部特征,并且从时间维度选择影响较大的时间及相关特征,更加有利于利用现有移动学习情境数据进行预测,预测性能较好。
附图说明
[0101]
图1是本发明的实施例1的流程图。
[0102]
图2是组合神经网络的结构示意图。
[0103]
图3是图2中长短期记忆-卷积神经网络的结构示意图。
[0104]
图4是图2中长短期记忆-注意力神经网络的结构示意图。
[0105]
图5是图2中噪声-长短期记忆神经网络的结构示意图。
[0106]
图6是图2中全连接神经网络1的结构示意图。
具体实施方式
[0107]
下面结合附图和实施例对本发明进一步详细说明,但本发明不限于下述的实施例。
[0108]
实施例1
[0109]
在图1中,本实施例的基于组合神经网络的移动学习情境预测方法由以下步骤组成:
[0110]
(1)预处理数据
[0111]
数据集来源于50名学习者使用数据采集app得到的移动学习情境数据集r:
[0112]
r={id,e,st,f,l,a,h,dv,w,s}
[0113]
式中,id为学习者姓名、e为移动学习情境、st为学习者到达时间、f为学习者所处楼层、l为学习者所处经度、a为学习者所处纬度、h为学习者所处高度、dv为采集设备型号、天气类型、s
[0114]
为传感器;e取值为[1,q],q取值为有限的正整数,本实施例q的取值为9;f取值为[-1,18],l、a、h取值为有限的正实数,w选取晴、阴、多云、小雨、中雨、大雨;s为传感器、s∈{s1,s1,...,s
73
},其中,s1为光线传感器、s2为加速度传感器、s3为方向传感器、s4为步数传感器。
[0115]
对移动学习情境数据集r进行预处理如下:
[0116]
1)学习者到达时间扩充
[0117]
对学习者到达时间st进行学习者停留时长扩充tp,按式(1)对sti和stj进行学习者停留时长扩充tpi:
[0118]
tpi=st
j-stiꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0119]
式(1)中,stj表示第j个样本对应的学习者到达时间st,sti表示第i个样本对应的学习者到达时间st,i、j取值至少为2的有限正整数,本实施例i、j的取值为[2,32863],其中i<j。
[0120]
对学习者到达时间st进行移动学习情境切换时长扩充ti,按式(2)对stk和stj进行学习者停留时长扩充tik:
[0121]
tik=st
k-stjꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0122]
式(2)中,stk表示第k个样本对应的学习者到达时间st,k取值至少为3的有限正整数,本实施例k的取值为[3,32863],其中j<k。
[0123]
对移动学习情境数据集r中到达时间扩充后的数据集r

为:
[0124]r′
={id,e,st,f,l,a,h,dv,w,s,tp,ti}
[0125]
2)选择特征
[0126]
使用皮尔逊相关系数在扩充后数据集r

中的学习者姓名id、学习者到达时间st、学习者所处楼层f、学习者所处经度l、学习者所处纬度a、学习者所处高度h、采集设备型号dv、天气类型w、传感器s的特征与移动学习情境e、学习者停留时长tp、移动学习情境切换时长ti的相关系数中,选择相关系数绝对值大于0.1的特征作为特征选择数据集d:
[0127]
d={id,st,f,w,s1,s2,s3,s4,e,tp,ti}
[0128]
3)处理数值
[0129]
对特征选择数据集d进行缺失值填充、异常数值替换、编码转换。
[0130]
所述的缺失值填充是对缺失值用0进行填充;所述的异常数值替换是采用random随机函数按式(3)确定学习者停留时长tpi:
[0131]
tpi=random(tpb,tp
i-1
),tpi≥120
ꢀꢀꢀ
(3)
[0132]
式(3)中,random()为随机函数,tpi≥120时tpi为异常值,对异常值tpi用随机函数random进行替换;tpb表示第b个样本对应的学习者停留时长tp,tpi表示第i个样本对应的学习者停留时长tp,b取值为[5,15],本实施例b的取值10,b<i。
[0133]
所述的编码转换是对天气类型w进行整数编码转换;整数编码转换为:用天气类型w中晴、阴、多云、小雨、中雨、大雨,将第i个样本对应的天气类型wi映射为[1,6]的不同整
数;将特征选择数据集d中所有取值使用float函数转换为浮点型数值。
[0134]
4)划分数据集
[0135]
将特征选择数据集d按1:1划分为训练集d
train
、测试集d
test

[0136]
(2)数据增强
[0137]
按式(4)对训练集d
train
进行高斯白噪声数据增强,得到增强后的训练集为:
[0138][0139][0140][0141]
式(4)中,concat()表示将random()处理后的数据沿着列进行g次拼接、g取值为[20,30],本实施例g取值为25,|d
train
|为训练集的长度、取值为有限的正整数,d
train,p
表示训练集d
train
中的第p条样本,snr表示白噪声信噪比、取值为[20,40],本实施例snr取值为30。
[0142]
(3)处理数据
[0143]
分别对高斯白噪声数据增强数据集和测试集d
test
中的移动学习情境e和天气类型w采用独热编码方法进行转换;将第i个样本对应的移动学习情境ei转换为具有q个元素的一维向量,将第i个样本对应的天气类型wi转换为具有6个元素一维向量。
[0144]
对高斯白噪声数据增强数据集和测试集d
test
中所有数据x按式(5)进行归一化处理x

为:
[0145][0146]
将高斯白噪声数据增强数据集和测试集d
test
按式(6)转换为具有前后时序关系的监督型数据d':
[0147]d′
=shift(ds,n)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0148]
shift(ds,n)=[[d1,d2,..,dn],[d2,d3,..,d
n+1
],...,[d
|ds|-n+1
,d
|ds|-n+2
,..,d
|ds|
]]
[0149]
式(6)中,shift()为监督型数据转化函数;ds表示高斯白噪声数据增强数据集或测试集d
test
,d1表示数据集ds中第1条样本,n取值为[30,50],本实施例n取值为40,n<|ds|。
[0150]
(4)构建组合神经网络
[0151]
在图2中,本实施例的组合神经网络由归一化层、长短期记忆-卷积神经网络、长短期记忆-注意力神经网络、噪声-长短期记忆神经网络、长短期记忆神经网络、全连接神经网络1、全连接神经网络2连接构成。归一化层的输出端与并联的长短期记忆-卷积神经网络和长短期记忆-注意力神经网络的输入端相连,长短期记忆-卷积神经网络和长短期记忆-注意力神经网络的输出端一路与噪声-长短期记忆神经网络的输入端相连、另一路与长短期记忆神经网络的输入端相连,长短期记忆神经网络的输出端与并联的全连接神经网络1、全连接神经网络2的输入端相连。
[0152]
在图3中,本实施例的长短期记忆-卷积神经网络由长短期记忆层1与长短期记忆层2、卷积层依次串联构成。长短期记忆层1由64个神经元构成,激活函数为relu激活函数,长短期记忆层2由32个神经元构成,激活函数为relu激活函数,卷积层由32个大小为1的1维卷积核,步长为3,激活函数为relu激活函数。
[0153]
在图4中,本实施例的长短期记忆-注意力神经网络由长短期记忆1与长短期记忆层2、注意力层依次串联构成。长短期记忆1由64个神经元构成,激活函数为relu激活函数,长短期记忆层2由32个神经元构成,激活函数为relu激活函数,注意力层由16个神经元构成,激活函数为softmax激活函数。
[0154]
在图5中,本实施例的噪声-长短期记忆神经网络由高斯噪声层与长短期记忆层、随机失活层依次串联构成。高斯噪声层的标准偏差为0.2,长短期记忆层由64个神经元构成,激活函数为relu激活函数,随机失活层的随机失活率为0.4。
[0155]
在图6中,本实施例的全连接神经网络1由全连接层1与随机失活层、全连接层2依次串联构成。全连接层1由32个神经元构成,激活函数为leaky_relu激活函数,随机失活层的随机失活率为0.2,全连接层2由16个神经元构成,激活函数为softmax激活函数。
[0156]
所述的全连接神经网络2的结构与全连接神经网络1的结构相同,所用的激活函数为sigmoid激活函数。
[0157]
(5)训练组合神经网络
[0158]
将高斯白噪声数据增强数据集输入到组合神经网络的归一化层,用adam优化器参与网络训练;损失函数分别使用按式(7)的focal损失函数和式(8)的huber损失函数:
[0159]
fl(p
t
)=-α
t
(1-p
t
)
γ
log(p
t
)
ꢀꢀꢀꢀꢀ
(7)
[0160][0161][0162]
式(7)中,ye是移动学习情境e的真实值,是移动学习情境e的预测值,p
t
是移动学习情境e的真实值与移动学习情境e的预测值相同的概率值,p取值为[0,1];α
t
表示移动学习情境e的真实值与移动学习情境e的预测值相同的权重值,α和γ均是focal损失函数的参数,α取值为[10-7
,10-5
],γ取值为[1,3],本实施例α取值为10-6
,γ取值为2。
[0163][0164]
式(8)中,y
tp
是tp的真实值,是tp的预测值,δ是huber损失函数的参数、取值为[1,3],本实施例δ取值为2;y
tp
和可以分别替换为y
ti

[0165]
训练时分别使用批量大小为{8,16,32,64}的集合进行训练。训练的学习率η按式(9)进行自动调整,直至focal损失函数和huber损失函数收敛。
[0166][0167]
式(9)中,η0表示初始学习率、取值为[0.0001,0.01]的小数,本实施例η0取值为0.001,epoch表示训练轮次,取值为[30,50],本实施例epoch取值为40。
[0168]
(6)组合神经网络测试与反归一化
[0169]
使用测试集d
test
进行网络测试,分别预测移动学习情境e、学习者停留时长tp和移动学习情境切换时长ti;测试完成后,将最终得到的预测数据反归一化处理y为:
[0170][0171]
(7)组合神经网络性能评估
[0172]
使用准确率、精确率、召回率、f
1-score、加权精确率、加权f
1-score和均方根误差评价指标评估网络在测试集上的效果。
[0173]
按式(11)确定准确率accuracy:
[0174][0175]
式(11)中,tem表示第m种移动学习情境em被预测正确的样本数,w表示测试集d
test
样本总数、取值为有限的正整数。
[0176]
按式(12)确定精确率precision:
[0177][0178][0179]
式(12)中,precisionm表示第m种移动学习情境tem的精确率,fem表示第m种移动学习情境em被预测错误的样本数。
[0180]
按式(13)确定召回率recall:
[0181][0182][0183]
式(13)中,recallm表示第m种移动学习情境em的召回率,u取值为[1,q]。
[0184]
按式(14)确定f
1-score:
[0185][0186][0187]
式(14)中,f
1-scorem表示第m种移动学习情境em的f1-score。
[0188]
按式(15)确定加权精确率wp:
[0189][0190]
式(15)中,wm表示第m种移动学习情境em在测试集d
test
中的样本数。
[0191]
按式(16)确定加权f1-scorewf1:
[0192][0193]
按式(17)确定均方根误差rmse:
[0194][0195]
式(17)中,评估学习者停留时长tp的预测结果时,tv表示第v个样本对应的学习者停留时长tpv的实际值,tv′
为第v个样本对应的学习者停留时长tpv的预测值;评估移动学习情境切换时长ti的预测结果时,tv表示第v个样本对应的移动学习情境切换时长tiv的实际值,tv′
表示第v个样本对应的移动学习情境切换时长tiv的预测值;v取值为[1,w]。
[0196]
完成基于组合神经网络的移动学习情境预测方法。
[0197]
实施例2
[0198]
本实施例的基于组合神经网络的移动学习情境预测方法由以下步骤组成:
[0199]
(1)预处理数据
[0200]
对移动学习情境数据集r进行预处理如下:
[0201]
1)学习者到达时间扩充
[0202]
该步骤与实施例1相同。
[0203]
2)选择特征
[0204]
该步骤与实施例1相同。
[0205]
3)处理数值
[0206]
在式(3)中,b取值为[5,15],本实施例b的取值5,b<i。该步骤的其它步骤与实施例1相同。
[0207]
4)划分数据集
[0208]
该步骤与实施例1相同。
[0209]
(2)数据增强
[0210]
在式(4)中,concat()表示将random()处理后的数据沿着列进行g次拼接、g取值为[20,30],本实施例g取值为20,snr表示白噪声信噪比、取值为[20,40],本实施例snr取值为20,该步骤的其它步骤与实施例1相同。
[0211]
(3)处理数据
[0212]
在式(6)中,n取值为[30,50],本实施例n取值为30,n<|ds|。该步骤的其它步骤与实施例1相同。
[0213]
(4)构建组合神经网络
[0214]
该步骤与实施例1相同。
[0215]
(5)训练组合神经网络
[0216]
在式(7)中,α和γ均是focal损失函数的参数,α取值为[10-7
,10-5
],γ取值为[1,3],本实施例α取值为10-7
,γ取值为1。在式(8)中,δ是huber损失函数的参数、取值为[1,3],本实施例δ取值为1。在式(9)中,η0表示初始学习率、取值为[0.0001,0.01]的小数,本实施
例η0取值为0.0001,epoch表示训练轮次,取值为[30,50],本实施例epoch取值为30。该步骤的其它步骤与实施例1相同。
[0217]
其它步骤与实施例1相同,完成基于组合神经网络的移动学习情境预测方法。
[0218]
实施例3
[0219]
本实施例的基于组合神经网络的移动学习情境预测方法由以下步骤组成:
[0220]
(1)预处理数据
[0221]
对移动学习情境数据集r进行预处理如下:
[0222]
1)学习者到达时间扩充
[0223]
该步骤与实施例1相同。
[0224]
2)选择特征
[0225]
该步骤与实施例1相同。
[0226]
3)处理数值
[0227]
在式(3)中,b取值为[5,15],本实施例b的取值15,b<i。该步骤的其它步骤与实施例1相同。
[0228]
4)划分数据集
[0229]
该步骤与实施例1相同。
[0230]
(2)数据增强
[0231]
在式(4)中,concat()表示将random()处理后的数据沿着列进行g次拼接、g取值为[20,30],本实施例g取值为30,snr表示白噪声信噪比、取值为[20,40],本实施例snr取值为40,该步骤的其它步骤与实施例1相同。
[0232]
(3)处理数据
[0233]
在式(6)中,n取值为[30,50],本实施例n取值为50,n<|ds|。该步骤的其它步骤与实施例1相同。
[0234]
(4)构建组合神经网络
[0235]
该步骤与实施例1相同。
[0236]
(5)训练组合神经网络
[0237]
在式(7)中,α和γ均是focal损失函数的参数,α取值为[10-7
,10-5
],γ取值为[1,3],本实施例α取值为10-5
,γ取值为3。在式(8)中,δ是huber损失函数的参数、取值为[1,3],本实施例δ取值为3。在式(9)中,η0表示初始学习率、取值为[0.0001,0.01]的小数,本实施例η0取值为0.01,epoch表示训练轮次,取值为[30,50],本实施例epoch取值为50。该步骤的其它步骤与实施例1相同。
[0238]
其它步骤与实施例1相同,完成基于组合神经网络的移动学习情境预测方法。
[0239]
为了验证本发明的有益效果,发明人采用本发明人实施例1的基于组合神经网络的移动学习情境预测方法进行了实验室的仿真实验,各种实验情况如下:
[0240]
1、实验环境
[0241]
实验环境:服务器采用intel core i7-7820x cpu@3.60ghz
×
16,操作系统类型64位,使用python 3.7.9和tensorflow 2.2.0;第三方库为keras、sklearn、pandas、numpy、matplotlib和math。
[0242]
2.实验内容与结果
[0243]
在上述实验条件下进行实验,不同训练批量移动学习情境预测的实验结果评价结果见表1,不同训练批量各个移动学习情境预测的准确率见表2,训练批量为16各个移动学习情境预测的四种评价指标见表3。
[0244]
表3使用准确率、精确率、召回率、f1-score四种评价指标对各个移动学习情境预测性能的评估结果。
[0245]
表1不同训练批量移动学习情境预测的实验结果评价
[0246][0247]
从表1可以看出,组合网络在训练批量为16时的准确率、精确率、召回率f1-score、加权精确率、加权f1-score均高于训练批量为8、32、64,评估值越高说明移动学习情境预测方法越好。组合网络在训练批量为16时学习者停留时长均方根误差低于训练批量为8、32、64,评估值越低说明移动学习情境预测方法越好。组合网络在训练批量为16时移动学习情境切换时长均方根误差高于训练批量为8的移动学习情境切换时长均方根误差0.07,低于批量为32、64,评估值越低说明移动学习情境预测方法越好。上述分析说明组合网络在训练批量为16时的移动学习情境预测方法最好。
[0248]
表2训练批量为16各个移动学习情境预测的四种评价指标
[0249][0250]
从表2可以看出,训练批量为16时对于不同移动学习情境组合网络的准确率、精确率、召回率和f1-score有差异,且个别评估值较低。
[0251]
实验结论:本发明方法在各个评价指标上都有着较好的性能,可以有效地预测下一个移动学习情境、移动学习情境的学习者停留时长和移动学习情境切换时长;该方法可应用于学习者不同形式和时长的课程学习资源推荐,还可应用于wifi数据流量区域预测等
应用场景。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1