一种基于图注意力网络的知识追踪方法与流程

文档序号:31152421发布日期:2022-08-17 06:34阅读:来源:国知局

技术特征:
1.一种基于图注意力网络的知识追踪方法,其特征在于,包括如下步骤:s1:基于习题集合知识点集合构建知识图g={t
i
,t
j
,b
ij
},其中b
ij
∈{0,1},t
i
∈{q
j
,c
m
},j∈|q|,m∈|c|;s2;基于习题集合获取模型的输入x
t
;s3:对每个习题的one-hot编码通过矩阵相乘的方式得到习题的嵌入表示s4:使用自注意力机制作用于所有图节点,基于知识图g={t
i
,t
j
,b
ij
}获得节点之间的关系系数v
ij
,gat使用多头注意力层作用于每个中心节点的权重计算,基于关系系数v
ij
获得最终的节点表示s5:采用lstm获取学生的知识状态随时间的变化情况,基于输入x
t
获取学生t时刻的知识状态h
t
;s6:基于习题的嵌入表示通过难度分析层获得难度的表示向量d
t
,在irt模型中基于学生t时刻的知识状态h
t
获取项目区分度系数α、基于输入x
t
获取学生的能力θ、基于难度的表示向量d
t
获取最终的习题难度β,基于项目区分度系数α、学生的能力θ、最终的习题难度β获取学生回答当前习题的预测概率p
t
;s7:基于知识图使用内积的方式评估图节点之间的关系通过图节点的局部接近度来对图节点的嵌入表示进行评价,则基于图节点之间的关系和b
ij
获取第一损失函数使用学生回答当前习题的预测概率p
t
与真实的结果r
t
之间的交叉熵损失函数作为目标函数,则基于预测概率p
t
与真实的结果r
t
获取第二损失函数构建联合训练目标l=λ1l1+λ2l2,其中λ1,λ2表示控制图中节点局部接近度损失与学生表现预测损失的权衡系数。2.如权利要求1所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s1中具体包括:将习题集合知识点集合合并得到集合t
i
∈{q
j
,c
m
},其中j∈|q|,m∈|c|,|t|=|q|+|c|,基于集合构建知识图g={t
i
,t
j
,b
ij
},其中b
ij
∈{0,1},当b
ij
=1时表示节点i与节点j之间存在边,反之不存在。3.如权利要求2所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s2中具体包括:在t时刻,模型的输入x
t
由两部分组成:第一部分为维度为n的习题q
t
,第二部分是r
t
;如果学生能正确回答q
t
,则r
t
=1,否则r
t
=0,如果学生回答正确该习题则在q
t
后面再拼接r
t,1
,如果回答错误则在q
t
后面再拼接r
t,0
,其中r
t,1
、r
t,0
都是维度为n的向量,r
t,1
表示在对应题号位置为1、其余置0,r
t,0
则为全零向量x
t
为一个维度为
2n的向量。4.如权利要求2或3所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s3中包括:习题的嵌入表示其中均是可训练的参数,n表示嵌入的维度。5.如权利要求2或3所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s4中包括:使用自注意力机制作用于所有图节点,然后使用共享的权重矩阵w
t
作用于邻接节点,接着使用非线性激活函数leakyrelu获得节点之间的关系系数v
ij
,v
ij
=leakyrelu(w
·
[w
t
·
t
i
||w
t
·
t
j
]),其中||表示连接操作,
·
表示内积操作。6.如权利要求5所述的一种基于图注意力网络的知识追踪方法,其特征在于:步骤s4中还包括:对v
ij
进行归一化操作获得节点的注意力权重值其中softmax表示激活函数,n
i
表示节点t
i
的邻接节点的数量,a
ij
表示节点t
i
与其邻接节点t
j
的注意力权重;gat使用多头注意力层作用于每个中心节点的权重计算,通过设置k个独立的注意力机制得到k个不同的注意面,再使用非线性激活函数获得最终的节点表示的注意力机制得到k个不同的注意面,再使用非线性激活函数获得最终的节点表示其中k表示设置的多头注意力层数,σ表示sigmoid激活函数,表示第h层的节点表示。7.如权利要求2或3所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s5中具体包括:lstm通过遗忘门f
t
、输入门i
t
、输出门o
t
以及细胞状态c
t
获取学生t时刻的知识状态h
t
;其中遗忘门在t时刻模拟学生在学习过程中的知识遗忘率f
t
=σ(w
f
·
[h
t-1
,x
t
]+b
f
),其中h
t-1
为学生t-1时刻的知识状态,为可训练的参数;输入门模拟学生在面对习题时更新自身的知识状态的过程,其中i
t
表示模拟新知识的学习过程,i
t
=σ(w
i
·
[h
t-1
,x
t
]+b
i
),表示模拟旧知识掌握程度的变化过程,c
t
表示将两者结合形成新的细胞状态,其中tanh表示双曲正切激活函数,均是可训练的参数,c
t-1表示t-1时刻的细胞状态,代表向量对应元素相乘;输出门模拟学生的知识状态根据当前学习的知识与历史知识遗忘的变化过程,在t时刻其公式为:o
t
=σ(w
o
·
[h
t-1
,x
t
]+b
o
),其中其中均是可训练的参数,h
t-1
表示学生在t-1时刻的知识状态,σ(
·
)表示sigmoid激活函数。8.如权利要求2或3所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s6中包括:通过公式θ=tanh(w
θ
·
h
t
+b
θ
)获取学生的能力θ,通过公式α=σ(w
α
·
x
t
+b
a
)获取项目区分度系数α,其中σ、tanh均表示激活函数,均是可训练的参数。
9.如权利要求8所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s6中还包括:通过难度分析层获得难度的表示向量d
t
,其中为习题的的嵌入表示,均是可训练的参数;对d
t
进行矩阵变换操作,经过tanh激活函数得到最终的习题难度β,β=tanh(w
β
·
d
t
+b
β
),其中均是可训练的参数;获取学生回答当前习题的预测概率p
t
,p
t
=σ(w
p
·
[α(θ-β)]+b
p
),其中),其中均是可训练的参数。10.如权利要求2或3所述的一种基于图注意力网络的知识追踪方法,其特征在于,步骤s7中包括:使用内积的方式来评估图节点之间的关系,通过节点间的关系将节点间的权重值转化为[0,1]的值,其中i,j∈[1,...,|t|],σ表示sigmoid激活函数。

技术总结
本发明提供一种基于图注意力网络的知识追踪方法,属于知识追踪技术领域。该基于图注意力网络的知识追踪方法包括如下步骤:S1:构建知识图;S2;获取模型的输入;S3:得到习题的嵌入表示;S4:获得最终的节点表示;S5:获取学生t时刻的知识状态;S6:获取对学生的预测概率;S7:构建了联合训练目标。本发明针对现有知识追踪方法的不足,研究了如何有效挖掘知识图中的深层次关系信息,构建了基于习题及其包含的知识点的知识图,创造性地将图注意力网络应用到知识追踪领域,为不同的邻接节点分配不同的权重并从深层次特征中学习到习题的嵌入表示,接着使用LSTM捕获学生在答题过程中的知识状态变化,进而精确地预测学生的未来答题表现。现。现。


技术研发人员:张井合 李林昊 李英双
受保护的技术使用者:金华航大北斗应用技术有限公司
技术研发日:2022.05.05
技术公布日:2022/8/16
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1