一种基于神经网络的人类行为依赖度分析方法与流程

文档序号:18415081发布日期:2019-08-13 19:16阅读:557来源:国知局
一种基于神经网络的人类行为依赖度分析方法与流程

本发明涉及神经网络技术领域,尤其涉及采用神经网络对人类特定行为依赖度进行量化描述的分析方法。



背景技术:

神经网络是从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由多层的、大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activationfunction)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

传统神经网络由于随着层数的增加,存在梯度消失或梯度爆炸现象,故一般网络层数不会超过5层,这样会导致神经网络的表达能力、检测能力的限制(理论上神经元越多、层数越深,网络的表达能力也越强);而随着技术的发展,如采用正则化方法、随机激活神经元(即dropout技术)、线性激活函数的应用(如relu及其变种,而非传统的、基于非线性的方法,如tanh或sigmoid等)、局部感受,使得梯度消失或爆炸问题得以较为完满的解决,从而对神经网络层数的增加成为现实,即令神经网络可以进行纵向扩展和增长,最终使网络的能力得到极大的提高。

目前各种人工神经网络描述于以下美国专利中:4,979,124;5,479,575;5,493,688;5,566,273;5,682,503;5,870,729;7,577,631;以及7,814,038。



技术实现要素:

本发明的主要目的在于提供一种基于神经网络的人类行为依赖度分析方法,以实现对人类特定行为依赖度进行具体而量化的分析。

为了实现上述目的,本发明提供了一种基于神经网络的人类行为依赖度分析方法,步骤包括:s1根据选定的粒度处理个体行为数据,获取各被测个体每日行为向量;s2根据当前日期和个体特定行为习惯,获取各被测个体时间t内个性化向量;s3将被测个体行为向量作为神经网络公有结构输入,该个体时间t内个性化向量作为神经网络私有结构输入,该个体当日被评价行为时间作为目标输出,设置隐层单元个数、学习率、训练轮数,初始化神经网络参数;s4训练神经网络,使用标准反向传播算法更新神经网络参数;s5将各个体被评价行为特征对应至少一个神经单元,其对所有隐层单元的贡献之和,作为该个体特定行为依赖程度值。

在优选实施方式中,该步骤s2中对于每一位个体在时间t的个性化向量构建方法为:

(1,π1(t),π2(t),π3(t),π4(t),π5(t),π6(t),π7(t))

令π(t)表示时间t是周几,πi(t)的定义如下:

在优选实施方式中,该神经网络在训练时候,隐层与输出层的激活函数可以选择线性的,例如:f(x)=x,或非线性的,例如:f(x)=tanh(x)中的至少一种。

在优选实施方式中,该神经网络公有结构对于每一次迭代都会进行参数更新,每一位个体的神经网络私有结构只有在当前个体的数据作为输入时才进行更新。

在优选实施方式中,该神经网络公有结构第h个隐层单元输入公式为:神经网络公有结构第h个隐层单元输出公式为:bch=fch(αch-λch)。

在优选实施方式中,该神经网络私有结构第h个隐层单元输入公式为:神经网络私有结构第h个隐层单元输出公式为:buh=fuh(αuh-λuh)。

在优选实施方式中,该神经网络输出层输入公式为:神经网络输出层输出公式为:每一组数据输入都对神经网络参数进行更新,个体u在时刻t的数据计算得到的损失为:参数更新公式:

θ=θ+ηδθ

λch=λch+ηδλch

λuh=λuh+ηδλuh

wh=wh+ηδwh

vcih=vcih+ηδvcih

vuih=vuih+ηδvuih

其中:wh为w第h位值,vcih为矩阵vc第i行第h列值,vuih为矩阵vu第i行第h列值;

令:

则:

δθ=-ηg

同理:

δwh=ηgbh

δλch=-ηech

δλuh=-ηeuh

δvcih=ηechx1i

δvuih=ηeuhx2i

其中:

在优选实施方式中,该步骤s5中个体u的特定行为依赖程度au的计算公式为:

其中,qu为私有结构隐层单元数目,i为私有结构输入特定行为依赖程度特征对应的下标,vuij为个体u的对应的神经网络私有结构中输入层到隐层的n*qu维权重矩阵vu第i行第j列对应的值,n为私有结构输入的特征维度。

通过本发明提供的该基于神经网络的人类行为依赖度分析方法,能够在训练神经网络时私有结构的输入层与隐层的权重矩阵只在当前个体数据作为输入时才进行更新,因此私有结构输入层到隐层的权重矩阵能够学习到该个体的个性化特点,将私有结构输入特定行为依赖特征对应神经单元对所有隐层单元贡献权重进行加和,能够具体而量化地计算出当前个体的特定行为依赖程度值,籍此形成客观的量化分析结果。

附图说明

构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:

图1是本发明基于神经网络的人类行为依赖度分析方法的神经网络结构图;

图2是本发明基于神经网络的人类行为依赖度分析方法的步骤示意图。

具体实施方式

需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

为了使本领域的技术人员更好的理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,在本领域普通技术人员没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明的保护范围。

需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含。

请参阅图2根据本发明的实施例,提供的该基于神经网络的人类行为依赖度分析方法,其主要步骤包括:

s1:根据选定的粒度处理个体行为数据,获得各被测个体每日行为向量;

s2:根据当前日期和个体特定行为习惯,获取各被测个体每日个性化向量;

s3:将被测个体行为向量作为神经网络公有结构输入,该个体当日个性化向量作为神经网络私有结构输入,该个体当日被评价行为时间作为目标输出,设置隐层单元个数、学习率、训练轮数,初始化神经网络参数;

s4:训练神经网络,使用标准反向传播算法更新神经网络参数;

s5:将各个体被评价行为特征对应神经单元,并对所有隐层单元贡献权重进行加和,以获取结果作为该个体特定行为依赖程度值。

具体来说,本发明提供的该基于神经网络的人类行为依赖度分析方法,原理上根据选定的粒度处理个体例如:每天上网、餐饮、淋浴等的行为数据,从而获得各个体每一天的行为向量。

同时根据当前日期和个体特定的行为习惯获得各个体每一天的个性化向量。从而将该个体某天行为向量作为神经网络公有结构输入,该个体当天个性化向量作为神经网络私有结构输入,而该个体当天的被评价行为时间作为目标输出。此后通过设置隐层单元个数、学习率、训练轮数,初始化神经网络参数,来训练该神经网络,使用标准反向传播算法更新神经网络参数,将各个体被评价行为特征特征对应神经单元对所有隐层单元贡献权重进行加和,结果即可获得该个体特定行为依赖程度值。

因此可见,本发明中根据选定的粒度处理个体每天上网、餐饮、淋浴等行为数据,获得各个体每一天的行为向量,能够灵活地建模该个体每天的行为习惯对被评价行为时间的影响,从而增强接下来使用神经网络预测该个体被评价行为时间的准确性。

同时本发明还根据当前日期和个体特定的行为习惯,来获得每位个体每一天的个性化向量。而该向量可以根据观察到的或者已知的经验进行调整,从而灵活而准确地学习个体的个性化特点。此外本发明使用神经网络模型预测个体被评价行为时间,实质上是基于神经网络结构复杂,具有很强的泛化能力。籍此才能建模个体行为、及特定行为的依赖、规律性行为与被评价行为时间的线性和非线性关系。从而准确预测个体的被评价行为时间,进一步更好地计算个体的特定行为依赖程度值。

此外本发明的网络模型设置了公有结构和私有结构,公有结构对于每一次迭代都会进行参数更新,每一位个体的私有结构只有在当前个体的数据作为输入时才会进行更新。由于每一位个体具有不同的特定行为依赖程度与行为习惯,采用本发明的方案,能够学习不同个体不同的特定行为依赖程度和行为习惯,并且能够减少网络参数、降低训练时间开销。

原因在于,由于在训练神经网络时,私有结构的输入层与隐层的权重矩阵只在当前个体数据作为输入时才进行更新,因此私有结构输入层到隐层的权重矩阵能够学习到该个体的个性化特点,将私有结构输入特定行为依赖特征对应神经单元对所有隐层单元贡献权重进行加和,结果作为该个体特定行为依赖程度值,该结果就能够具体而量化地描述当前个体的特定行为依赖程度值。

而在另一优选实施方式下,在上述步骤s1中,对个体行为数据进行分割的粒度根据实际情况可以进行调整。目的在于,根据选定的粒度处理个体例如:每天上网、餐饮、淋浴等行为数据,获得每位个体每一天的行为向量,能够灵活地建模个体每天的行为习惯对上网时间的影响,从而增强接下来使用神经网络预测上网时间的准确性。

此外在上述步骤s2中,根据当前日期和个体特定的行为习惯获得每位个体每一天的个性化向量。以考虑个体特定行为依赖程度不同,和每一周行为具有一定周期性为例,向量构建优选的方式如下:

由于每一位个体的特定行为依赖程度不同,且每一位个体每一周的行为都有一定的周期性。对于每一位个体在时间t的个性化向量构建方法如下:

(1,π1(t),π2(t),π3(t),π4(t),π5(t),π6(t),π7(t))

令π(t)表示时间t是周几,πi(t)的定义如下:

采用上述进一步方案的有益效果:根据当前日期和个体特定的行为习惯获得每位个体每一天的个性化向量。该向量可以根据观察到的或者已知的经验进行调整,从而灵活而准确地学习个体的个性化特点。

进一步,神经网络在训练时候,隐层与输出层的激活函数可以选择线性的,例如:

f(x)=x

也可以选择非线性的,例如:

f(x)=tanh(x)

而其中对于隐层单元而言,x是该单元的输入与阈值的差值,f(x)是该单元的输出。对于输出层单元而言,x是该单元的输入与阈值的差值,f(x)是该单元的输出。

采用上述方案的目的在于,使用神经网络模型预测被评价行为时间,由于神经网络结构复杂,具有很强的泛化能力。能够建模被测个体行为、特定行为的依赖、规律性行为与被评价行为时间的线性和非线性关系。从而准确预测该个体的被评价行为时间,进一步更好地计算该个体的特定行为依赖程度值。

需要说明的是,在优选实施方式下,该神经网络模型优选设置了公有结构和私有结构,该公有结构对于每一次迭代都会进行参数更新,而每一位个体的私有结构只有在当前个体的数据作为输入时才会进行更新。该神经网络结构如图1所示,该神经网络采用反向传播算法进行训练,为了描述具体更新方式,进行如下定义,如表1所示。

表1

其中公有结构第h个隐层单元输入公式为:

公有结构第h个隐层单元输出公式为:

bch=fch(αch-λch)

私有结构第h个隐层单元输入公式为:

私有结构第h个隐层单元输出公式为:

buh=fuh(αuh-λuh)

输出层输入公式为:

输出层输出公式为:

每一组数据输入都对网络参数进行更新,个体u在时刻t的数据计算得到的损失为:

参数更新公式:

θ=θ+ηδθ

λch=λch+ηδλch

λuh=λuh+ηδλuh

wh=wh+ηδwh

vcih=vcih+ηδvcih

vuih=vuih+ηδvuih

其中:

wh为w第h位值

vcih为矩阵vc第i行第h列值

vuih为矩阵vu第i行第h列值

令:

则:

δθ=-ηg

同理:

δwh=ηgbh

δλch=-ηech

δλuh=-ηeuh

δvcih=ηechx1i

δvui=ηeuhx2i

其中:

采用上述进一步方案的有益效果:由于每一位个体具有不同的特定行为依赖程度与行为习惯,采用这一方案可以能够学习不同个体不同的特定行为依赖程度和行为习惯,并且能够减少神经网络参数、降低训练时间开销。

进一步,在上述实施例中的步骤s5中个体u的特定行为依赖程度au的计算公式为:

其中,qu为私有结构隐层单元数目,i为私有结构输入特定行为依赖程度特征对应的下标,vuij为个体u的对应的网络私有结构中输入层到隐层的n*qu维权重矩阵vu第i行第j列对应的值,n为私有结构输入的特征维度。

采用上述优选实施方案的目的在于,由于在训练网络时私有结构的输入层与隐层的权重矩阵只在当前个体数据作为输入时才进行更新,因此私有结构输入层到隐层的权重矩阵能够学习到该个体的个性化特点,将私有结构输入特定行为依赖特征对应神经单元对所有隐层单元贡献权重进行加和,结果作为该个体特定行为依赖程度值,该结果能够具体而量化地计算当前个体的特定行为依赖程度值。

实施例1

为了进一步证实及说明本发明分析方案的可行性,本实施例中将以大学生上网行为的量化分析为例进行说明,原因在于,随着网络的发展,网络成为大学生学习生活中必不可少的组成部分,由于大学学习的灵活性与自主性,大学生在享受网络带来的便利的同时,往往沉迷于网络带来的心理满足,因而越来越多的大学生表现出对网络较高的依赖性。然而,过分的使用网络会给学生的心理、生活带来较多消极影响。因此及时发现学生的网络依赖倾向,并且对其进行正确的指导具有重要意义。

此外,对大学生的网络依赖程度分析是心理学领域的一项重要内容。目前,心理学领域分析大学生网络依赖程度主要基于调查问卷的方法。然而,由于调查问卷通常需要被研究对象手动填写,过程较为繁琐。此外,调查问卷的问题较为主观,如:是否因为网络导致你的工作表现变差?或者是否经常因为不能上网而感到沮丧或者紧张?问题的主观性给相应的研究造成了一定的误差。

综上,目前在对大学生网络依赖问题进行分析时,存在过程繁琐与由于主观性造成的研究误差的问题。因此为了解决上述问题,运用本发明基于神经网络的人类行为依赖度分析方法可以良好的给出客观的量化分析结果。

请参阅图1,为进一步说明本发明的基于神经网络的人类行为依赖度分析方法的实现过程,本实施例下举例,以对大学生日常上网这一特定行为的依赖程度(网络依赖)进行分析来进行示例说明,但本领域技术人员应当理解,本发明的方案亦可针对人类个体多种特定行为进行量化分析,而并未限制可分析的特定行为类型,因此任何适用本发明方案的特定行为,皆可在本方案下被进行量化分析,并皆属于本发明方案的揭露范围。

具体来说,为了实现基于神经网络对学生网络依赖度进行分析,根据上述实施方案,首先需要:

s101构造行为向量,即根据选定的粒度处理学生每天上网、餐饮、淋浴等行为数据,获得每位学生每一天的行为向量。例如:设置粒度为24h,某位同学u在2018年11月7日24h内的餐饮消费总额:18.13元,消费频次:3次,该同学这一天在校园内的时间为:245分钟,平均每两次上网的间隔为:12分钟,共上网161分钟。

因此该学生这一天的行为向量为;(18.13,3,245,12)。

s102构造个性化向量,即在考虑学生网络依赖程度不同以及每一周行为具有一定的周期性的情况下,对于每一位同学在时间t的个性化向量构建方法如下:

(1,π1(t),π2(t),π3(t),π4(t),π5(t),π6(t),π7(t))

令π(t)表示时间t是周几,πi(t)的定义如下:

例如,由于2018年11月7日是周三,因此该学生在这一天的个性化向量为:

(1,0,0,1,0,0,0,0)

s103初始化网络,由步骤s101与步骤s102可知,公有结构输入为:(18.13,3,245,12)公有结构输入维度为4,私有结构输入为:(1,0,0,l,0,0,0,0),私有结构输入维度为8。即:

x1=(18.13,3,245,12)

x2=(1,0,0,1,0,0,0,0)

n1=4

n2=8

而在本实施例中,优选设置公有结构隐层单元数目为3,私有结构隐层单元数目为:2。隐层单元总数为5,。即:

q1=3

q2=2

q=5

因此本实施例中,设置公有结构隐层与私有结构隐层的激活函数为:

fch(x)=x

fuh(x)=x

输出层激活函数为:

fo(x)=x

随机初始化网络参数:

λc=(1.0,0.5,0.6)

λu=(0.1,0.6)

θ=0.9

由步骤s101知,神经网络目标输出特点行为时间即上网时间为:161。即:y=161。

本实施例中设置神经网络学习率为:0.5,网络训练轮次为:1,即η=0.5

s104使用标准反向传播算法训练网络:

该实施例中,公有结构隐层输入:αc=(56.526,200.404,31.713);

公有结构隐层输出:bc=(55.526,199.904,31.113);

私有结构隐层输入:αu=(0.7,1.4);

私有结构隐层输出:bu=(0.6,0.8);

输出层输入:β=146.2528;

输出层输出:

此轮的损失为:eu(t)=122.417;

使用标准反向传播算法,根据本实施例设置的学习率η=0.5,以目标的负梯度方向对参数进行调整:

δλc=(-4.694,-3.912,-3.129)

δλu=(-0.782,-4.694)

δθ=-7.824

更新后的网络参数为:

λc=(-3.694,-3.412,-2.529)

λu=(-0.682,-4.094)

θ=-6.924

s105将每位学生网络依赖特征对应神经单元对所有隐层单元贡献权重进行加和,结果作为该学生网络依赖程度值。因此得出该学生的网络依赖程度值计算公式为:

其中,qu为私有结构隐层单元数目,i为私有结构输入网络依赖程度特征对应的下标,vuij为学生u的对应的网络私有结构中输入层到隐层的n*qu维权重矩阵vu第i行第j列对应的值。其中,n为私有结构输入的特征维度。

本实施例中,私有结构输入特征向量中,学生网络依赖程度对应下标为1,即:

i=1

其中n为私有结构输入单元个数,对应上述定义中的n2,本实施例中该私有结构隐层单元数目为2,私有结构中输入层到隐层的权重矩阵维度为(8*2)维,即:

n2=8

qu=2

因此本实施例中根据计算,该学生的网络依赖程度值为:

1.082+5.594=6.676

从而根据上述基于神经网络的人类行为依赖度分析方法,该学生的该上网行为这一特定行为的依赖程度,即可得到了具体的量化分析。

以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本发明的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

本领域技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得单片机、芯片或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-onlymemory)、随机存取存储器(ram,randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

此外,本发明实施例的各种不同的实施方式之间也可以进行任意组合,只要其不违背本发明实施例的思想,其同样应当视为本发明实施例所公开的内容。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1