一种基于多层随机隐特征模型的网页广告投放装置和方法与流程

本发明涉及广告领域，特别是涉及基于多层随机隐特征模型的网页广告投放装置和方法。

背景技术：

广告是用于说服潜在的消费者购买或者关注某种商品的传媒手段，从报刊杂志，再到电视、电影、网站，广告在我们的生活中无处不在。同时随着移动互联网技术的迅速发展，重心开始从传统媒体广告开始向移动互联网广告转移。凭借着现代社会良好的数字媒体环境，广告传媒业的发展更为迅速。但是目前很多广告都是随机投放的，难以根据用户的属性和行为做出动态调整，即用户来了，随机选择一个广告投放给他，这样会导致广告投放的效率很低，同时也无法较好地迎合移动终端发展的需要。同时，随意的投放广告有可能也会导致用户的反感，面对这种情况，在网页广告实时投放的同时，保证网页广告的精准投放是一个急需解决的问题。

目前一些主流的广告投放平台，如百度的cpa广告平台，谷歌公司开发的googleadsense个性化广告投放平台，还有facebook开发的社交网络广告投放系统都针对用户有了很高的广告推荐精度，由于海量广告的存在，广告的推挤效率还需提高。同时现有的一些广告推荐技术，都是基于用户浏览记录和行为，通过建立用户兴趣模型去匹配广告，或者根据用户的社交网络关系计算用户相似度去进行广告的推荐。但是由于海量用户和海量广告的存在，同时广告点击率很低的情况下，如广告点击率在万分之一到千分之一的比例，会导致数据稀疏的问题，从而使广告推荐效率不高。如何高效精确的进行广告推荐，已经成为业界一个主要研究与急需解决的问题。

技术实现要素：

本发明所要解决的技术问题在于提供基于多层随机隐特征模型的网页广告投放装置和方法。

为了解决上述技术问题，本发明的技术方案是：

一种基于多层随机隐特征模型的网页广告投放装置，其特征在于：该装置包括：

广告数据收集模块，用于收集用户的广告行为数据并储存。

数据转化模块，用于将广告行为数据转化为目标矩阵。

所述特征更新模块用于初始化更新用户行为特征矩阵和广告特征矩阵中涉及的相关参数。并基于目标矩阵，随机产生权重和偏置，利用激活函数更新每个用户的行为特征，形成用户行为特征矩阵。再结合用户行为特征矩阵和目标矩阵，得到广告特征矩阵。

广告推荐模块用于利用用户行为特征矩阵和广告特征矩阵得到广告权重，根据广告权重对每个用户的广告推荐序列进行排序，从广告推荐序列中选择权重最高的广告对用户进行投放。

根据本发明所述的基于多层随机隐特征模型的网页广告投放装置的优选方案，所述特征更新模块包括：

参数初始化单元，用于初始化更新用户行为特征矩阵和广告特征矩阵中涉及的相关参数。

用户随机特征更新单元，基于目标矩阵，随机产生权重和偏置，利用激活函数更新每个用户的行为特征，形成用户行为特征矩阵。

广告特征更新单元，结合用户行为特征矩阵和目标矩阵，得到广告特征矩阵。

本发明的第二个技术方案是，一种基于多层随机隐特征模型的网页广告投放方法，其特征在于：该方法包括如下步骤：

s1，收集用户的广告行为数据并储存。

s2，将广告行为数据转化为目标矩阵并存储备用。

s3，基于目标矩阵，随机产生权重和偏置，利用激活函数产生用户行为特征矩阵，然后，利用用户行为特征矩阵求导得到广告特征矩阵。

s4，利用用户行为特征矩阵和广告特征矩阵得到广告权重，根据广告权重对每个用户的广告推荐序列进行排序，从广告推荐序列中选择权重最高的广告对用户进行投放。

根据本发明所述的基于多层随机隐特征模型的网页广告投放方法的优选方案，步骤s3包括：

s3-1，接收服务器发送的投放广告的指令。

s3-2，参数初始化：初始化用户行为特征矩阵和广告特征矩阵更新过程中涉及的相关参数。

这些参数包括：

多层结构层数控制变量l。多层随机隐特征模型最高层数l。广告行为目标矩阵r，矩阵r中的元素ru,i代表矩阵中第u行第i列的元素，其大小为行数为m和列数为n的高维稀疏矩阵，m表示用户数量，n表示广告数量。用户行为特征矩阵p^l，矩阵p^l中的向量pu代表矩阵中第u个用户的特征向量。广告特征矩阵q^l，矩阵q^l中的元素qi代表矩阵中第i个广告的特征向量。隐含层节点个数f即隐特征空间维数。激活函数首层权重矩阵a。首层偏置向量b。激活函数多层权重矩阵w。多层偏置向量d。正则化惩罚项因子λ。更新收敛终止门限为τ等。

其中，隐含层节点个数f初始值为正整数。

用户行为特征矩阵p^l的大小是行数为m和列数为f的矩阵，并且每个元素参数初始化为极小随机数。

广告特征矩阵q^l的大小是行数为f和列数为n的矩阵，并且每个元素参数初始化为极小随机数。

激活函数首层权重矩阵a的大小是行数为f和列数为n的矩阵。

激活函数多层权重矩阵w的大小是行数为f和列数为f的矩阵。

首层偏置向量b和多层偏置向量d是长度为f的向量。

多层结构层数控制变量l的上限为多层随机隐特征模型最高层数l，参数初始化为正整数。

正则化惩罚项因子λ是防止更新过程中出现过度拟合的正则化常数，初始化为极小正数。

更新收敛终止门限τ是判断迭代过程是否已收敛的门限参数，初始化为极小正数。

s3-3，基于目标矩阵r的已知数据集合rk，构造目标损失函数ε，利用用户行为特征矩阵p^l和广告特征矩阵q^l的内积对目标损失函数进行逼近。建立对应逼近值的距离函数作为优化目标。使用正则化，对优化过程进行约束。

s3-4，判断多层结构层数控制变量l是否已达到上限l，如达到上限，执行s4，如没有达到上限，执行s3-5。

本步骤中，在多层结构层数控制变量l上累加1，然后判断多层结构层数控制变量l是否大于上限l。

s3-5，判断目标损失函数ε在已知数据集合rk上是否已收敛，如已收敛，执行s4，如没有收敛，执行s3-6步。

本步骤中，装置判断ε在rk上收敛的依据为，本轮迭代开始前目标损失函数ε的数值，对比上轮迭代开始前目标损失函数ε的数值，其差的绝对值是否小于收敛判定阈值τ。如果小于，则判定为已收敛，反之，则判定为未收敛。

s3-6，根据目标矩阵和已初始化的相关参数，随机产生权重和偏置，利用随机产生的权重和偏置并结合激活函数，更新用户行为特征矩阵。

s3-7，结合用户行为特征矩阵和目标矩阵，得到广告特征矩阵。再返回s3-4。

s3-5，判断目标损失函数ε在已知数据集合rk上是否已收敛，如已收敛，执行s4，如没有收敛，执行s3-6。

s3-6，根据目标矩阵和已初始化的相关参数，随机产生权重和偏置，利用随机产生的权重和偏置，结合激活函数，更新用户行为特征矩阵。

s3-7，结合用户行为特征矩阵和目标矩阵，更新广告特征矩阵，返回步骤s3-4。

本发明所述的一种基于多层随机隐特征模型的网页广告投放装置和方法的有益效果是，本发明利用多层随机隐特征模型，在保证网页广告实时投放的同时，实现了网页广告对用户进行精准投放，广告投放的效率高，实现高效精确的进行广告推荐，降低了广告投放的成本，可广泛应用于各个互联网平台。

附图说明

图1为一种基于多层随机隐特征模型的网页广告投放装置的结构示意图。

图2为一种基于多层随机隐特征模型的网页广告投放方法流程图。

图3a为本发明实施前后广告投放的精度对比图。

图3b为本发明实施前后广告投放的效率对比图。

具体实施方式

下面结合试验例及具体实施方式对本发明作进一步的详细描述。但不应将此理解为本发明上述主题的范围仅限于以下的实施例，凡基于本发明内容所实现的技术均属于本发明的范围。

实施例1：参见图1，一种基于多层随机隐特征模型的网页广告投放装置，该装置包括：

广告数据收集模块110，用于收集用户的广告行为数据并储存。其中广告行为数据是指用户与广告之间的交互记录。

数据转化模块120，用于将广告行为数据转化为目标矩阵r，其大小为行数为m和列数为n的高维稀疏矩阵，m表示用户数量，n表示广告数量。目标矩阵r是指利用用户与广告之间的交互记录转化的矩阵，矩阵中的元素ru,i代表矩阵中第u行第i列的元素，如果第u个用户浏览过第i个广告，那么ru,i＝1，否则该值为缺失值。

所述特征更新模块130用于初始化更新用户行为特征矩阵和广告特征矩阵涉及的相关参数。并基于目标矩阵，随机产生权重和偏置，利用激活函数更新每个用户的行为特征，形成用户行为特征矩阵p^l。再结合用户行为特征矩阵和目标矩阵，得到广告特征矩阵q^l。

权重包括首层权重矩阵a和多层权重矩阵w，用于在激活函数中对用户行为特征矩阵添加加权项。

偏置包括首层偏置向量b和多层偏置向量d，用于在激活函数中对用户行为特征矩阵添加偏置项。

用户行为特征矩阵p^l是指在第l层中更新获得的用户行为特征矩阵，用于表示用户的特征喜好。其中l是多层结构层数控制变量。矩阵中的向量pu代表矩阵中第u个用户的特征向量。

广告特征矩阵q^l是指在第l层中更新获得的广告特征矩阵，用于表示广告本身所具备的特性，如广告时长、广告类型、广告适用人群等。其中l是多层结构层数控制变量。矩阵中的元素qi代表矩阵中第i个广告的特征向量。

广告推荐模块140用于利用用户行为特征矩阵和广告特征矩阵得到广告权重，根据广告权重对每个用户的广告推荐序列进行排序，从广告推荐序列中选择权重最高的广告对用户进行投放。其中，用户的广告推荐序列主要由待推荐的广告构成，广告在广告推荐序列中的顺序由广告权重决定，权重越高，排名越靠前，越有可能推荐给用户。

在具体实施例中，所述特征更新模块130包括：

参数初始化单元131，用于初始化更新用户特征矩阵和广告特征矩阵所涉及的相关参数。

用户随机特征更新单元132，基于目标矩阵，随机产生权重和偏置，利用激活函数更新每个用户的行为特征，形成用户行为特征矩阵。

广告特征更新单元133，结合用户行为特征矩阵和目标矩阵，得到广告特征矩阵。

实施例2：参见图2，一种基于多层随机隐特征模型的网页广告投放方法，其特征在于：该方法包括如下步骤：

s1，收集用户的广告行为数据并储存。

s2，将广告行为数据转化为目标矩阵并存储备用。

s3，基于目标矩阵，随机产生权重和偏置，利用激活函数产生用户行为特征矩阵，然后，利用用户行为特征矩阵求导得到广告特征矩阵。

权重包括首层权重矩阵a和多层权重矩阵w，用于在激活函数中对用户行为特征矩阵添加加权项。

偏置包括首层偏置向量b和多层偏置向量d，用于在激活函数中对用户行为特征矩阵添加偏置项。

用户行为特征矩阵p^l是指在第l层中更新获得的用户行为特征矩阵，用于表示用户的特征喜好。其中l是多层结构层数控制变量。矩阵中的向量pu代表矩阵中第u个用户的特征向量。

广告特征矩阵q^l是指在第l层中更新获得的广告特征矩阵，用于表示广告本身所具备的特性，如广告时长、广告类型、广告适用人群等。其中l是多层结构层数控制变量。矩阵中的元素qi代表矩阵中第i个广告的特征向量。

在具体实施例中，步骤s3包括

s3-1，接收服务器发送的投放广告的指令。

s3-2，参数初始化：初始化用户行为特征矩阵和广告特征矩阵更新过程中所涉及的相关参数。这些参数包括：

多层结构层数控制变量l。多层随机隐特征模型最高层数l。广告行为目标矩阵r，矩阵r中的元素ru,i代表矩阵中第u行第i列的元素，其大小为行数为m和列数为n的高维稀疏矩阵，m表示用户数量，n表示广告数量。用户行为特征矩阵p^l，矩阵p^l中的向量pu代表矩阵中第u个用户的特征向量。广告特征矩阵q^l，矩阵q^l中的元素qi代表矩阵中第i个广告的特征向量。隐含层节点个数f即隐特征空间维数。激活函数首层权重矩阵a。首层偏置向量b。激活函数多层权重矩阵w。多层偏置向量d。正则化惩罚项因子λ。更新收敛终止门限为τ等。

其中，隐含层节点个数f初始值为正整数。

用户行为特征矩阵p^l的大小是行数为m和列数为f的矩阵，并且每个元素参数初始化为极小随机数。

广告特征矩阵q^l的大小是行数为f和列数为n的矩阵，并且每个元素参数初始化为极小随机数。

激活函数首层权重矩阵a的大小是行数为f和列数为n的矩阵。

激活函数多层权重矩阵w的大小是行数为f和列数为f的矩阵。

首层偏置向量b和多层偏置向量d是长度为f的向量。

多层结构层数控制变量l的上限为多层随机隐特征模型最高层数l，参数初始化为正整数。

正则化惩罚项因子λ是防止更新过程中出现过度拟合的正则化常数，初始化为极小正数。

更新收敛终止门限τ是判断迭代过程是否已收敛的门限参数，初始化为极小正数。

s3-3，基于目标矩阵r的已知数据集合rk，构造目标损失函数ε，利用用户行为特征矩阵p^l和广告特征矩阵q^l的内积对目标损失函数进行逼近。建立对应逼近值的距离函数作为优化目标。使用正则化，对优化过程进行约束，目标损失函数如下：

其中：

p^l表示用户行为特征矩阵，q^l表示广告特征矩阵q^l，ru,i代表目标矩阵r中第u行第i列的元素，rk代表目标矩阵r中的已知元素集合，代表p^l中第u个用户的特征向量，代表q^l中第i个广告的特征向量；表示的弗罗贝尼乌斯范数，表示的弗罗贝尼乌斯范数。

s3-4，判断多层结构层数控制变量l是否已达到上限l，如达到上限，执行s4，如没有达到上限，执行s3-5。

本步骤中，在多层结构层数控制变量l上累加1，然后判断多层结构层数控制变量l是否大于上限l。

s3-5，判断目标损失函数ε在已知数据集合rk上是否已收敛，如已收敛，执行s4，如没有收敛，执行s3-6步。

本步骤中，装置判断ε在rk上收敛的依据为，本轮迭代开始前目标损失函数ε的数值，对比上轮迭代开始前目标损失函数ε的数值，其差的绝对值是否小于收敛判定阈值τ。如果小于，则判定为已收敛，反之，则判定为未收敛。

s3-6，根据目标矩阵和已初始化的相关参数，随机产生权重和偏置，利用随机产生的权重和偏置并结合激活函数，更新用户行为特征矩阵，其更新公式如下：

g(x)＝1/(1+e^-x)为激活函数形式。

p^l表示户行为特征矩阵，代表p^l中第u个用户的特征向量，代表目标矩阵r中第u行向量的转置，ai表示首层权重矩阵a中的第i个向量，表示多层权重矩阵w中的第i个向量，bi表示首层偏置向量b中的第i个元素，表示多层偏置向量d中的第i个元素。其中u取值为1到m的正整数，i取值为1到f的正整数，l取值为1到n的正整数。

s3-7，结合用户随机特征矩阵和目标矩阵，更新广告特征矩阵，再返回s3-4步。其更新公式为：

其中代表p^l中第u个用户的特征向量，表示的转置，代表q^l中第i个广告的特征向量，ru,i代表目标矩阵r中第u行第i列的元素，rk代表目标矩阵r中的已知元素集合，λ代表正则化惩罚项因子，u(i)表示点击过广告i的用户集合，rk(i)表示与广告i关联的已知用户集合，|rk(i)|表示点击过广告i的用户数量，rk代表目标矩阵r中的已知元素集合，i代表单位矩阵。

在rk上，利用多层结构重复上述更新过程，直至ε在rk上对收敛，收敛判定条件为多层结构层数控制变量l达到上限，或者本层迭代开始前，ε的数值，对比上一层更新开始前，ε其差的绝对值已经小于收敛终止阈值为τ。

s4，利用用户行为特征矩阵和广告特征矩阵计算得到广告权重，根据广告权重，对每个用户的广告推荐序列进行排序，从广告推荐序列中选择权重最高的广告对用户进行投放。其中，用户的广告推荐序列主要由待推荐的广告构成，广告在广告推荐序列中的顺序由广告权重决定，权重越高，排名越靠前，越有可能推荐给用户。

为了验证上述基于多层随机隐特征模型的网页广告投放的方法和装置的性能，我们在服务器上(配置：intelxeone5-2650v4，2.2ghz处理器，512g内存)安装了本装置，并运行仿真实验进行实例分析。在实例分析中，采用的广告数据来源于某互联网广告投放平台。实例分析使用均方误差rmse作为广告推荐准确度的评价指标，rmse越低，准确度越高，采用推荐模型运行时间作为广告推荐效率的评价指标，时间越短，效率越高。

图3a、图3b分别为应用本发明实施例前后，广告推荐的精度和效率对比图，精度值越大，精度越高，所需时间越少，效率越高。

由上述技术方案可见，本发明专门用于广告的精准推荐，在保证网页广告实时投放的同时，能够解决网页广告投放的精准度问题。

以上所述仅为本发明的优选实施例，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。