一种基于快速相关向量机的污水处理在线软测量方法
【技术领域】
[0001] 本发明涉及污水处理领域，特别涉及一种基于快速相关向量机的污水处理在线软 测量方法。
【背景技术】
[0002] 污水处理是经济发展和水资源保护不可或缺的组成部分。随着国民经济的快速增 长，污水排放量也大大增加，而污水处理厂太少，处理周期太长，远远达不到国家对环境保 护的要求。同时国家对环境保护的投入加大，污水处理技术越来越受到更多的关注。国家 发展规划中明确提出要研发并推广低能耗、有效的污水处理技术。
[0003] 污水排放标准中，衡量是否达标的参数指标有：化学需氧量COD、生化需氧量BOD、 氨氮、磷、固体悬浮物等。其中生化需氧量BOD和化学需氧量COD反映水被有机污染的程 序，B0D/C0D的比率反映出了污水的生物降解能力。这两个参数的测量对控制污水处理具 有非常重要的价值。化学需氧量COD是指，水样在一定条件下，以氧化1升水样中还原性物 质所消耗的氧化剂的量为指标，折算成每升水样全部被氧化后，需要的氧的毫克数，以mg/L 表示。生化需氧量BOD是指微生物在一定的温度和时间条件下分解氧化有机物所消耗的溶 解氧量，以mg/L表示。
[0004] 现在的污水处理一般都采用稀释法、传感器等测量污水中BOD、COD的浓度，但由 于分析测定这两个指标的周期较长，测量中时常出现误差，不能及时反应污水处理的现场 情况，因而污水控制系统存在着较大的延时，不能发挥其最佳的性能。本发明提出一种新的 测量BOD的软测量方法，通过快速边际似然算法来对相关向量机的训练过程进行改进，能 够更快地使超参数达到稳定值，从而得到权重值和偏差值，并构建在线的快速相关向量机 软测量模型，实现对污水处理出水BOD的测量。
【发明内容】
[0005] 本发明的目的在于克服现有技术的缺点与不足，提供一种基于快速相关向量机的 污水处理在线软测量方法。
[0006] 本发明的目的通过以下的技术方案实现：
[0007] 一种基于快速相关向量机的污水处理在线软测量方法，包含以下顺序的步骤：
[0008] A、通过快速边际似然算法估计超参数，得到模型的权重值和样本偏差值；
[0009] B、然后建立快速相关向量机在线预测模型，对模型参数寻优，实现了污水中BOD 的精确快速测量。
[0010] 所述的基于快速相关向量机的污水处理在线软测量方法，具体包含以下步骤：
[0011] Si.剔除输入和输出的数据中的异常点，由于各输入变量量纲的不同，对其进行归 一化处理，归一化到[0, 1]区间中；
[0012] S2?给定污水数据集{(xn，tn)，n= 1，2,…，N}，XnGRd，tnGR，N是样本数，为简 便起见，只考虑标量目标函数，我们遵循标准的概率公式，假定：
[0013] tn=y(xn；w)+en (I)
[0014] 其中，y( ?)是非线性函数，e"是均值为0,方差为〇 2的高斯噪声，即 \~八/(0,cr〗），因此有tn~N(y(Xn)，〇 2)，这表明1:"满足均值y(Xn)为方差为〇 2的高斯噪 声分布，与支持向量机类似，函数y(x)定义为
【主权项】
1. 一种基于快速相关向量机的污水处理在线软测量方法，其特征在于，包含以下顺序 的步骤： A、 通过快速边际似然算法估计超参数，得到模型的权重值和样本偏差值； B、 然后建立快速相关向量机在线预测模型，对模型参数寻优，实现了污水中BOD的精 确快速测量。
2. 根据权利要求1所述的基于快速相关向量机的污水处理在线软测量方法，其特征在 于，具体包含以下步骤：
51. 剔除输入和输出的数据中的异常点，由于各输入变量量纲的不同，对其进行归一化 处理，归一化到[〇, 1]区间中；
52. 给定污水数据集{(xn, tn)，η = 1，2,...，N}，xne Rd, tne R, N是样本数，为简便起 见，只考虑标量目标函数，我们遵循标准的概率公式，假定： tn= y(xn；w)+ ε n (I) 其中，y( ·)是非线性函数，ε "是均值为0,方差为σ 2的高斯噪声，g卩&~Λ:(0,σ!), 因此有tn~N (y (Xn)，〇2)，这表明、满足均值y (Xn)为方差为〇2的高斯噪声分布，与支持 向量机类似，函数y(x)定义为
其中，由公式Φ?(χ) =K(x，Xi)来确定基函数，其核被训练向量参数化，假定tn是相互 独立的，则整个训练集的似然函数可写为
式中 t = IX，t2,…，tN]T, W = [w。，W1,…，wM]T, Φ 是一个 NX (N+1)的设计矩阵，Φ = [Φ" Φ2, · · ·，ΦΜ]是组非线f生基函数，Φ (Xn) = [1，K(xn，X1), Κ(χη，χ2)，· · ·，K(xn，xN)]T; 由于在模型中有和训练样本差不多的参数个数，从（3)式中得到的w和σ 2的最大似 然估计值有可能导致模型过拟合；为了避免过度拟合，通常的做法是给参数强加一些限制 条件；在这里，我们从贝叶斯概率框架出发，通过定义一个先验概率分布来限制参数w和 〇 2; 这里选择一个比较平滑的函数，定义w的先验概率分布为零均值的高斯分布：
式⑷中：超参数a = [CXtl, CX1,...，αΝ]τ，更重要的是，每个独立的超参数Cij只与 其对应的权值Wj相关；通过这个限制条件，在经过大量的污水数据学习后，大部分超参数 会趋近于无穷大，而与其对应的权值为〇,从而使RVM具有较高的稀疏性； 现在已经定义了先验概率，从贝叶斯规则来看，对于给定的数据中未知数据，贝叶斯推 理通过计算后验概率处理：
给定一个测试点X?，相应的污水出水水质预测值L的预测分布为 p (t* 11) =I p (t* I w, α , σ 2) ρ (w, α , σ 211) dwd a d σ 2 (6) 根据贝叶斯公式，利用样本似然函数（4)和w先验分布（5)可得w的后验分布为
我们把后验概率分解为 p(w, a, 02|t) =p(|w|t, α, σ2)ρ(α, σ 211) (8) 因此对权重的后验概率分布为
其中Yi=I-a J Π ，Σ u为协方差矩阵Σ的第i个对角元素；最后通过公式（10)到 公式（13)的迭代推理运算得到超参数α和方差〇2的估计值；输出的污水水质预测值为 K= μ Τ Φ OO，X?是污水处理过程输入值；
53. 用快速边际似然算法估计超参数 针对相关向量机计算时间复杂度大、内存开销大的问题，采用了一种快速边际似然算 法；它在训练过程中从空集开始动态地扩充基矩阵Φ，从而增大边际似然函数，或者去掉 基矩阵Φ冗余的列来增大目标函数；
54. 对待预测的污水样本数据进行预测：将入水数据作为训练好的相关向量机软测量 模型的输入，模型的输出即为出水BOD的预测结果。
3.根据权利要求2所述的基于快速相关向量机的污水处理在线软测量方法，其特征在 于，所述的步骤S3,具体包含以下顺序的步骤： 相关向量机是通过最大化边际似然函数P (t| α，σ2)的方法确定超参数α和方差〇2 的，等价于最大化为其对数；记L(a) = log[p(t| α，。2)]，整理有
其中 C = σ 2Ι+ΦΑ-1ΦΤ，t = [tl，t2,…，tN]T; 为了便于最大化L ( α )，对矩阵C进行等价变换，如下：
其4
此矩阵表示当a i = 时，相应的基向量φ i被移除后样本 对应的协方差矩阵，根据矩阵相关性质整理可得
注意UaJ表示为当Cii = OO时，相应的基本向量φ ^皮移除后所对应的边界似然函 数的对数，而IUi)表示边界似然的对数函数中只与a 1有关的独立部分，上式对a i求偏 导有
综合公式（20)和（21)进行分析可知
(23) 所以当这>4时，公式（23)左边的表达式是恒小于零的，并对以上推导公式分析可 得，L(a)有唯一最大值点为
由此得到L(a)的最大值。
4. 根据权利要求3所述的基于快速相关向量机的污水处理在线软测量方法，其特征在 于，所述的贝叶斯L(a)通过以下方法最大化： a、 当基向量（^在模型中，即α '〇?，但有，则将（J)i从模型中删除，即令a i = <-，这样可以增大贝叶斯L(a); b、 当基向量1在模型中，即a i = 但有^ >在，则将1添加到模型中并利用公 式（24)更新ai，这样可以增大贝叶斯L(a); c、 当基向量1在模型中，即a 但有泛 >尽，则用公式（24)更新％，这样可以 增大贝叶斯L(a )。
5. 根据权利要求3所述的基于快速相关向量机的污水处理在线软测量方法，所述的快 速相关向量机，其回归基本算法步骤如下： I、 初始化σ2; II、 用单个基向量Φ?初始化a i，由公式（24)分析整理可得
「并设 置其他的a Jm辛i)为无穷大； III、 计算Σ、μ并对所有M个基函数Φ，始化SjPQm; IV、 从所有M个基函数<i>m集合中选择候选的基向量Φ i; ￥、计算3=泛-5,.; VI、若Θ i>0且a Z 〇〇 (基向量（^在模型中），重新估计a i; ￥11、若Θ )0且a foo (基向量φ i不在模型中），添加 φ濟模型中并重新估计a i; VDI、若θ $ 〇且a Z 〇〇,删除（J)i并设置a foo ; IX、 估计噪声方差
其中N为数据个数，M为基函数个 数； X、 重新计算协方差矩阵Σ，权重矩阵μ以及相应迭代过程中的SdP Qm; XI、 若收敛或者达到最大迭代次数，则保存权重值及偏差值，此次训练结束；否则转步 骤IV继续训练。
【专利摘要】本发明公开了一种基于快速相关向量机的污水处理在线软测量方法，包含以下顺序的步骤：通过快速边际似然算法估计超参数，得到模型的权重值和样本偏差值；然后建立快速相关向量机在线预测模型，对模型参数寻优，实现了污水中BOD的精确快速测量。本发明的测量方法，能够满足实时性的要求，建立最优预测模型，预测精度得到了提高，效果显著，性能得到了改善，快速相关向量机建立的污水水质在线软测量模型预测精度高、泛化能力强、更新时间短，对于节省污水处理厂运营费用，实时反映污水水质状况，对污水处理自动控制系统具有重要的意义。
【IPC分类】G06F19-00
【公开号】CN104680015
【申请号】CN201510093369
【发明人】许玉格, 曹涛, 罗飞, 宋亚龄, 张雍涛
【申请人】华南理工大学
【公开日】2015年6月3日
【申请日】2015年3月2日