一种视频摘要中非关注区域事件的处理方法
【专利摘要】本发明公开了一种视频摘要中非关注区域事件的处理方法，步骤包括：1)选择非关注区域，根据需要通过画线的方式选择非关注区域，黑斜线上方部分即为选取的非关注区域，黑斜线下面部分即为关注的主要区域；2)提取运动目标，按照单高斯背景建模方法提取背景图像；3)对事件分类，设定直分线上方为非关注区域，直分线下方为关注区域，通过上述方法将事件分为关注区域事件和非关注区域事件，完成事件的分类；4)在视频摘要中生成非关注区域事件，根据由关注区域生成的摘要视频的长度来确定非关注区域的事件在摘要视频中的生成方式。本发明的方法，避免非关注区域事件的遗漏，同时不会增加生成的视频摘要长度。
【专利说明】一种视频摘要中非关注区域事件的处理方法
【技术领域】
[0001] 本发明属于机器视觉【技术领域】，涉及一种视频摘要中非关注区域事件的处理方 法。
【背景技术】
[0002] 视频摘要中非关注度区域的事件处理是视频摘要系统的重要组成部分，视频摘要 就是对视频的内容进行浓缩，通过运动目标检测或其它方式提取视频画面中的运动目标， 然后对各个运动目标的轨迹进行分析，将不同目标的轨迹按照某种规则融合在一起，以缩 短原始视频的长度。然而，在实际拍摄的监控场景中有时候会不可避免的存在一些非关注 区域，这部分区域发生的事件一般不是关注的重点，且情况较为复杂，参与轨迹融合时会影 响摘要视频生成的效率和质量。
【发明内容】
[0003] 本发明的目的是提供一种视频摘要中非关注区域事件的处理方法，解决了现有技 术中，这部分区域发生的事件一般不是关注的重点，且情况较为复杂，参与轨迹融合时会影 响摘要视频生成的效率和质量的问题。
[0004] 本发明所采用的技术方案是，一种视频摘要中非关注区域事件的处理方法，按照 以下步骤实施：
[0005] 步骤1、选择非关注区域
[0006] 根据需要，通过画线的方式选择非关注区域，黑斜线上方部分即为选取的非关注 区域，黑斜线下面部分即为关注的主要区域；
[0007] 步骤2、提取运动目标
[0008] 设视频帧序列为ft(X，y)，t=1，2,. . .，N，t为帧序号，N为视频的总帧数，按照单 高斯背景建模方法提取背景图像；
[0009] 步骤3、对事件分类
[0010] 将提取到的目标的外接矩形中属于非关注区域的面积与目标的外接矩形的面积 的比，来表示该运动目标和非关注度区域的隶属程度M，公式如下：
[0011] C 11 )
[0012] 其中，M为运动目标和非关注区域的隶属程度，S1为目标的外接矩形中属于非关注 区域的面积，S2为目标的外接矩形的面积，当M大于某一阈值时，则认为当前提取的运动目 标属于非关注区域，否则属于关注区域。
[0013] 定义非关注区域和关注区域的分界线称为直分线，设定直分线上方为非关注区 域，直分线下方为关注区域，则直分线与目标的外接矩形包括相交或不相交两种情况，通过 上述方法将事件分为关注区域事件和非关注区域事件，完成事件的分类；
[0014] 步骤4、在视频摘要中生成非关注区域事件
[0015] 对于非关注区域只做运动目标提取，若当前帧提取到有运动目标，且该运动目标 被判断为在非关注区域中，则将其信息保存起来，根据关注区域生成的摘要视频的长度，来 确定非关注区域的事件在摘要视频中的生成方式。
[0016] 本发明的有益效果是，在生成视频摘要的过程中，设置相应的非关注区域，对该区 域发生的事件，通过采用胶片剪辑、抛帧等处理方法，使之在摘要视频中有效生成，生成对 应的视频摘要，能够提高摘要视频的生成质量。
[0017] 本发明方法将视频中的事件加以分类，分为关注区域事件和非关注区域事件，与 通常的方法不同（非关注区域的事件不在视频摘要中生成），能够全面显示视频中发生的 所有事件，避免非关注区域事件的遗漏，同时，不会增加生成的视频摘要长度。
【专利附图】
【附图说明】
[0018] 图1是本发明选取的一个实际监控场景的视频截图；
[0019] 图2是针对图1选取的非关注区域截图；
[0020] 图3是采用本发明方法提取到的前景区域示意图；
[0021] 图4是本发明方法采用的模板示意图；
[0022] 图5是本发明方法采用的目标的外接矩形示意图；
[0023] 图6是采用本发明方法对目标的外接矩形的提取结果截图；
[0024] 图7是采用本发明方法去除小区域后提取结果截图；
[0025] 图8是本发明方法在目标的外接矩形和直分线不相交情况下目标的外接矩形在 直分线上方的示意图；
[0026] 图9是本发明方法在目标的外接矩形和直分线不相交情况下目标的外接矩形在 直分线下方的示意图；
[0027] 图10是本发明方法在直分线和目标的外接矩形相交情况下的直分线与目标的外 接矩形左边界及上边界相交示意图；
[0028] 图11是本发明方法在直分线和目标的外接矩形相交情况下的直分线与目标的外 接矩形左边界及右边界相交示意图；
[0029] 图12是本发明方法在直分线和目标的外接矩形相交情况下的直分线与目标的外 接矩形上边界及下边界相交示意图；
[0030] 图13是本发明方法在直分线和目标的外接矩形相交情况下的直分线与目标的外 接矩形下边界及右边界相交示意图。
【具体实施方式】
[0031] 下面结合附图和【具体实施方式】对本发明进行详细说明。
[0032] 本发明所述的非关注区域，是指因监控相机视角所限，某些区域的运动目标过小 或者遮挡严重的区域，这些目标属于视觉无参考意义的部分，因此将其设置为非关注区域， 对落入非关注区域的运动目标一般不列入摘要事件之中。
[0033] 本发明所述的视频摘要中非关注区域事件的处理方法，按照以下步骤实施：
[0034] 步骤1、选择非关注区域
[0035] 如图1所示，在实际使用过程中，所架设的摄像头存在一定倾角拍摄时，在视频画 面中近景会比较大，而远景会相对较小。监控者主要关注的是道路上发生的事件，但是由于 拍摄时摄像头有一定的倾角，较远区域就不可避免的拍摄到路面以外的画面，远处的事物 就有可能有一些不关注的区域进入监控画面，如图1中左上角、右上角的画面部分，称这样 的区域为非关注区域。
[0036] 如图2所示，这些非关注区域一般在视频画面的左上角和右上角，所以就可根据 需要通过画线的方式选择非关注区域，黑斜线上方部分即为选取的非关注区域，黑斜线下 面部分即为关注的主要区域，该黑斜线与水平方向的夹角Θ优选30° -60° (该黑斜线即 为图8-图13描述中所述的直分线）。
[0037] 步骤2、提取运动目标
[0038] 设视频帧序列为ft(X，y)，t= 1，2, . . .，N，t为帧序号，N为视频的总帧数，按照单 高斯背景建模方法提取背景图像，单高斯建模方法具体步骤如下：
[0039] 2. 1)初始化背景图像
[0040] 计算一段时间内视频序列图像f(x，y)中每一像素的平均灰度值及像素灰度 的方差A2，由和被组成具有高斯分布的初始背景图像Bc^ftUy)表示t时刻的实时 图像，X= 1，2,· · ·，m，y= 1，2,· · ·，η,如公式（1)所示：
[0041] Bu =[凡 4]， ⑴
[0042] 其中，Α,(.V，>')=去[./; (λ% .V)， （ 2 )
[0043] if(.Y，.)')= 士容，(.Y，(Λ%.}')]2， （ 3 )
[0044]2·2)更新背景图像
[0045] 利用视频序列提供的实时信息对背景模型进行更新，(X，y)表示t-Ι时刻的背 景图像，Bt (x，y)的更新值通过公式（4)得到：
[0046]Bt(x,y) = (1-p) ?Bt_1(x,y) +P·ft (x,y), (4)
[0047] 其中，背景更新率P是一个常数，用来反映当前图像对背景的更新速度，通过单 高斯背景建模得到的背景为Bt (X，y)，再采用背景差分法，提取当前帧的前景目标区域为 0t(x，y)，0t(x，y)的计算公式（5)如下：
[0048] 其他，(5)
[0049] 其中，Th为一个合适的阈值，取值优选为30?60。
[0050] 对提取的运动目标区域，进行形态学处理，得到较为理想的二值图，如图3所示；
[0051] 步骤2. 3)通过贴标签的方式获取运动区域的外接矩形，并用其外接矩形描述目 标所在的区域，具体包括以下四步：
[0052] 2. 3. 1)初始化
[0053] 设标签号为Lab= 0,已贴标签数Nlab = 0,标签矩阵g为全0阵，按照从上到下， 从左到右的顺序寻找未贴标签的目标点；
[0054] 2· 3· 2)检查相邻像素的状态：
[0055] 如图4实施例所示，图4中，▲表示已经扫描过的像素，★表示当前像素，表示未 处理的像素，根据模板中的相邻像素的状态进行相应的处理；
[0056] (本发明实施例采用图4的模板，根据需要还可以选用类似的模板）
[0057] ?如果扫描过的像素均为 0,则，Lab=Lab+1，g(i,j) =Lab,Nlab =Nlab+1 ;
[0058] ?如果扫描过的像素标签号相同，则g(i,j) =Lab;
[0059] ?如果扫描过的像素标签号不相同，例如：Lab2 >Labl,则g(i,j) =Labi,Nlab = Nlab-I,修改所有为Lab2的像素值，使之为Labl;
[0060] 2. 3. 3)将全部的像素进行步骤2. 3. 2)的处理，直到所有的像素全部处理完成；
[0061] 2. 3. 4)判断最终的Lab是否满足Lab=Nlab，如果是，则贴标签处理完成；如果不 是，则表明已贴标签存在不连号情况，这时需要进行一次编码整理，消除不连续编号的情 况，
[0062] 经过上述的处理后，在新的标签图中就形成连续的标签号，之后利用标签信息求 出各个目标的外接矩形，假如要计算标签值为k目标的外接矩形，外接矩形的位置采用区 域的左上点（Xmin，ymin)和右下点（Xmax，ymax)描述，如图5中，椭圆区域为标签为k的区域，左 上点和右下点的计算公式如下：
[0063] xmin = min(j),g(i,j) = k, (6)
[0064] ymin = min(i),g(i,j) = k, (7)
[0065] Xmax= max(j),g(i,j) = k, (8)
[0066] ymax = max(i),g(i,j) = k, (9)
[0067] 图6为贴标签后提取的运动目标的外接矩形，通过对目标的外接矩形的面积进行 判断，去除面积较小的区域即可去除一部分噪声，如图7所示，目标的外接矩形面积S的计 算公式为：
[0068] S= (xmax-xmin+1)X(ymax-ymin+l)? (1〇)
[0069] 步骤3、对事件分类
[0070] 视频中的一个运动目标从进入视频画面到离开视频画面的过程被称作一个运动 事件，事件分类就是根据需要，采用人机交互的方式将视频画面分为关注区域和非关注区 域，对于视频中发生的运动事件判断其是属于关注区域还是非关注区域。
[0071] 将提取到的目标的外接矩形中属于非关注区域的面积与目标的外接矩形的面积 的比，来表示该运动目标和非关注度区域的隶属程度M，公式如下：
[0072] ~ > (11)
[0073] 其中，M为运动目标和非关注区域的隶属程度，S1为目标的外接矩形中属于非关注 区域的面积，S2为目标的外接矩形的面积（相当于公式10中的目标区域的外接矩形面积 S)，当M大于某一阈值时（Μ-般取0. 5左右），则认为当前提取的运动目标属于非关注区 域，否则属于关注区域。
[0074] 定义非关注区域和关注区域的分界线称为直分线，问题的关键就在于判断直分线 与目标的外接矩形之间的对应关系，设定直分线上方为非关注区域，直分线下方为关注区 域，则直分线与目标的外接矩形包括相交或不相交两种情况：
[0075] 1)直分线和目标矩形区域不相交的情况
[0076] 假设目标的外接矩形的四个角顺时针依次称为A、B、D、C，直分线称为EF，由点和 直分线的关系可知，图8所示情况下目标的外接矩形右下角D点在直分线上方，图9所示情 况下目标的外接矩形左上角A点在直分线下方，则认为图8的隶属度M为1，图9的隶属度 M为0 ;
[0077] 2)直分线和目标的外接矩形相交
[0078] 以目标的外接矩形左上角A与直分线EF相交为例，直分线和目标的外接矩形相交 可以分为以下四种情况，如图10、图11、图12、图13所示，
[0079] 要计算隶属度M，关键在求解出目标的外接矩形中属于非关注区域部分的面积S1, 对于图10、图11、图12、图13中各自非关注区域的面积S1分别采用以下公式计算：
【权利要求】
1. 一种视频摘要中非关注区域事件的处理方法，其特点在于，按照以下步骤实施： 步骤1、选择非关注区域 根据需要通过画线的方式选择非关注区域，黑斜线上方部分即为选取的非关注区域， 黑斜线下面部分即为关注的主要区域； 步骤2、提取运动目标 设视频帧序列为ft (X，y)，t = 1，2,...，N，t为帧序号，N为视频的总帧数，按照单高斯 背景建模方法提取背景图像； 步骤3、对事件分类 将提取到的目标的外接矩形中属于非关注区域的面积与目标的外接矩形的面积的比， 来表示该运动目标和非关注度区域的隶属程度M，公式如下：
其中，M为运动目标和非关注区域的隶属程度，S1S目标的外接矩形中属于非关注区域 的面积，S2为目标的外接矩形的面积，当M大于某一阈值时，则认为当前提取的运动目标属 于非关注区域，否则属于关注区域； 定义非关注区域和关注区域的分界线称为直分线，设定直分线上方为非关注区域，直 分线下方为关注区域，则直分线与目标的外接矩形包括相交或不相交两种情况，通过上述 方法将事件分为关注区域事件和非关注区域事件，完成事件的分类； 步骤4、在视频摘要中生成非关注区域事件 对于非关注区域只做运动目标提取，若当前帧提取到有运动目标，且该运动目标被判 断为非关注区域中，则将其信息保存起来，根据由关注区域生成的摘要视频的长度来确定 非关注区域的事件在摘要视频中的生成方式，即成。
2. 根据权利要求1所述的视频摘要中非关注区域事件的处理方法，其特点在于：所述 的步骤1中，该黑斜线与水平方向的夹角Θ优选30° -60°。
3. 根据权利要求1所述的视频摘要中非关注区域事件的处理方法，其特点在于：所述 的步骤2中，按照单高斯背景建模方法提取背景图像，单高斯建模方法具体步骤如下： 2. 1)初始化背景图像 计算一段时间内视频序列图像f(x，y)中每一像素的平均灰度值及像素灰度的方 差被，由^和被组成具有高斯分布的初始背景图像Btl, ft(x，y)表示t时刻的实时图像， X = 1，2, · · ·，m，y = 1，2, · · ·，η,如公式（1)所示：
2.2)更新背景图像 利用视频序列提供的实时信息对背景模型进行更新，(X，y)表示t-Ι时刻的背景图 像，Bt (x，y)的更新值通过公式⑷得到： Bt(x，y) = (1-P ) · Bh(x，y) + p · ft(x，y)， (4) 其中，背景更新率P是一个常数，用来反映当前图像对背景的更新速度，通过单高 斯背景建模得到的背景为Bt (x，y)，再采用背景差分法，提取当前帧的前景目标区域为 Ot(x，y)，Ot(x，y)的计算公式（5)如下：
其中，Th为一个合适的阈值，取值优选为30?60 ; 对提取的运动目标区域，进行形态学处理，得到较为理想的二值图； 步骤2. 3)通过贴标签的方式获取运动区域的外接矩形，并用其外接矩形描述目标的 所在的区域，具体包括以下四步： 2. 3. 1)初始化 设标签号为Lab = 0,已贴标签数Nlab = 0,标签矩阵g为全0阵，按照从上到下，从左 到右的顺序寻找未贴标签的目标点； 2. 3. 2)检查相邻像素的状态： 设定▲表示已经扫描过的像素，★表示当前像素，表示未处理的像素，根据模板中的 相邻像素的状态进行相应的处理； 如果扫描过的像素均为 〇,贝1J，Lab = Lab+1，g(i, j) = Lab, Nlab = Nlab+1 ; 如果扫描过的像素标签号相同，则g(i，j) = Lab ; 如果扫描过的像素标签号不相同，例如：Lab2 > Labl,则g(i, j) = Labi,Nlab = Nlab-I, 修改所有为Lab2的像素值,使之为Labl ; 2. 3. 3)将全部的像素进行步骤2. 3. 2)的处理，直到所有的像素全部处理完成； 2. 3. 4)判断最终的Lab是否满足Lab = Nlab，如果是，则贴标签处理完成；如果不是，则 表明已贴标签存在不连号情况，这时需要进行一次编码整理，消除不连续编号的情况， 经过上述的处理后，在新的标签图中就形成连续的标签号，之后利用标签信息求出各 个目标的外接矩形，假如要求取标签值为k目标的外接矩形，外接矩形的位置采用区域的 左上点（xmin, ymin)和右下点（xmax, ymax)描述，椭圆区域为标签为k的区域,左上点和右下点 的计算公式如下： Xmin = min(j), g(i, j) = k, (6) ymin = min(i), g(i, j) = k, (7) Xmax = max(j), g(i, j) = k, (8) ymax = max(i), g(i, j) = k, (9) 通过对目标区域的外接矩形的面积进行判断，去除面积较小的区域即可去除一部分噪 声，目标区域的外接矩形面积S的计算公式为： S = (xmax-xmin+l) X (ymax-ymin+l) (1〇)。
4.根据权利要求1所述的视频摘要中非关注区域事件的处理方法，其特点在于：所述 的步骤3中，直分线与目标矩形包括相交或不相交两种情况，具体是： 1)直分线和目标的外接矩形不相交的情况 假设目标的外接矩形的四个角顺时针依次称为A、B、D、C，直分线称为EF，由点和直分 线的关系可知，第一种情况下目标的外接矩形右下角D点在直分线上方，第二种情况下目 标的外接矩形左上角A点在直分线下方，则认为第一种的隶属度M为1，第二种的隶属度M 为〇 ; 2)直分线和目标的外接矩形相交 以目标的外接矩形左上角A与直分线EF相交为例，直分线和目标的外接矩形相交可以 分为以下四种情况， 要计算隶属度M，关键在求解出属于非关注区域部分的面积S1，对于该四种情况中各自 非关注区域的面积S1分别采用以下公式计算：
对于直分线和C、B点相交的情况可以归为以上四种情况中的一种来处理，对于右上角 的直分线和目标矩形区域的相互关系的分析，以此类推分别进行计算。
5.根据权利要求1所述的视频摘要中非关注区域事件的处理方法，其特点在于：所述 的步骤4中，根据关注区域生成的摘要视频的长度来确定非关注区域的事件在摘要视频中 的生成方式，具体步骤如下： 4. 1)当非关注区域发生事件的总帧数小于关注区生成摘要视频的长度时，对于非关注 区域的事件采用逐帧依次添加到摘要视频中； 4. 2)当非关注区域发生事件的总帧数大于关注区生成摘要视频的长度时，对于非关注 区域的事件采用合适的抛帧依次添加到摘要视频中。 采用合适的抛帧，具体要求是：即设关注区域生成的摘要视频长度为Num1帧，非关注 Nmyi 区域一共有Num2帧发生事件，对于非关注区的事件最终每隔 帧采样，将其中的非 关注区域检测到的目标逐帧加入关注区域生成的摘要视频中，其中"「1 "表示向上取整符 号。
【文档编号】G06K9/46GK104376580SQ201410681680
【公开日】2015年2月25日 申请日期:2014年11月21日 优先权日:2014年11月21日
【发明者】朱虹, 张静波, 邢楠, 苟荣涛, 权甲 申请人:西安理工大学