基于用户反馈的移动视频业务体验质量数据集的采集方法与流程

本发明属于无线通信网络技术领域，具体涉及蜂窝移动通信网场景下实时采集移动终端观看移动视频业务过程中包括用户反馈在内的与体验质量相关的数据集的方法。

背景技术：

移动视频业务是指用户使用手机、平板等移动终端，通过3g、4g等无线网络在线观看视频的方式。不同于个人计算机(personalcomputer，pc)视频业务的有线网加pc的传输模式或者wifi无线网下的移动视频业务，移动视频数据从内容服务器出发沿着无线网络架构传输至移动终端。随着移动通信技术的发展和智能手机的普及，移动流量特别是移动视频业务流量极速增加。根据美国思科“ciscovisualnetworkingindex:globalmobiledatatrafficforecastupdate,2015–2020”白皮书，预计到2020年移动视频流量将占移动流量的75％。目前，主流的移动视频业务都是基于http的流媒体，特别是http自适应流(httpadaptivestream，has)及其各种改进版。因此，如何有效的评估和保障移动视频业务的用户体验质量已成为移动运营商和内容提供商亟需解决的关键问题。

体验质量(qualityofexperience，qoe)是指用户对交互的服务或者应用的主观感受。实际操作中，常采用itu-tp.800.1(07/2016)定义的5分制的主观平均意见得分(meanopinionscore，mos)来衡量用户观看视频的体验质量。mos值越高代表用户观看体验越好，mos各分值的实际意义为：1-很差，2-较差，3-一般，4-好，5-很好。影响视频业务qoe的参数有很多，在itu-te804中定义了包括应用参数、传输参数等的客观因素和包括心情、位置等的主观因素。目前，很多企业和研究学者在pc端进行了关于网络质量参数、视频质量参数与视频业务qoe的数据采集、关联分析、数据建模、传输优化等研究，并得到了一系列的研究成果与应用。例如欧洲springer2012年出版的期刊datatrafficmonitoringandanalysis上的“internetvideodeliveryinyoutube:fromtrafficmeasurementstoqualityofexperience[j].”就是一篇研究pc端用户视频体验的代表性文章，该文详细研究了pc端http视频流的特性，描述了youtube基础框架中用来解决最优视频内容传输的潜在机制。但是不同于基于有线网的pc端或者基于wifi网络的移动终端，基于移动通信的终端视频业务需要考虑不断移动的终端和不断变化的无线信道环境。目前，移动视频业务体验质量的相关研究特别是研究的第一步数据采集还存在着很多困难。一些已有的移动视频业务体验质量的采集方法也不够全面，仅能够采集数据传输的部分环节的数据，不能完整的采集无线网络下与移动视频业务qoe相关的数据。例如美国ieeewirelesscommunications2014年发表的文章“characteristicsofmobileyoutubetraffic[j]”主要描述移动视频业务在3g移动通信网络中的流量特征，分析了流量特征评估对移动网络的影响、最优化网络以及应用设计的重要影响。该文中所采取的数据采集点位于智能终端，数据采集点单一，而且采集到的是3gp格式的视频，视频码率低，该格式已经逐渐被基于has的主流视频流所淘汰。

技术实现要素：

本发明的目的是提出一种基于用户反馈的移动视频业务体验质量数据集的采集方法，通过对用户观看移动视频过程中产生的内容服务器数据、无线网络数据、终端数据、用户反馈数据以及收集视频状态的通信服务器数据的采集，以获取无线网络下包含用户反馈的与移动视频业务用户体验质量相关的测量数据集。

本发明基于用户反馈的移动视频业务体验质量数据集的采集方法，从移动终端侧出发，采集无线网络下与移动视频业务体验质量相关的数据，其特征在于：同时采集包括用户观看移动视频业务过程中产生的终端背景数据、用户反馈数据、视频播放状态数据以及无线网络结点传输数据在内的，从内容服务器到用户的数据传输环节上与移动视频业务体验质量相关的数据；

具体操作步骤为：

通过内容服务器、无线网络结点、通信服务器、以及移动终端这些采集点分别采集移动视频业务数据传输链路上内容服务器侧、无线网络侧、通信服务器侧、终端侧和用户侧的本地数据；在内容服务器侧，通过爬虫代码获取终端请求的视频源的媒体信息，这些媒体信息是包括视频段下载地址、播放时长、分辨率等信息的文件；在通信服务器侧，服务器通过套接字(socket)与终端侧保持通信，通过心跳机制确认终端是否正常在线工作，同时实时获取终端侧上传的信息，并接收其每次测试成功后上传的终端日志文件；在无线网络侧，采集终端和内容服务器间传输的网络数据，包括运营商网关gprs支持节点ggsn的上网日志(xdatarecording，xdr)或者在研究者所架设的虚拟专用网络(virtualprivatenetwork，vpn)服务器结点上抓取的数据包；在终端侧，利用基于安卓系统开发的点播客户端软件实现指定视频网站上在线视频的点播、以日志文本的形式记录终端背景信息、视频播放的状态信息和用户交互信息；在用户侧，用户在使用安卓客户端软件观看视频的同时，客户端软件允许用户通过手指操作在播放界面上实现包括播放、暂停、快进、快退、跳转在内的基本视频交互动作，并针对观看视频的体验进行实时或者最后的mos打分，把这些数据记录在终端日志中。

由于本发明采取了在移动视频业务数据传输链路上多点采集的方式，同时获取了内容服务器侧、无线网络侧、终端侧和用户侧以及视频播放状态各个方面的代表数据，相较于现有的移动视频业务数据的单点采集，数据集的完备性好、数据价值高，可开发利用的方向更多。

上述本发明提出的这种多点同时采集描述移动视频业务体验质量的主客观数据的方法，数据采集全面而真实；具体来讲，该方法可以获取用户侧反映用户观看基于has的移动视频过程的真实的主观的qoe的mos打分，还可以同时获取该视频传输链路上内容服务器侧、无线网络侧、终端侧三个环节的典型的客观数据，以及反映视频播放状态的数据。该方法适用目前主流的视频流媒体系统，例如adobe的基于flash的http动态流媒体方案、苹果的httplivestreaming方案、微软的基于silverlight的平滑流媒体方案等has方案，以及加密的https自适应流场景，适用场景丰富；同时终端侧的客户端软件是基于目前移动终端最为普遍的安卓系统开发的，该移动客户端具有较高的代表性；由于采集的数据较全面，内容提供商和网络运营商可以围绕采集到的mos主观数据，再结合其他侧的客观数据，实现内容传输和分配优化、网络传输和调度优化、视频播放状态识别、异常检测等工作，从而可以从各自的不同角度优化移动视频业务。

附图说明

图1是本发明实施例1的一种基于用户反馈的移动视频业务体验质量数据集的采集方法的网络拓扑结构示意图。

图2是本发明实施例1和实施例2中终端侧的数据采集平台的工作流程示意图。

图3是本发明实施例1的通信服务器的工作流程示意图。

图4是本发明实施例2的一种基于用户反馈的移动视频业务体验质量数据集的采集方法的网络拓扑结构示意图。

图5是本发明实施例2的通信服务器的工作流程示意图。

具体实施方式

本发明基于用户反馈的移动视频业务体验质量数据集的采集方法，该方法数据采集点主要在内容服务器侧、无线网络侧、通信服务器侧和终端侧。下面通过实施例进一步具体介绍数据的采集过程。

实施例1：

本实施例1基于用户反馈的移动视频业务体验质量数据集的采集方法，涉及到移动视频业务数据传输链路上内容服务器侧、无线网络侧、终端侧和用户侧传输环节的数据以及收集视频状态的通信服务器数据。其中无线网络侧的数据是与无线网络运营商合作在xdr设备上采集的xdr日志。

图1给出了本实施例1的一种基于用户反馈的移动视频业务体验质量数据集的采集方法的网络拓扑结构示意图。如图1中所示，用户使用移动终端a1上的客户端软件，通过无线网络侧的移动基站a2和ggsn设备a3，再经过核心网a5实现与存储着视频源的内容服务器a6通信，完成视频流数据的交互，实现视频的点播。这就是移动视频业务的一条完整的会话链路，其中用户和终端a1以及由移动基站a2和ggsn设备a3间的结点组成的无线网络侧是与有线网视频业务以及基于wifi移动视频业务的传输环节的最大的不同之处。因此，在包含用户和终端的环节a1以及移动基站a2和ggsn设备a3间进行视频业务的数据采集就能够刻画移动视频业务的无线网络侧数据的特点。包含用户和终端的环节a1是第一处采集点，数据采集平台是基于安卓开发的客户端软件，具体功能和工作流程将在下面结合图2进行说明。第二处采集点获取的是无线网络上的数据，本实施例1的采集方法是与无线网络运营商合作，在移动基站a2和ggsn设备a3之间的xdr设备上过滤出属于测试终端的xdr日志。xdr日志是无线运营商对移动网络、承载网络中数据流量的关键信息的记录，即流量日志。xdr日志以用户会话为单位，一个会话形成一条xdr记录。第三处数据采集点是我们自行搭建的通信服务器，它与终端上的客户端软件实时保持socket通信，具有心跳信息、客户端背景信息、视频播放状态信息、用户快交互信息的获取，以及接收客户端上传的日志文本的功能。最后一处数据采集点是内容服务器a6，通过编写的爬虫软件获取指定视频地址的媒体信息。以基于has的视频为例，在内容服务器a6上可以下载到该视频的m3u8文件。m3u8文件是指utf-8编码格式的m3u文件。m3u文件是记录了一个索引纯文本文件，播放软件打开它并根据里面的索引找到对应的音视频文件的网络地址进行在线播放。简而言之，m3u8文件记录了每个连续的时间流片(timesegment，ts)的分辨率、播放时间、真正下载地址等媒体信息，是该视频最为原始的背景信息。

图2是本发明实施例1中终端侧的数据采集平台的工作流程示意图。终端侧的采集平台是自行研发的基于安卓的客户端软件，适用于操作系统是安卓5.1.1版本以上的所有终端。该客户端软件内置的播放器是基于给定的播放器应用程序编程接口(applicationprogramminginterface，api)开发的，例如安卓自带的mediaplayerapi、youtubeapi、腾讯视频api、优酷api等。因此，客户端具有视频解码、播放、用户交互以及部分的视频状态识别等功能。终端侧的数据采集平台的具体工作流程是：首先进行在安卓系统的移动终端上安装客户端软件的操作b1；打开手机设置，赋予该软件定位、读写等所有权限的操作b2；打开客户端软件并选择需要观看的视频，这时客户端将与通信服务器和内容服务器建立连接并周期性的向服务器发送心跳信息的操作过程b3；接着程序进行用户是否点击退出键或者完成视频播放的判断b4，如果点击了退出键或者完成视频播放则用户可以观看视频播放的同时在打分栏中实时进行mos打分b5，否则用户需要对本次视频观看的清晰度、流畅度和总体体验给出综合打分b6；客户端软件会在每条视频日志文件中以时间序列的方式记录终端背景信息、视频播放状态信息和用户交互信息；终端背景信息包括终端型号、系统版本、网络制式、终端位置等，视频播放状态信息包括初缓、开始播放、卡顿开始、卡顿结束、播放结束等，用户交互信息包括暂停、再播放、快进、快退、跳转、打分、退出等；其中视频状态信息和用户交互信息在终端日志记录的同时也会通过无线网络向通信服务器实时上报；在观看体验综合打分b6步骤结束后，客户端自动将记录在终端的该视频日志通过无线网络向通信服务器进行上传步骤b7；日志上传步骤b7完成后，客户端恢复到选择视频的界面，接着程序进行是否继续测试视频的判断步骤b8，如果继续测试则回到选择视频阶段的操作过程b3，开始新一轮的视频播放工作，否则点击退出键退出客户端，终端侧数据采集平台的工作结束b9。

图3是本发明实施例1的通信服务器的工作流程示意图。通信服务器是基于微软基础类库(microsoftfoundationclasses，mfc)的客户端/服务器(client/server，c/s)模式开发的http网络服务器，它通过接收客户端端上报的心跳信息或者正在观看的视频状态，实现对客户端及其正在播放视频的监控，并接收客户端上传的终端日志。本实施例通信服务器的具体工作流程如图3中所示，如下：服务器上启动服务端程序后，即开始不断监听特定端口，直到收到客户端的连接请求，并接受其正确的请求的过程c1；通信服务器和客户端建立一个双向的可以实现数据交换的通信连接，即socket连接；服务器采用i/o完成端口技术(iocp)，可以满足多客户端、多连接并发需求的过程c2；连接建立成功后，客户端和服务器间启动心跳线程，客户端将持续的每隔一段时间周期性的向服务器上报心跳信息，告知服务器其处于正常工作状态的过程c3；在建立socket通信过程c2的同时，客户端立即向服务器上传终端背景信息，服务器端则在在线列表上展示该客户端背景信息，便于监测者实时监控测试客户端的状态c4；通信服务器持续接受终端上报的心跳信息、终端背景信息、视频播放状态信息和用户交互信息，并在服务端的工作区动态的显示当前成功接收的部分重要信息的内容c5；程序接着判断服务器是否接收到某客户端退出播放的标志信息c6，如果接收到则启动接收终端日志上传线程c7，否则继续获取客户端上报信息状态c4；在完成日志上传线程c7后，程序接着进行服务器是否接收到某客户端退出软件的标志信息的判断过程c8，如果接收到则断开与该客户端的连接状态c9，并清除在线列表上该客户端信息，否则回到获取终端背景信息状态c4；另外，在建立socket通信的过程c2和判断是否收到退出标志的判断过程c8之间的所有工作流程期间，只要持续心跳的过程c3不满足周期性条件，即心跳超时，系统立即转入断开连接状态c9。

由于本发明实施例1提供的基于用户反馈的移动视频业务体验质量数据集的采集方法，不仅可以采集到用户侧对移动视频业务qoe的主观数据，还获取了移动视频业务数据传输链路上内容服务器侧、无线网络侧和终端侧传输环节的客观数据以及收集视频状态的通信服务器数据。该方法采集到的数据集非常全面，适合内容提供商、无线网络运营商和终端系统开发工作者开展视频业务的优化工作，以期全面提升移动视频业务的体验质量，不断满足用户对快速发展的移动视频业务的需求。

实施例2：

图4是本实施例2提供的一种基于用户反馈的移动视频业务体验质量数据集的采集方法的网络拓扑结构示意图。本实施例2与上面实施例1的不同之处主要在于通信服务器在整个网络拓扑结构中的位置发生了变化。具体而言，如图4中所示，就是用户使用移动终端d1上的客户端软件，通过无线网络侧的移动基站d2和ggsn结点d3，再中转经过兼具vpn功能的通信服务器d4，最后经过核心网d5实现与存储着视频源的内容服务器d6通信，完成视频流数据的交互，实现视频的点播。本实施2基于用户反馈的移动视频业务体验质量数据集的采集中的关键点就在于通过在通信服务器d4上架设vpn，使得ggsn设备结点d3上的视频流数据和通信与日志上传数据中转至通信服务器d4，再由其转发到下一跳内容服务器d6前的核心网d5。通信服务器d4上启动的抓包程序，实时抓取指定客户端发来的网络数据包，实现无线网络数据的采集。本实施例中，在无线网络数据采集上不需要依赖无线运营商，而是通过对通信服务器上自主抓取的数据包的深度报文检测(deeppacketinspection，dpi)就可以获得与运营商xdr日志相近似的无线网络数据。

图5是本发明实施例2中的通信服务器的工作流程示意图，也是本实施例2与实施例1的最大不同之处。从图5中可以看到，通信服务器的工作流程中加入了抓包的工作，具体工作流程如下：服务端程序启动后即开始不断监听特定端口，直到收到客户端的连接请求，并接受其正确的请求的过程e1；通信服务器和客户端建socket连接建立过程e2；连接建立成功后，客户端和服务器端之间启动心跳线程，客户端将持续的每隔一段时间周期性的向服务器上报心跳信息，告知服务器端其处于正常工作状态e3；建立socket通信连接过程e2的同时，客户端立即向服务器端上传终端背景信息，服务器端则在在线列表上展示该客户端背景信息e4；用户在客户端软件界面上选择将要观看的在线视频的筛选状态e5；通信服务器的服务器端根据已获取的终端背景信息中的ip地址、视频的统一资源定位符(uniformresourcelocator，url)以及当前的格林威治时间，开启一条抓取该视频数据和期间该客户端与服务器端的所有通信数据的抓包线程，并将抓到的数据以pcap的格式保存在本地的抓取过程e6；通信服务器持续接受终端上报的心跳信息、终端背景信息、视频播放状态信息、用户交互信息以及与内容服务器交互的视频数据，并在服务器端的工作区动态的显示当前成功接收的部分重要信息的内容的获取客户端上报信息过程e7；接着程序进行判断服务器端是否接收到某客户端退出播放的标志信息的判断过程e8，如果接收到标志信息则启动接收终端日志上传线程e9，否则继续获取客户端上报信息e7；服务器端成功接收完终端日志后，服务器停止针对该视频的抓包线程e10；程序接着进行判断服务器端是否接收到某客户端退出软件的标志信息的判断过程e11，如果接收到标志信息则断开与该客户端的连接e12，并清除在线列表上该客户端信息，否则回到最初的筛选视频状态e5；另外，在建立socket通信连接过程e2和判断是否收到退出标志判断过程e11之间的所有工作流程期间，只要持续心跳工作状态e3不满足周期性条件，即心跳超时，系统立即转入断开连接状态e12。

本发明实施例2相较于实施例1的最大的不同之处是无线网络侧的数据获取方式不同。实施例1从真实的网络拓扑结构出发，获取位于移动基站和ggsn间的xdr设备上的xdr日志。xdr日志是无线网络业界普遍使用的上网日志数据，因此该无线网络数据更为真实可靠。但是xdr数据被运营商视为商业财产，不是轻易能够获得，因此实施例1中与运营商合作获取无线网络xdr数据的方法并不具有普适性。实施例2相较于实施例1，通过架设vpn，略微改变了网络的拓扑结构，通过自主抓包的方式获取无线网络数据包，再通过dpi得到与xdr日志类似的日志数据。实施例2采集的无线网络数据集略有失真，但考虑到无线网络拓扑结构本身的复杂性和动态变化性，这种失真很小。另外实施例2的数据采集不依赖于无线运营商，自主可控，更具有普适性。

由此可见，由于本发明采取了在移动视频业务数据传输链路上多点采集的方式，同时获取了内容服务器侧、无线网络侧、终端侧和用户侧以及视频播放状态这几个方面的代表数据，相较于现有的移动视频业务数据的单点采集，数据集的完备性好、数据价值高，可开发利用的方向更多。