互联网访问质量监测分析方法、系统、介质和程序与流程

1.本技术属于数据通信领域，特别涉及利用大数据分析和 ping+trace通过算法整合后形成的互联网访问质量监测分析方法、 系统、介质和程序。


背景技术：

2.近年来，随着互联网的飞速发展，用户已经不再满足于有网可用， 而是对网络质量和使用体验有了进一步要求，
3.微软pingmesh(数据中心网络时延测量与分析)技术目前在微软、 腾讯、阿里等大客户数据中心内部运行。该技术能够收集大规模数据 中心任意两台服务器间的质量数据，用来监控互联网公司的网络。
4.pingmesh在很大程度上解决了互联网企业对网络监控的需求，但 依旧存在如下缺陷：探测点部署多，每台服务器都需要部署拨测点； 时延数据量大，每天数百万兆字节的数据分析处理；运营商黑盒网络， 可以感知质差，无法定位位置。
5.针对上述问题，运营商提供了针对数据中心互联网访问质量的端 到端监测，整合多方数据(自己部署+数据接入)，加入统一etl(抽 取-转换-加载)处理，利用运营商网络拓扑，在感知质差的情况下， 智能定位质差点，解决实际运维问题。
6.目前技术架构上可以统一接入并且标准化处理海量数据，但在运 营商公司数据中心网管平台实际应用来看，由于接入多方数据，数据 源量大小存在不稳定性，对智能分析结果准确性带来一定影响。
7.因此，需要一种能够提升对数据中心网内客户报障的问题监测覆 盖程度及监测准确率的方法和系统。


技术实现要素：

8.鉴于以上技术问题，本技术提出了一种互联网访问质量监测分析 方法、系统、介质和程序。
9.根据本技术的一个方面，提供了一种互联网访问质量检测分析方 法，包括：通过在互联网上部署大量分布式探针发起对监测节点的探 测，所述探测包括从探头到被监测节点的ping测和从探头到被监测节 点的tracert，其中所述ping测返回途经通断及时延数据，连续三个 周期都无法ping通的n条流被记录下来，并且所述tracert返回路径 内经过的节点地址；通过路径补全算法对所述tracert返回的路径中缺 失的节点地址进行补全；通过etl将包括所述途经通断及时延数据和 所述路径内经过的节点地址的数据加载到数据模型，并对加载的数据 进行算数平均或者指数平滑处理以获得路径的基线数据；通过网络质 差公共路径算法推举出topn个故障节点，其中n≥3；通过机器学习 算法确定每个故障节点的相关指标权重θ(θ1，θ2，θ3...θn)，计算每个故 障节点的每一个特征值以形成特征向量x(x1，x2，x3...xn)，通过sigmod 函数y＝sigmoid(θ1＊x1+θ2＊x2+θ3＊x3+...θn＊xn)对特征值进行处理，并 取y值的top3作为故障节点。
10.根据一个示例实施例，所述方法还包括根据所确定的top3个故 障节点出具监控告警和障碍根本原因分析(rca)报告。
11.根据一个示例实施例，其中所述网络质差公共路径算法包括：周 期性记录并更新任意源地址{a1，a2，...，an}到任意目的地址 {b1，b2，...，bm}所经过的中间节点ip地址；根据所述记录找出无法ping 通的n条流所对应的路径；根据配置管理数据库的信息，将节点ip 地址的集合转化为设备的集合，其中所述配置管理数据库记录有每台 被监测设备的ip、板卡、端口数据；以及统计出从源地址到目的地址 的路径中某设备出现的概率。
12.根据一个示例实施例，其中所述路径补全算法包括基于30位掩码 的相邻设备路径信息补全算法，其包括：遍历所有未知设备，取其下 一跳；如果下一跳仍然是未知设备则无法补全，如果下一跳为路径中 的最后一跳则无需补全，如果下一跳为已知端口ip的设备，则取下一 跳端口ip转换成二进制表示，对其31、32位互换，再转换成点分格 式，作为该未知设备的端口ip；以及从所述配置管理数据库中查询端 口ip，得到对应的设备ip。
13.根据一个示例实施例，其中所述路径补全算法还包括基于设备信 息的相隔设备路径信息补全算法，其包括：遍历通过基于30位掩码的 相邻设备路径信息补全算法补全的设备的上一跳和上上一跳；如果上 一跳为未知设备，并且上上一跳为已知设备，则：在所述配置管理数 据库中查询所述补全的设备的所有端口ip，取每一个端口ip对应的 相邻端口ip，并针对每一个相邻端口ip查其设备ip，从而得到所述 补全的设备的集合；在所述配置管理数据库中查询所述上上一跳设备 的所有端口ip，取每一个端口ip对应的相邻端口ip，并针对每一个 相邻端口ip查其设备ip，得到所述上上一跳设备的集合；以及寻找 所述补全的设备的集合和所述上上一跳设备的集合的交集，作为路径 中缺失的节点设备。
14.根据一个示例实施例，其中获得路径的基线数据还包括：针对网 络存在的分级，获得进行分级计算的路径的基线数据。
15.根据一个示例实施例，其中所述ping测的探测周期为分钟级，并 且所述tracert的探测周期为小时级。
16.根据本技术的另一方面，提供了一种电子设备，包括：一个或多 个处理器，和与所述一个或多个处理器耦接的存储器，所述存储器存 储计算机可读程序指令，所述指令在被所述一个或多个处理器执行时 使得所述一个或多个处理器执行根据本技术所述的互联网访问质量检 测分析方法。
17.根据本技术的再一方面提供了一种非瞬时性计算机可读介质，所 述非瞬时性计算机可读介质具有存储在其上的指令，以用于由处理器 执行以执行根据本技术所述的互联网访问质量检测分析方法。
18.根据本技术的又一方面提供了计算机程序产品，包括计算机程序， 所述计算机程序在被处理器执行时执行根据本技术所述的互联网访问 质量检测分析方法。
附图说明
19.为了更清楚地说明本技术实施例或现有技术中的技术方案，下面 将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而 易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域 普通技术人员来讲，还可以根据这些附图获得其他的附图。
20.为了更好地理解本公开，并示出如何实现本公开，现在将以举例 的方式参照附图描述，其中：
21.图1示出了根据本公开的实施例的用于实现互联网访问质量监测 分析系统的电子设备的框图；
22.图2示出了根据本公开的实施例的示例性互联网监控架构图；
23.图3示出了根据本公开的实施例的示例性路径补全原理图；
24.图4示出了根据本公开的实施例的示例性互联网访问质量监测分 析方法的流程图。
25.注意，在整个附图中，相似的附图标记指代对应的部分。
具体实施方式
26.参考附图进行以下详细描述，并且提供以下详细描述以帮助全面 理解本公开的各种示例实施例。以下描述包括各种细节以帮助理解， 但是这些细节仅被认为是示例，而不是为了限制本公开，本公开是由 随附权利要求及其等同内容限定的。在以下描述中使用的词语和短语 仅用于能够清楚一致地理解本公开。另外，为了清楚和简洁起见，可 能省略了对公知的结构、功能和配置的描述。本领域普通技术人员将 认识到，在不脱离本公开的精神和范围的情况下，可以对本文描述的 示例进行各种改变和修改。
27.图1是示出根据本公开的实施例的电子设备100的示例性配置框 图。电子设备100可以用于实现根据本技术的互联网访问质量监测分 析系统。
28.如图1所示，电子设备100包括用户接口20、网络接口21、电源 22、外部网络接口23、存储器24和处理器26。用户接口20可以包括 但不限于按钮、键盘、小键盘、lcd、crt、tft、led、hd或其 它类似的显示设备，包括具有触摸屏能力使得能够进行用户和网关设 备之间的交互的显示设备。在一些实施例中，用户接口20可以用于呈 现图形用户界面(gui)以接收.用户输入。
29.网络接口21可以包括各种网卡以及以软件和/或硬件实现的电路 系统，以便能够使用有线或无线协议与用户设备通信。有线通信协议 例如是以太网协议、moca规范协议、usb协议或其它有线通信协议 中的任何一种或多种。无线协议例如是任何ieee 802.11 wi-fi协议、 蓝牙协议、低功耗蓝牙(ble)或根据无线技术标准进行操作的其他 短距离协议，用于使用任何许可的或未许可的频带(诸如公民宽带无 线电服务(cbrs)频带、2.4ghz频带、5ghz频带、6ghz频带 或60ghz频带)、rf4ce协议、zigbee协议、z-wave协议或ieee802.15.4协议在短距离上交换数据。在网络接口21使用无线协议的情 况下，在一些实施例中，网络接口21还可以包括一个或多个天线(未 示出)或者用于耦合到一个多个天线的电路节点。电子设备100可以 通过网络接口21向用户设备提供内部网络。
30.电源22通过内部总线27向电子设备100的内部组件提供电力。 电源22可以是自备电源，诸如电池组，其接口通过(例如，直接或通 过其他设备)连接到插座的充电器供电。电源22还可以包括可拆卸以 供替换的可再充电电池，例如nicd、nimh、li-ion或li-pol电池。 外部网络接口23可以包括各种网卡以及以软件和/或硬件实现的电路 系统，以实现电子设备100与外部网络的提供者(例如互联网服务提 供商或多系统运营商(mso))之间的通信。
31.存储器24包括单个存储器或一个或多个存储器或存储位置，包括 但不限于随机
存取存储器(ram)、动态随机存取存储器(dram)、 静态随机存取存储器(sram)、只读存储器(rom)、eprom、 eeprom、闪存、fpga的逻辑块、硬盘或存储器层次结构的任何其 他各层。存储器24可以用于存储任何类型的指令、软件或算法，包括 用于控制电子设备100的一般功能和操作的软件25。
32.处理器26控制电子设备100的一般操作，并执行与网络中的其他 设备(诸如用户设备)有关的管理功能。处理器26可以包括但不限于 cpu、硬件微处理器、硬件处理器、多核处理器、单核处理器、微控 制器、专用集成电路(asic)、dsp或其他类似的处理设备，能够执 行根据本公开中描述的实施例的用于控制电子设备100的操作和功能 的任何类型的指令、算法或软件。处理器26可以是在计算系统中执行 功能的数字电路系统、模拟电路系统或混合信号(模拟和数字的组合) 电路系统的各种实现。处理器26可以包括例如诸如集成电路(ic)、 单独处理器核心的部分或电路、整个处理器核心、单独的处理器、诸 如现场可编程门阵列(fpga)的可编程硬件设备、和/或包括多个处 理器的系统。
33.可以使用内部总线27来建立电子设备100的组件(例如20-22、 24和26)之间的通信。
34.尽管使用特定组件来描述电子设备100，但是在替选实施例中， 电子设备100中可以存在不同的组件。例如，电子设备100可以包括 一个或多个附加控制器、存储器、网络接口、外部网络接口和/或用户 接口。另外，电子设备100中可能不存在组件的一个或多个。此外， 在一些实施例中，电子设备100可以包括在图1中未示出的一个或多 个组件。另外，尽管在图1中示出单独的组件，但是在一些实施例中， 给定组件的一些或全部可以集成到电子设备100中的其他组件中的一 个或多个中。此外，可以使用模拟和/或数字电路的任何组合来实现电 子设备100中的电路和组件。
35.图2示出了根据本技术的实施例的示例性互联网监控架构图。如 图2所示，在数据中心网络平面内、机房出口处、用户端以及城域网 中的各个网络节点等处部署了大量分布式探头，以发起对数据中心网 络的监测，实现链路级的覆盖。为了达到这个目标，需要考虑的因素 包括被探测网络的规模、拓扑、路由设置等诸多因素。
36.如图2所示，互联网监控架构图包括根据本技术的互联网访问质 量监测分析系统，所述系统可以包括数据接收模块、路径补全模块、 etl模块、基线模块、证据链模块和应用模块。其中数据接收模块可 以通过如图1中所示的网络接口21来实现；路径补全模块、etl模 块、基线模块、证据链模块和应用模块均可以通过如图1中所示的处 理器26来实现。
37.针对被探测的目标地址，从分布的节点进行周期性ping测(ping 测周期为分钟级，根据实测，对网络负载影响不大，对对端服务器cpu 利用率小于1％)。系统筛选统计连续三个周期内的测试结果，将其 中三个周期都无法ping通的n条流记录下来。
38.同时，通过tracert等手段，周期性记录并更新任意源地址 {a1，a2，...，an}到任意目的地址{b1，b2，...，bm}所经过的中间节点地址， 如表1所示，路径更新的周期为小时级。
39.表1：源地址{a1，a2，...，an}到目的地址{b1，b2，...，bm}所经 过的中间节点地址
40.a1-＞b1c11d11
…
a1-＞b2c12d12
……ꢀꢀꢀ
an-＞omanmbnm
…
41.对照表1的记录，找出前面n条流所对应的路径，同时根据记录 有每台被监测设备的ip、板卡、端口等数据的配置管理数据库(cmdb) 的信息，将节点ip地址的集合转化为设备的集合，统计出从源地址到 目的地址的路径中某个设备出现的概率。
42.系统通过数据接收模块接收分布式探头采集到的各种数据，包括 从探头到被监测节点的ping测返回的途经通断及时延数据以及从探 头到被监测节点的tracert返回的路径内经过的节点地址。
43.路径补全模块通过路径补全算法对所述tracert返回的路径中缺失 的节点地址进行补全。
44.etl模块将包括所述途经通断及时延数据和所述路径内经过的节 点地址的数据加载到数据模型(例如，特定的数据结构)，并对加载 的数据进行算数平均或者指数平滑处理以获得路径的基线数据。考虑 到网络有分级(例如，城域网、同地域内、广域网等)，因此相关基 线数据也会进行相应的分级计算。
45.证据链模块通过网络质差公共路径算法推举出topn个故障节 点，其中n≥3。然后通过机器学习算法确定每个故障节点的相关指标 权重θ(θ1，θ2，θ3...θn)，计算每个故障节点的每一个特征值以形成特征向量 x(x1，x2，x3...xn)，通过sigmod函数y＝sigmoid(θ1*x1+θ2*x2+θ3*x3+...θn*xn)对特 征值进行处理，并取y值的例如top3作为故障节点。这里，top3 仅为示例。
46.应用模块根据定位结果出具监控告警以及障碍根本原因分析 (rca)报告。
47.在网络路径采集过程中，会由于超时或网络配置原因，导致部分 节点地址不可达，显示为“＊＊＊”的未知状态。未知状态会影响后续公共 质差点定位的功能实现，因此需要使用路径自动补全算法，尽可能多 的将未知端口进行回填补全。
48.路径探测过程从源端向目的端进行traceroute(即tracert)。 对于中间一跳未知的端口(如图3所示)，可以进行路径补全。以图3 所示的“路径补全原理图”为例，端口x、端口z已知，可根据端口z 推导出端口y，并通过端口x进行准确性验证，确保端口x、端口y 同属于网元b。
49.根据本技术的路径补全算法包括基于30位掩码的相邻设备路由 信息补全和基于设备信息的相隔设备路由信息补全。
50.基于30位掩码的相邻设备路由信息补全主要实现过程如下：遍 历所有未知设备，取其下一跳；如果下一跳仍然是未知设备则无法补 全，如果下一跳为trace路径中最后一跳则无需补全(该未知设备一 定为腾讯侧的路由器)，只有在下一跳为一个已知端口ip的设备时取 下一跳端口ip转换成二进制表示，对其31、32位互换，再转换成点 分格式，即为该未知设备的端口ip；以及从配置管理数据库中查询端 口ip，从而得到对应的设备ip。
51.基于设备信息的相隔设备路由信息补全主要实现过程如下：遍历 所有通过基于30位掩码的相邻设备路由信息补全的设备(c)的上一 跳(b)和上上一跳(a)；在上一跳为未知设备且上上一跳为已知设 备时(在其它情况下均不进行补全)：在配置管理数据库中查询c设 备的所有端口ip，取每一个ip对应的相邻端口ip(基于30位掩码的 相邻设备信息查找方法)，并针对每一个相邻端口ip查其设备ip，从 而得到link-c设备的名称集合；在配置管理数据库中查询a设备的所 有端口ip，取每一个ip对应的相邻端口ip(基于30位掩码的
相邻设 备信息查找方法)，并针对每一个相邻端口ip查其设备ip，从而得到 link-a设备的名称集合；以及寻找link-a和link-c两个集合的交集， 即b设备。
52.如前所述，在出现若干链路故障(例如在ping测失败或者是 ping测结果超出基线的阈值)时，根据前期收集的链路路径中包含 的设备出现的频率进行加权统计，筛选出出现频率最高的为最有可能 出现问题的设备。但基于公共路径点算法的故障定位计算出的疑似劣 化设备通常是多个，且存在劣化次数不能明显拉开差距的问题。为了 解决这个问题对算法进行了优化，引入了“故障点智能提炼”算法，针 对已识别为疑似故障点的设备，从ping时延、丢包率、劣化次数、 劣化占比以及其他质量相关的网管系统数据指标等多个指标维度进行 综合评判，引入机器学习对不同维度的指标权重进行训练，形成基于 多维度指标评价的“故障点智能提炼”模型，从而实现疑似故障点的智 能提炼和非故障点的剔除，以进一步提升故障定位精准度。
53.具体地，现有技术中对权值的设定没有根据，本技术建立一个设 备的健康度的评分模型，每项指标对应一个权值(即，下文中的特征 权重)，通过对历史数据的跟踪，人工对历史数据进行标记，确定在故 障情况(表征)下，哪些指标出现了问题，然后将这些数据通过机器 学习，确定各项指标的权重，从而能够通过指标的变化情况来预测出 现故障的概率。
54.故障点智能提炼先遍历公共疑似故障点，分析过程输出的疑似故 障设备列表，对每一个设备计算质差概率，分别计算设备的每一个特 征值xi，形成设备的特征向量x(x1，x2，x3...xn)(其中n为特征或指标 个数)，并对所有特征值标准化(统一值域在0到1之间)。然后取出 已学习完成的特征权重向量θ(θ1，θ2，θ3...θn)，计算 y＝sigmoid(θ1＊x1+θ2＊x2+θ3＊x3+...θn＊xn)的值。y值大小反映设备质 差概率的大小，范围确保在(0，1)。然后对每一个设备的y值做由高到 低的排序，排名越靠前则说明该设备的质差概率越大，取y值topn 返回，n一般定为3，但并不限于此。
55.在本技术的实施例中，设备的特征可以取以下三个(即n＝3)：
56.1)本周期包含该设备的所有链路的丢包率均值
57.公式描述：
[0058][0059]
2)本周期包含该设备的所有链路的丢包率最大值
[0060]
公式描述：max(本周期ping丢包率)
[0061]
3)本周期该设备所在链路的质差数量占比
[0062]
公式描述：包含该设备的质差链路数/包含该设备的链路总数。
[0063]
图4示出了根据本技术的实施例的示例性互联网访问质量监测分 析方法的流程图400。图4所示的互联网访问质量监测分析方法可由 图1中所示的电子设备以及图2中示出的互联网访问质量监测分析系 统执行。
[0064]
如图4所示，在步骤s410处，通过在互联网上部署大量分布式探 针发起对监测节点的探测，所述探测包括从探头到被监测节点的ping 测和从探头到被监测节点的tracert。其中所述ping测返回途经通断 及时延数据，连续三个周期都无法ping通的n条流被记录下来，并且 所述ping测的探测周期为分钟级。所述tracert返回路径内经过的节 点
地址，并且所述tracert的探测周期为小时级。
[0065]
在步骤s420处，通过路径补全算法对所述tracert返回的路径中 缺失的节点地址进行补全。其中所述路径补全算法包括如上所述基于 30位掩码的相邻设备路径信息补全算法和基于设备信息的相隔设备 路径信息补全算法。
[0066]
在步骤s430处，通过etl将包括所述途经通断及时延数据和所 述路径内经过的节点地址的数据加载到数据模型，并对加载的数据进 行算数平均或者指数平滑处理以获得路径的基线数据。可选地，针对 网络存在的分级，获得路径的基线数据包括获得进行分级计算的路径 的基线数据。
[0067]
在步骤s440处，通过网络质差公共路径算法推举出topn个故 障节点，其中n≥3。根据本技术的实施例，所述网络质差公共路径算 法为：周期性记录并更新任意源地址{a1，a2，...，an}到任意目的地址 {b1，b2，...，bm}所经过的中间节点ip地址；根据所述记录找出无法ping 通的n条流所对应的路径；根据配置管理数据库的信息，将节点ip 地址的集合转化为设备的集合，其中所述配置管理数据库记录有每台 被监测设备的ip、板卡、端口数据；以及统计出从源地址到目的地址 的路径中某设备出现的概率。
[0068]
在步骤s450处，通过机器学习算法确定每个故障节点的相关指 标权重θ(θ1，θ2，θ3...θn)，计算每个故障节点的每一个特征值以形成特征向 量x(x1，x2，x3...xn)，通过sigmod函数y＝sigmoid(θ1*x1+θ2*x2+θ3*x3+...θn*xn)对 特征值进行处理，并取y值的top3作为故障节点。应理解的是，这 里取y值的top3作为故障节点仅为示例，实际上，y值可以取n为 任意数值。
[0069]
在步骤s460处，根据所确定的top3个故障节点出具监控告警和 障碍根本原因分析(rca)报告。
[0070]
本技术结合目前成熟的pingmesh技术，利用运营商idc网络、 城域网、骨干网等网络的拓扑结构清晰的优势，引入优化互联网厂家 算法后的公共质差点算法等分析算法，具备分段质差定位+海量探针 部署+路径数据补全+基线+证据链指导质量问题的如下优点：1)分段 质差定位：将数据中心互联网访问质量分成若干段，针对每段进行探 针拨测、收集质量和路径数据；2)海量探针部署：建设路径覆盖级别 的网络探针监测，标准化数据收集和处理；3)路径补全：利用路径补 全算法对网络路径数据中缺失的路径信息进行补全；4)基线：通过公 共质差点模型，利用遍历算法，建立质量基线；5)证据链：通过分段 质量监控和质差定位，输出网络质量波动证据，组合多路径证据，形 成数据中心互联网访问质量证据链。
[0071]
该功能自2019年4月在中国电信上海公司idc网管应用上线使 用以来，对idc网内客户报障的问题监测覆盖程度超过90％，监测准 确率高于95％，实现了先于用户发现问题的目标。
[0072]
本公开可以被实现为装置、系统、集成电路和非瞬时性计算机可 读介质上的计算机程序的任何组合。可以将一个或多个控制器实现为 执行本公开中描述的部分或全部功能的集成电路(ic)、专用集成电 路(asic)或大规模集成电路(lsi)、系统lsi、超级lsi或超lsi 组件。
[0073]
本公开包括软件、应用程序、计算机程序或算法的使用。可以将 软件、应用程序、计算机程序或算法存储在非瞬时性计算机可读介质 上，以使诸如一个或多个处理器的计
算机执行上述步骤和附图中描述 的步骤。例如，一个或多个存储器以可执行指令存储软件或算法，并 且一个或多个处理器可以关联执行该软件或算法的一组指令，以根据 本公开中描述的实施例提供网络接入设备的网络配置信息管理功能。
[0074]
软件和计算机程序(也可以称为程序、软件应用程序、应用程序、 组件或代码)包括用于可编程处理器的机器指令，并且可以以高级过 程性语言、面向对象编程语言、功能性编程语言、逻辑编程语言或汇 编语言或机器语言来实现。术语“计算机可读介质”是指用于向可编程 数据处理器提供机器指令或数据的任何计算机程序产品、装置或设备， 例如磁盘、光盘、固态存储设备、存储器和可编程逻辑设备(pld)， 包括将机器指令作为计算机可读信号来接收的计算机可读介质。
[0075]
举例来说，计算机可读介质可以包括动态随机存取存储器 (dram)、随机存取存储器(ram)、只读存储器(rom)、电 可擦只读存储器(eeprom)、紧凑盘只读存储器(cd-rom)或其 他光盘存储设备、磁盘存储设备或其他磁性存储设备，或可以用于以 指令或数据结构的形式携带或存储所需的计算机可读程序代码以及能 够被通用或专用计算机或通用或专用处理器访问的任何其它介质。如 本文中所使用的，磁盘或盘包括紧凑盘(cd)、激光盘、光盘、数字 多功能盘(dvd)、软盘和蓝光盘，其中磁盘通常以磁性方式复制数 据，而盘则通过激光以光学方式复制数据。上述的组合也包括在计算 机可读介质的范围内。
[0076]
另外，以上描述提供了示例，而不限制权利要求中阐述的范围、 适用性或配置。在不脱离本公开的精神和范围的情况下，可以对所讨 论的元件的功能和布置进行改变。各种实施例可以适当地省略、替代 或添加各种过程或部件。例如，关于某些实施例描述的特征可以在其 他实施例中被结合。