多对一型内外网大数据单向传输通信系统及其方法_2

文档序号:8383769阅读:来源:国知局
的协议重组算法程序的主要工作流程如下:
1、数据接收的工作流程
如图2,数据处理重组模块202的数据接收的工作流程包括下列步骤:
A、网口抓取数据-21
初始化网口抓包模块,开始抓取指定网卡的数据包,数据包由采集器发送给外网服务器网卡,每个采集器发送的端口不同,将数据包存储在指定的内存块上;
B、解析数据包-22
对网口抓取的数据包进行拆包分析,分别解析出目的地址、源地址、目的端口、源端口、传输协议、TCP层的seq号、IP ID,此外还将判断该包的类型,读取应用层的数据;
C、判断是否为TCP协议-23
对解析的数据包内容进行判断,判断是否为TCP协议,是则进入步骤D,否则丢包-207 ;
D、计算hash值-24
对是TCP协议传输的数据包的TCP五元素:目的地址、源地址、目的端口、源端口、传输协议,进行hash运算,计算出能确定TCP流的唯一标示hash值;
E、提取seq number-25
提取TCP协议传输的数据包的seq number,并将其与hash值放入数据结构中;
F、提取应用层数据-26 将TCP协议数据包的数据内容提取出来。
[0024]2、数据重组的工作流程
如图3,数据处理重组模块202的数据重组的工作流程包括下列步骤:
a、流入数据-3001
经数据处理重组单元202中协议重组算法程序的数据处理工作流程处理后的数据流入本流程;
b、判断是否为已记录的TCP流-3002
根据计算的hash值判断是否为已记录的TCP流,是则进入步骤C,否则进入步骤m ;
C、判断是否有信息标示符-3003
根据数据包应用层的数据,判断是否有有用信息的标识符,是则进入步骤d,否则进入步骤i ;
d、添加信息节点-3004
在以有的hash MAP容器中,找到该TCP流的数据存放链表的头指针,根据指针指向的链表插入新的信息节点;
e、信息包长度减去添加信息长度-3005
插入信息内容后,将长度减去该包所带的信息内容长度;
f、判断遍历链表是否有长度为O的节点-3006
遍历E中信息长度进行减法运算的链表,判断是否有长度为O的节点,是则进入步骤g,否则退出遍历-3008 ;
g、发送数据并删除节点-3007
节点信息为0,表明该信息节点所有的数据包重组完成,则发送该节点所有的信息内容,并删除该节点;
1、遍历链表,搜寻seq范围-3009
对链表节点数据结构中,有seq的起始值,将新数据信息中的seq number减去起始值; j、判断是否存在已有节点seq范围-3010
判断J中减法运算后的值是否在该节点的信息长度值内,是则进入步骤k,否则丢包-3015 ;
k、添加/[目息-3011
将该数据信息加入k中判断的信息节点中,根据新数据信息seq number和其实seq值的差,确定在存放数据块的存储位置;m、判断是否有/[目息标不符-3012
判断数据包信息是否有标识符,是则进入步骤n,否则丢包-3015 ; n、MAP中添加新的TCP流-3013
在MAP容器中根据新数据包的TCP五元素计算的hash值,插入新的hash值,表明新的TCP流被重组;
O、创建新链表-3014
在步骤O创建的MAP容器建立的hash值后,建立对应的内容,内容为一个新链表的头节点;
再至步骤d。
【主权项】
1.一种多对一型内外网大数据单向传输通信系统,其特征在于: 包括依次连接的采集器单元(100)、外网服务器单元(200)和内网服务器单元(300); 所述的采集器单元(100)包括第I采集器(101)、第2采集器(102)……第N采集器(10N),N 是自然数,I ( N<65535 ; 所述的外网服务器单元(200)由数据单向流动的依次交互的网口抓包模块(201)、数据处理重组模块(202 )和网口发送模块(203 )组成; 所述的内网服务器单元(300 )设置有内网处理模块(301)。
2.基于权利要求1所述系统的多对一型内外网大数据单向传输通信方法,其特征在于包括以下步骤: ①设置采集器单元(100)中采集器的配置文件,包括目的端口和目的IP; ②将采集器单元(100)采集的数据发送至外网服务器单元(200); ③外网服务器单元(200)的网口抓包模块(201)抓取连接采集器单元(100 ) —端网口的数据包; ④外网服务器单元(200)中的数据处理重组模块运行协议重组算法程序,对外网服务器单元(200)的网口抓包模块(201)抓取的数据包进行数据接收和数据重组,识别采集器单元(100)发送的数据,并进行协议重组; ⑤内网服务器单元(300)将外网服务器单元(200)传输来的数据进行接收并在内网进行相关处理。
3.按按权利要求2所述系的多对一型内外网大数据单向传输通信方法,其特征在于协议重组算法程序的数据接收的工作流程包括下列步骤: A、网口抓取数据(21) 初始化网口抓包模块,开始抓取指定网卡的数据包,数据包由采集器发送给外网服务器网卡,每个采集器发送的端口不同,将数据包存储在指定的内存块上; B、解析数据包(22) 对网口抓取的数据包进行拆包分析,分别解析出目的地址、源地址、目的端口、源端口、传输协议、TCP层的seq号、IP ID,此外还将判断该包的类型,读取应用层的数据; C、判断是否为TCP协议-23 对解析的数据包内容进行判断,判断是否为TCP协议,是则进入步骤D,否则丢包(207); D、计算hash 值(24) 对是TCP协议传输的数据包的TCP五元素:目的地址、源地址、目的端口、源端口和传输协议,进行hash运算,计算出能确定TCP流的唯一标示hash值; E、提取seq number (25) 提取TCP协议传输的数据包的seq number,并将其与hash值放入数据结构中; F、提取应用层数据(26) 将TCP协议数据包的数据内容提取出来。
4.按按权利要求2所述系的多对一型内外网大数据单向传输通信方法,其特征在于协议重组算法程序的数据重组的工作流程包括下列步骤: a、流入数据(3001) 经数据处理重组单元(202)中协议重组算法程序的数据处理工作流程处理后的数据流入本流程; b、判断是否为已记录的TCP流(3002) 根据计算的hash值判断是否为已记录的TCP流,是则进入步骤C,否则进入步骤m ; c、判断是否有信息标示符(3003) 根据数据包应用层的数据,判断是否有有用信息的标识符,是则进入步骤d,否则进入步骤i ; d、添加信息节点(3004) 在以有的hash MAP容器中,找到该TCP流的数据存放链表的头指针,根据指针指向的链表插入新的信息节点; e、信息包长度减去添加信息长度(3005) 插入信息内容后,将长度减去该包所带的信息内容长度; f、判断遍历链表是否有长度为O的节点(3006) 遍历E中信息长度进行减法运算的链表,判断是否有长度为O的节点,是则进入步骤g,否则退出遍历(3008); g、发送数据并删除节点(3007) 节点信息为0,表明该信息节点所有的数据包重组完成,则发送该节点所有的信息内容,并删除该节点; l、遍历链表,搜寻seq范围(3009) 对链表节点数据结构中,有seq的起始值,将新数据信息中的seq number减去起始值; j、判断是否存在已有节点seq范围(3010) 判断J中减法运算后的值是否在该节点的信息长度值内,是则进入步骤k,否则丢包(3015); k、添加信息(3011) 将该数据信息加入k中判断的信息节点中,根据新数据信息seq number和其实seq值的差,确定在存放数据块的存储位置;m、判断是否有信息标示符(3012) 判断数据包信息是否有标识符,是则进入步骤n,否则丢包-3015 ; n,MAP中添加新的TCP流(3013) 在MAP容器中根据新数据包的TCP五元素计算的hash值,插入新的hash值,表明新的TCP流被重组; O、创建新链表(3014) 在步骤O创建的MAP容器建立的hash值后,建立对应的内容,内容为一个新链表的头节点; 再至步骤d。
【专利摘要】本发明公开了一种多对一型内外网大数据单向传输通信系统及其方法,涉及计算机网络信息处理技术。本系统包括依次连接的采集器单元(100)、外网服务器单元(200)和内网服务器单元(300);所述的外网服务器单元(200)由数据单向流动的依次交互的网口抓包模块(201)、数据处理重组模块(202)和网口发送模块(203)组成;所述的内网服务器单元(300)设置有内网处理模块(301)。本发明能保证在数据处理服务器转移至内网的基础上,无需修改采集程序和数据处理分析程序,对已拆包分析的数据,进行协议还原,从而达到信息传输的高效性、可靠性和安全性。
【IPC分类】H04L29-06
【公开号】CN104702622
【申请号】CN201510141826
【发明人】陈博俊, 杨蕾
【申请人】武汉虹旭信息技术有限责任公司
【公开日】2015年6月10日
【申请日】2015年3月30日
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1