一种数据采集方法、装置和电子设备与流程

1.本技术涉及互联网领域，尤其涉及一种数据采集方法、装置和电子设备。


背景技术：

2.物联网就是“物”之间通过连接互联网来共享信息并产生有用的信息，而且无需人为管理就能运行的机制。只要能与网络相连,都是物联网所说的"物"。物联网数据采集技术的作用是从设备接收数据并上传数据给其他服务进行进一步的处理和保存。过去，对物联网的研究大多集中在设备通信挑战上，但随着技术的发展，物联网应用开始考虑集成现有网络设备的方法和系统开放性和可扩展性的设计，因此物联网应用最基础的数据采集也应当考虑更加开放和高扩展性的设计。
3.传统的物联网单体架构将几乎所有功能都耦合在一起，由于系统功能的增长，物联网在分布式环境变得越来越复杂。因此往往出现过载现象，这时，通常只能通过重复部署多个相同体积的系统来扩展，容易造成资源浪费，而且运维管理难度大。
4.因此，有必要提供一种新的数据采集方法，以降低运维难度，提高资源利用效率。


技术实现要素：

5.本说明书实施例提供一种数据采集方法、装置和电子设备，用以降低运维难度，提高资源利用效率。
6.本说明书实施例提供一种数据采集方法，包括：
7.搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块；
8.所述数采服务模块初次启动时向注册中心发送配置信息进行注册；
9.通过配置中心为采集设备配置采集设备属性信息，所述中间件与所述消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信；
10.所述中间件读取配置的所述设备属性信息，根据配置的所述设备属性信息确定采集设备对应的数采服务模块，并将所述设备属性信息下发至所述数采服务模块；
11.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，并将所述数据发送至消息队列模块。
12.可选地，所述根据配置的所述设备属性信息确定采集设备对应的数采服务模块，包括：
13.根据所述设备属性信息中的协议类型匹配对应的数采服务模块。
14.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
15.通过配置中心为采集设备更新采集设备属性信息。
16.可选地，所述采集设备属性信息包括：设备地址信息和设备协议信息。
17.可选地，还包括：
18.搭建适配多种开发语言的远程调用系统；
19.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，包括：
20.所述中间件通过所述远程调用系统与各数采服务模块建立通信，并获取各数采服务模块下采集设备所采集的数据。
21.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
22.从物联网平台拉取设备属性信息，自动配置。
23.可选地，所述将所述数据发送至消息队列模块，包括：
24.中间件将所述数据汇总后，发送至消息队列模块。
25.本说明书实施例还提供一种数据采集装置，包括：
26.系统搭建模块，搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块；
27.数采服务模块，用于初次启动时向注册中心发送配置信息进行注册；
28.所述配置平台，为采集设备配置采集设备属性信息；
29.所述中间件，与所述消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信；
30.所述中间件读取配置的所述设备属性信息，根据配置的所述设备属性信息确定采集设备对应的数采服务模块，并将所述设备属性信息下发至所述数采服务模块；
31.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，并将所述数据发送至消息队列模块。
32.可选地，所述根据配置的所述设备属性信息确定采集设备对应的数采服务模块，包括：
33.根据所述设备属性信息中的协议类型匹配对应的数采服务模块。
34.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
35.通过配置中心为采集设备更新采集设备属性信息。
36.可选地，所述采集设备属性信息包括：设备地址信息和设备协议信息。
37.可选地，还包括：
38.搭建适配多种开发语言的远程调用系统；
39.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，包括：
40.所述中间件通过所述远程调用系统与各数采服务模块建立通信，并获取各数采服务模块下采集设备所采集的数据。
41.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
42.从物联网平台拉取设备属性信息，自动配置。
43.可选地，所述将所述数据发送至消息队列模块，包括：
44.中间件将所述数据汇总后，发送至消息队列模块。
45.本说明书实施例还提供一种电子设备，其中，该电子设备包括：
46.处理器；以及，
47.存储计算机可执行程序的存储器，所述可执行程序在被执行时使所述处理器执行
上述任一项方法。
48.本说明书实施例还提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现上述任一项方法。
49.本说明书实施例提供的各种技术方案通过搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块，数采服务模块初次启动时向注册中心发送配置信息进行注册，通过配置中心为采集设备配置采集设备属性信息，中间件与消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信，中间件读取配置的设备属性信息，根据配置的设备属性信息确定采集设备对应的数采服务模块，并将设备属性信息下发至数采服务模块，中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，发送至消息队列模块。通过中间件以自动监测匹配的方式降低了运维难度，提高了资源利用效率。
附图说明
50.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
51.图1为本说明书实施例提供的一种数据采集方法的原理示意图；
52.图2为本说明书实施例提供的一种数据采集装置的结构示意图；
53.图3为本说明书实施例提供的一种数据采集装置的结构示意图；
54.图4为本说明书实施例提供的一种电子设备的结构示意图；
55.图5为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
56.现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
57.在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
58.在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
59.附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
60.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
61.术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
62.图1为本说明书实施例提供的一种数据采集方法的原理示意图，该方法可以包括：
63.s101：搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块。
64.结合现有互联网信息系统的高内聚，低耦合，开放，高复用性的理念，可以将工业物联网系统的数采服务与多种数据处理服务解耦成独立的服务，并将多种不同协议的数采服务解耦为多个独立的数采服务，配合grpc(远程过程调用系统)和动态配置设计实现对工业设备众多协议的适配，支持大量工业设备的可扩展性，同时，尽量减少资源的占用。
65.针对多个使用相同通信协议的设备，部署一个数采服务模块，针对多个数采服务模块，部署一个中间件，提供核心服务，负责调度管理数采服务模块，并统一收集对应数采服务模块的所采集的数据，传递到上游的消息队列模块供数据处理服务使用。
66.s102：所述数采服务模块初次启动时向注册中心发送配置信息进行注册。
67.将所有独立部署的数采服务模块按照默认初始化配置启动，默认的初始化配置可以不包含所采集设备信息和采集点位信息，可以只包含注册中心(etcd)所需信息和服务本身配置信息。启动后，数采服务会注册到注册中心。
68.s103：通过配置中心为采集设备配置采集设备属性信息，所述中间件与所述消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信。
69.在本说明书实施例中，所述通过配置中心为采集设备配置采集设备属性信息，包括：
70.通过配置中心为采集设备更新采集设备属性信息。
71.在本说明书实施例中，所述采集设备属性信息包括：设备地址信息和设备协议信息。
72.用户进入配置页面，如果需要配置的设备之前已经配置过，那么用户会获取到之前的配置信息进行修改。如果需要配置的设备是新设备，那么可以从物联网平台拉取设备属性信息，并将配置完成后的配置文件保存进注册中心。
73.因此，在本说明书实施例中，所述通过配置中心为采集设备配置采集设备属性信息，可以包括：
74.从物联网平台拉取设备属性信息，自动配置。
75.s104：所述中间件读取配置的所述设备属性信息，根据配置的所述设备属性信息确定采集设备对应的数采服务模块，并将所述设备属性信息下发至所述数采服务模块。
76.在本说明书实施例中，所述根据配置的所述设备属性信息确定采集设备对应的数采服务模块，包括：
77.根据所述设备属性信息中的协议类型匹配对应的数采服务模块。
78.中间件启动后，连接到上游消息队列和注册中心，并监测注册中心中设备配置的改动或更新。
79.中间件监测到改动或更新后，从注册中心注册的数采服务中找到相应协议的数采服务模块的地址，使用新的数采配置信息触发数采服务模块的获取数据。
80.数采服务模块根据中间件请求中的配置信息，根据配置信息中的设备点位数据匹配对应协议进行采集，并根据配置平台配置的数据格式进行转换，返回数据到中间件。
81.s105：所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，并将所述数据发送至消息队列模块。
82.该方法搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块，数采服务模块初次启动时向注册中心发送配置信息进行注册，通过配置中心为采集设备配置采集设备属性信息，中间件与消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信，中间件读取配置的设备属性信息，根据配置的设备属性信息确定采集设备对应的数采服务模块，并将设备属性信息下发至数采服务模块，中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，发送至消息队列模块。通过中间件以自动监测匹配的方式降低了运维难度，提高了资源利用效率。
83.在本说明书实施例中，还包括：
84.搭建适配多种开发语言的远程调用系统；
85.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，包括：
86.所述中间件通过所述远程调用系统与各数采服务模块建立通信，并获取各数采服务模块下采集设备所采集的数据。
87.在本说明书实施例中，所述将所述数据发送至消息队列模块，包括：
88.中间件将所述数据汇总后，发送至消息队列模块。
89.在具体实施时，还可以搭建冗余备用的数采服务模块，中间件通过监测数采服务模块的状态，在其状态满足预设条件时切换成备用的数采服务模块。
90.在本说明书实施例中，可以搭建负载能力逐级递加的多级数采服务模块，中间件通过监测当前数采服务模块的状态，在满足预设条件时切换到上一级数采服务模块，用上一级数采服务模块替代所述当前数采服务模块来获取部署于其下的采集设备所采集的数据。
91.图2为本说明书实施例提供的一种数据采集装置的结构示意图，该装置可以包括：
92.系统搭建模块201，搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块；
93.数采服务模块202，用于初次启动时向注册中心发送配置信息进行注册；
94.所述配置平台，为采集设备配置采集设备属性信息；
95.中间件203，与所述消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信；
96.所述中间件读取配置的所述设备属性信息，根据配置的所述设备属性信息确定采集设备对应的数采服务模块，并将所述设备属性信息下发至所述数采服务模块；
97.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，并将所述数据发送至消息队列模块。
98.该装置搭建配置平台，注册中心,中间件，消息队列模块和对应不同数据采集协议的数采服务模块，数采服务模块初次启动时向注册中心发送配置信息进行注册，通过配置中心为采集设备配置采集设备属性信息，中间件与消息队列模块及注册中心建立通信，监测注册中心中的新增的注册信息，并与对应的数采服务模块建立通信，中间件读取配置的
设备属性信息，根据配置的设备属性信息确定采集设备对应的数采服务模块，并将设备属性信息下发至数采服务模块，中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，发送至消息队列模块。通过中间件以自动监测匹配的方式降低了运维难度，提高了资源利用效率。
99.可选地，所述根据配置的所述设备属性信息确定采集设备对应的数采服务模块，包括：
100.根据所述设备属性信息中的协议类型匹配对应的数采服务模块。
101.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
102.通过配置中心为采集设备更新采集设备属性信息。
103.可选地，所述采集设备属性信息包括：设备地址信息和设备协议信息。
104.可选地，还包括：
105.搭建适配多种开发语言的远程调用系统；
106.所述中间件通过各数采服务模块获取各数采服务模块下采集设备所采集的数据，包括：
107.所述中间件通过所述远程调用系统与各数采服务模块建立通信，并获取各数采服务模块下采集设备所采集的数据。
108.可选地，所述通过配置中心为采集设备配置采集设备属性信息，包括：
109.从物联网平台拉取设备属性信息，自动配置。
110.可选地，所述将所述数据发送至消息队列模块，包括：
111.中间件将所述数据汇总后，发送至消息队列模块。
112.图3为本说明书实施例提供的一种数据采集装置的结构示意图，该装置包括配置平台301，中间件302，注册中心303，消息队列模块304，数采服务模块305。
113.b1是用户进行配置操作，包括更新已配置数据采集设备的数据属性信息，b2是直接从物联网平台获取设备属性信息进行自动配置，b3保存配置信息到注册中心，中间件监测注册中心的变动，b4向数采服务模块下发采集设备的设备属性信息，数采服务模块则可以将采集设备采集的数据发送给中间件，数采服务模块可以先对数据进行转换，转换成json格式的数据，再发送给中间件，中间件将json格式的数据发送至消息队列模块，消息队列模块可以将消息发送至实时数据库或者i ot物联网平台。
114.基于同一发明构思，本说明书实施例还提供一种电子设备。
115.下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
116.图4为本说明书实施例提供的一种电子设备的结构示意图。下面参照图4来描述根据本发明该实施例的电子设备400。图4显示的电子设备400仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
117.如图4所示，电子设备400以通用计算设备的形式表现。电子设备400的组件可以包括但不限于：至少一个处理单元410、至少一个存储单元420、连接不同系统组件(包括存储单元420和处理单元410)的总线430、显示单元440等。
118.其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元410执行，使得所述处理单元410执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元410可以执行如图1所示的步骤。
119.所述存储单元420可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)4201和/或高速缓存存储单元4202，还可以进一步包括只读存储单元(rom)4203。
120.所述存储单元420还可以包括具有一组(至少一个)程序模块4205的程序/实用工具4204，这样的程序模块4205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
121.总线430可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
122.电子设备400也可以与一个或多个外部设备500(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备400交互的设备通信，和/或与使得该电子设备400能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口450进行。并且，电子设备400还可以通过网络适配器460与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器460可以通过总线430与电子设备400的其它模块通信。应当明白，尽管图4中未示出，可以结合电子设备400使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、rai d系统、磁带驱动器以及数据备份存储系统等。
123.通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：如图1所示的方法。
124.图5为本说明书实施例提供的一种计算机可读介质的原理示意图。
125.实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
126.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或
者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
127.可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
128.综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(dsp)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
129.以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
130.本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
131.以上所述仅为本技术的实施例而已，并不用于限制本技术。对于本领域技术人员来说，本技术可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本技术的权利要求范围之内。