消息处理方法、设备及计算机可读存储介质与流程

文档序号:15385053发布日期:2018-09-08 00:28阅读:220来源:国知局
本发明涉及通信
技术领域
:,尤其涉及一种消息处理方法、设备及计算机可读存储介质。
背景技术
::kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。kafka的目的是通过hadoop(一个由apache基金会所开发的分布式系统基础架构)的并行加载机制来统一线上和离线的消息处理,也是为了通过集群机来提供实时的消费。kafka应用在大数据统计过程中,是针对大数据量的数据进行消息的产生、消息的消费来使用的。其中,消息的生产,是直接由生产者向kafka进行消息的发送;消息的消费,是由消费者线程来进行消息的消费操作。因为在很多的生产环境中,都必须使用kafka集群的方式来消除单点故障,所以消费者线程均是连接到整个kafka集群中进行消息的消费动作。kafka的消费者线程数与topic(主题)的partition(区分)有关系(一类消息有一个主题,每个主题创建时,需要固定该主题的分区数)。在某一时刻,一个partition只能有一个消费者线程能连接上。现有消费方式存在的问题是:当大量消息写入而消费者线程宕机停止后,重新启动消费者线程,则消费者线程均从kafka内部自带的zookeeper记录的位置开始消费数据;如果宕机时间较长,堆积了较多需要消费的数据,则处理这些非实时的数据需要时间,这就导致最新的数据不能实时的进行消费处理,增加了处理延时时间。技术实现要素:本发明实施例的主要目的在于提供一种消息处理方法、设备及计算机可读存储介质,旨在解决现有消费方式存在的问题。为实现上述目的,本发明实施例第一方面提供一种消息处理方法,所述方法包括步骤:在旧消费者线程发生故障后,启动备用消费者线程和新消费者线程;所述备用消费者线程从预设缓存中获取第一偏移量位置,并从管理者zookeeper中获取第二偏移量位置;根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息;其中,所述第一偏移量位置为所述旧消费者线程消费服务器消息后的偏移量位置;所述新消费者线程根据所述第二偏移量位置消费服务器实时写入的消息。可选地,所述根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息包括步骤:判断所述第一偏移量位置和所述第二偏移量位置是否相同;若所述第一偏移量位置和所述第二偏移量位置不相同,则所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。可选地,所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息包括步骤:所述备用消费者线程启动多线程,并通过所述多线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。可选地,所述若所述第一偏移量位置和所述第二偏移量位置不相同,则所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息之后还包括步骤:若所述第一偏移量位置和所述第二偏移量位置之间的消息已经消费完毕,则关闭所述备用消费者线程。可选地,所述备用消费者线程从预设缓存中获取第一偏移量位置,并从管理者zookeeper中获取第二偏移量位置;根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息之前还包括步骤:设置所述zookeeper中的第二偏移量位置。可选地,所述新消费者线程根据所述第二偏移量位置消费服务器实时写入的消息之后还包括步骤:若所述新消费者线程已经消费完毕,则更新所述预设缓存中的第一偏移量位置。可选地,所述在旧消费者线程发生故障后,启动备用消费者线程和新消费者线程包括步骤:检测所述旧消费者线程是否发生故障;若所述旧消费者线程发生故障,则启动备用消费者线程和新消费者线程。可选地,所述故障包括旧消费者线程宕机故障和/或旧消费者线程停止故障。此外,为实现上述目的,本发明实施例第二方面提供一种消息处理设备,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的消息处理程序,所述消息处理程序被所述处理器执行时实现第一方面所述的消息处理方法的步骤。再者,为实现上述目的,本发明实施例第三方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有消息处理程序,所述消息处理程序被处理器执行时实现第一方面所述的消息处理方法的步骤。本发明实施例提供的消息处理方法、设备及计算机可读存储介质,通过备用消费者线程和新消费者线程消费服务器非实时以及实时写入的消息;一方面可保证最新消息能够得到处理,减少消息处理的延迟,另一方面可确保消费者线程故障期间的消息能够得到补充处理而不丢失。附图说明图1为实现本发明各个实施例的移动终端的硬件结构示意图;图2为本发明实施例提供的一种通信网络系统架构图;图3为本发明实施例的消息处理方法流程示意图;图4为本发明实施例的消息处理过程中偏移量结构示意图;图5为本发明实施例的消息处理设备结构示意图。本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字tv、台式计算机等固定终端。后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。下面结合图1对移动终端的各个部件进行具体的介绍:射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)和tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)等。wifi属于短距离无线传输技术,移动终端通过wifi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的lte系统,该lte系统包括依次通讯连接的ue(userequipment,用户设备)201,e-utran(evolvedumtsterrestrialradioaccessnetwork,演进式umts陆地无线接入网)202,epc(evolvedpacketcore,演进式分组核心网)203和运营商的ip业务204。具体地,ue201可以是上述终端100,此处不再赘述。e-utran202包括enodeb2021和其它enodeb2022等。其中,enodeb2021可以通过回程(backhaul)(例如x2接口)与其它enodeb2022连接,enodeb2021连接到epc203,enodeb2021可以提供ue201到epc203的接入。epc203可以包括mme(mobilitymanagemententity,移动性管理实体)2031,hss(homesubscriberserver,归属用户服务器)2032,其它mme2033,sgw(servinggateway,服务网关)2034,pgw(pdngateway,分组数据网络网关)2035和pcrf(policyandchargingrulesfunction,政策和资费功能实体)2036等。其中,mme2031是处理ue201和epc203之间信令的控制节点,提供承载和连接管理。hss2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过sgw2034进行发送,pgw2035可以提供ue201的ip地址分配以及其它功能,pcrf2036是业务数据流和ip承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。ip业务204可以包括因特网、内联网、ims(ipmultimediasubsystem,ip多媒体子系统)或其它ip业务等。虽然上述以lte系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于lte系统,也可以适用于其他无线通信系统,例如gsm、cdma2000、wcdma、td-scdma以及未来新的网络系统等,此处不做限定。基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。第一实施例在阐述本实施例之前,以下对实施例中的kafka术语进行介绍和说明:消息生产者:即producer,是消息的产生的源头,负责生成消息并发送到kafka服务器上。消息消费者:即consumer,是消息的使用方,负责消费kafka服务器上的消息。主题:即topic,由用户定义并配置在kafka服务器,用于建立生产者和消息者之间的订阅关系:生产者发送消息到指定的topic下,消息者从这个topic下消费消息。消息分区:即partition,一个topic下面会分为很多分区,例如:“kafka-test”这个topic下可以分为6个分区,分别由两台服务器提供,那么通常可以配置为让每台服务器提供3个分区,假如服务器id分别为0、1,则所有的分区为0-0、0-1、0-2和1-0、1-1、1-2。topic物理上的分组,一个topic可以分为多个partition,每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id(offset)。消费者分组:即group,用于归组同类消费者,在kafka中,多个消费者可以共同消费一个topic下的消息,每个消费者消费其中的部分消息,这些消费者就组成了一个分组,拥有同一个分组名称,通常也被称为消费者集群。offset:消息存储在kafka的broker上,消费者拉取消息数据的过程中需要知道消息在文件中的偏移量,这个偏移量就是所谓的offset。broker:即kafka的服务器,用户存储消息,kafka集群中的一台或多台服务器统称为broker。zookeeper是一种在分布式系统中被广泛用来作为:分布式状态管理、分布式协调管理、分布式配置管理、和分布式锁服务的集群。kafka增加和减少服务器都会在zookeeper节点上触发相应的事件,kafka系统会捕获这些事件,进行新一轮的负载均衡,客户端也会捕获这些事件来进行新一轮的处理。如图3所示,本发明第一实施例提供一种消息处理方法,所述方法包括步骤:s31、在旧消费者线程发生故障后,启动备用消费者线程和新消费者线程。首先搭建相关分布式发布订阅消息系统集群相关环境,以及下载相关工具jar包,编写相关分布式发布订阅消息系统消费者客户端代码,并设置本地线程处理消息的最大数量(比如,定义本地线程处理消息的最大数量为taskcount)以及分布式发布订阅消息系统的超时时间(比如,定义分布式发布订阅消息系统的超时时间为session.timeout.ms),其中,分布式发布订阅消息系统的最大超时时间即为分布式发布订阅消息系统的最大心跳间隔时间,其可以设置为系统默认的数值,或根据实际需要自行设定。在旧消费者线程未发生故障前,旧消费线程从kafka服务器中批量获取数据,在zookeeper中会记录消费kafka服务器消息的offset位置信息。同时新增redis缓存组件,在zookeeper中记录消费的offset位置信息之后,同时在redis缓存中记录消费的offset位置信息。在旧消费者线程发生故障后,需重新启动消费者线程对kafka服务器实时写入的消息和非实时写入的消息进行消费。本实施例通过启动备用消费者线程和新消费者线程来解决实时写入消息和非实时写入消息的消费。在本实施例中,所述故障包括旧消费者线程宕机故障和/或旧消费者线程停止故障。备用消费者线程和新消费者线程可以为同一消费者集群中的消费者,也可以不为同一消费者集群中的消费者,在此不作限制。在一种实施方式中,所述在旧消费者线程发生故障后,启动备用消费者线程和新消费者线程包括步骤:检测所述旧消费者线程是否发生故障;若所述旧消费者线程发生故障,则启动备用消费者线程和新消费者线程。s32、所述备用消费者线程从预设缓存中获取第一偏移量位置,并从管理者zookeeper中获取第二偏移量位置;根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息;其中,所述第一偏移量位置为所述旧消费者线程消费服务器消息后的偏移量位置。在本实施例中,预设缓存为前述的redis缓存,第一偏移量位置为redis缓存中记录的消费的offset位置信息,即旧消费者线程未发生故障前,消费kafka服务器消息后的偏移量位置。在本实施例中,第二偏移量位置为最新消息的偏移量位置,即消费者线程重新启动之后,写入到kafka服务器中的消息。在一种实施方式中,所述根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息包括步骤:判断所述第一偏移量位置和所述第二偏移量位置是否相同;若所述第一偏移量位置和所述第二偏移量位置不相同,则所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。在该实施方式中,所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息包括步骤:所述备用消费者线程启动多线程,并通过所述多线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。在该实施方式中,通过多线程来处理第一偏移量位置和第二偏移量位置之间的消息,提高了吞吐量和消费速率。在该实施方式中,所述若所述第一偏移量位置和所述第二偏移量位置不相同,则所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息之后还包括步骤:若所述第一偏移量位置和所述第二偏移量位置之间的消息已经消费完毕,则关闭所述备用消费者线程。在另一种实施方式中,所述备用消费者线程从预设缓存中获取第一偏移量位置,并从管理者zookeeper中获取第二偏移量位置;根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息之前还包括步骤:设置所述zookeeper中的第二偏移量位置。在该实施方式中,通过对zookeeper中的第二偏移量位置进行设置,可确保第二偏移量位置指向最新消息的偏移量位置。s33、所述新消费者线程根据所述第二偏移量位置消费服务器实时写入的消息。在本实施例中,新消费者线程直接从最新消息的偏移量位置进行消费处理,而备用消费者线程在旧消费者线程消费服务器消息后的偏移量位置与最新消息的偏移量位置之间进行消费处理,备用消费者线程在消费完毕之后可进行关闭。这种方式一方面可保证最新消息能够得到处理,减少消息处理的延迟,另一方面可确保消费者线程故障期间的消息能够得到补充处理而不丢失。在一种实施方式中,所述新消费者线程根据所述第二偏移量位置消费服务器实时写入的消息之后还包括步骤:若所述新消费者线程已经消费完毕,则更新所述预设缓存中的第一偏移量位置。为了更好地阐述本实施例,以下结合图4对消息处理过程进行详细地说明:如图4所示,假设在消费者线程宕机或者停止之前,消费者线程已经成功消费处理至offset=20的位置(即图中的offset1)。重新启动消费者线程之后,最新消息的偏移量位置为offset=40的位置(即图中的offset2)。现有方案对此情况的处理方式通常是,从offset1位置处开始处理消息。这种方案存在的问题是:若offset2至offset1之间的消息较多的话(宕机时间较长、消息写入量过多,都会造成offset2至offset1之间的消息较多),则消费者线程需要花费一段时间处理offset2至offset1之间的消息,才能从最新消息的偏移量位置offset2开始处理消息,进而导致消息处理的延迟。针对此种情况,可启动备用消费者线程和新消费者线程,由备用消费者线程处理offset2至offset1之间的消息,新消费者线程直接从最新消息的偏移量位置offset2开始处理消息。备用消费者线程处理完offset2至offset1之间的消息之后,直接关闭备用消费者线程。本发明实施例提供的消息处理方法,通过备用消费者线程和新消费者线程消费服务器非实时以及实时写入的消息;一方面可保证最新消息能够得到处理,减少消息处理的延迟,另一方面可确保消费者线程故障期间的消息能够得到补充处理而不丢失。第二实施例参照图5,图5为本发明第二实施例提供一种消息处理设备,所述设备40包括:存储器41、处理器42及存储在所述存储器41上并可在所述处理器42上运行的消息处理程序,所述消息处理程序被所述处理器42执行时,用于实现以下所述的消息处理方法的步骤:在旧消费者线程发生故障后,启动备用消费者线程和新消费者线程;所述备用消费者线程从预设缓存中获取第一偏移量位置,并从管理者zookeeper中获取第二偏移量位置;根据所述第一偏移量位置和所述第二偏移量位置消费服务器非实时写入的消息;其中,所述第一偏移量位置为所述旧消费者线程消费服务器消息后的偏移量位置;所述新消费者线程根据所述第二偏移量位置消费服务器实时写入的消息。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:判断所述第一偏移量位置和所述第二偏移量位置是否相同;若所述第一偏移量位置和所述第二偏移量位置不相同,则所述备用消费者线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:所述备用消费者线程启动多线程,并通过所述多线程消费所述第一偏移量位置和所述第二偏移量位置之间的消息。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:若所述第一偏移量位置和所述第二偏移量位置之间的消息已经消费完毕,则关闭所述备用消费者线程。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:设置所述zookeeper中的第二偏移量位置。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:若所述新消费者线程已经消费完毕,则更新所述预设缓存中的第一偏移量位置。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:检测所述旧消费者线程是否发生故障;若所述旧消费者线程发生故障,则启动备用消费者线程和新消费者线程。所述消息处理程序被所述处理器42执行时,还用于实现以下所述的消息处理方法的步骤:所述故障包括旧消费者线程宕机故障和/或旧消费者线程停止故障。本发明实施例提供的消息处理设备,通过备用消费者线程和新消费者线程消费服务器非实时以及实时写入的消息;一方面可保证最新消息能够得到处理,减少消息处理的延迟,另一方面可确保消费者线程故障期间的消息能够得到补充处理而不丢失。第三实施例本发明第三实施例提供一种计算机可读存储介质,所述计算机可读存储介质上存储有消息处理程序,所述消息处理程序被处理器执行时实现第一实施例所述的消息处理方法的步骤。本发明实施例提供的计算机可读存储介质,通过备用消费者线程和新消费者线程消费服务器非实时以及实时写入的消息;一方面可保证最新消息能够得到处理,减少消息处理的延迟,另一方面可确保消费者线程故障期间的消息能够得到补充处理而不丢失。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1