一种支持十亿级别的缓存设计方法与流程

本发明涉及一种支持十亿级别的缓存设计方法，属于软件开发技术领域。

背景技术：

所谓一种支持十亿级别的缓存设计方法，指的是通过一种科学的调度系统，实现对缓存访问进行科学调度，防止某一缓存服务在某一时间段被过分访问，也防止某一缓存服务在某一时间段访问量过低造成系统资源浪费。

在大容量的缓存系统设计中，一般的做法是采用分服务器分机房分服务的方式实现，采用访问站点分流的方式来减少单缓存服务的访问数量和频次，但此方式存在一个缺陷，那就是如果遇到单点访问量过大就会造成系统资源过载，如果站点分流设计不合理由会造成服务器资源浪费，单点缓存访问率低，提高企业it成本。更大的问题是各分布服务器上的缓存通信存在问题，各站点访问出的数据可能出现不一致的情况。

技术实现要素：

本发明要解决的技术问题是克服现有技术超大数据量环境下缓存访问压力不均衡，极端情况下会出现系统缓慢甚至宕机的缺点，提供一种支持十亿级别的缓存设计方法，从而更好的满足使用者的需求。

为了解决上述技术问题，本发明提供了如下的技术方案：

本发明提供一种支持十亿级别的缓存设计方法，包括三个组件：缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统；

该系统运行步骤：

s1：系统上线之前进行缓存服务配置系统设置；缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端；

s2：用户端向缓存服务调度系统发出缓存调用请求；每个用户端的用户数据id在使用过程中都有配套的缓存服务系统，当该缓存服务系统在使用过程中出现故障，用户端根据步骤s1中的设置，直接调用备份缓存服务系统；

s3：缓存服务通信系统，该系统主要是接受步骤s2中缓存服务调度系统的访问请求，缓存任务；根据该请求定时发送信号给缓存服务调度系统。

作为本发明的一种优选技术方案，对于步骤s1中设置缓存服务匹配系统的步骤为：

a1：根据资金预算和实际用户端需求，确定一个缓存调度系统中含有的缓存服务器的数量和备份缓存服务器的数量，并对缓存服务器、备份缓存服务器以及用户端进行标号，形成映射关系；

a2：用户端对每个服务设置备份服务配置，备份服务配置是指当前缓存服务出现故障时，自动切换到备份缓存服务中；

a3：设定缓存服务调度系统与缓存系统之间的通信间隔，以此判断缓存服务是否处于可运行状态；

a4：设定最低缓存运行数量报警阙值，当低于此数值时向系统管理员发出信息，提出预警。

作为本发明的一种优选技术方案，缓存服务匹配系统中缓存服务系统配套设置有10个缓存服务器，此时，用户端的用户数据id的尾数直接映射对应标号的缓存服务器。

作为本发明的一种优选技术方案，缓存服务匹配系统中用户端的用户数据id数为(n>1)，缓存服务器的数量为m(m>1)，采用n/m取余算法，所述用户端的用户对应缓存在对应设置在该余数对应的缓存服务器中。

作为本发明的一种优选技术方案，缓存服务调度系统中建立的缓存服务器和备份缓存服务器存在映射关系，每个缓存服务器对应有一个备份缓存服务器。

作为本发明的一种优选技术方案，对于步骤s2中用户向缓存系统发出缓存调用请求：其操作步骤为：

b1：缓存调度服务根据缓存配置服务中的设定，获得该用户数据id所对应的缓存服务；

b2：缓存调用服务判断缓存服务是否可用，若可用，则直接调用缓存服务，若该服务不可用，则调用备用服务。

作为本发明的一种优选技术方案，对于步骤s3中缓存服务通信系统，其操作步骤为：

c1：根据缓存配置服务中的通信间隔设置，定时与缓存调度系统进行通信，让缓存调度系统确定该服务是否处于可用状态；

c2：若缓存访问请求为读取操作，直接返回

c3：若缓存访问请求为修改操作，执行先删除后新增操作，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作；

c4：若缓存访问请求为删除操作，则在缓存服务中执行删除操作，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作；

c5：若缓存访问请求为新增操作，则在缓存中增加数据，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作。

本发明所达到的有益效果是：目前缓存服务大量的应用在网络应用程序中，利用缓存技术，可以降低对数据库的访问频次，提高系统的响应速度，改善用户体验，本发明通过计算机软件技术实现的对大容量的缓存系统进行优化设计，通过缓存服务实现缓存调用的自动压力分布，访用户端在使用过程中，一旦缓存服务器出现故障，自动切换到该缓存服务器的备份缓存服务器，该缓存服务器和备份缓存服务器之间存在映射关系。一个能自动对缓存访问进行智能调度的设计，能很好的解决缓存系统涉及中的缺陷，避免产生大量缓存访问在某一时间段集中请求服务器资源，造成系统响应延时，甚至死机的不良状况。从而提高系统的稳定性及健壮性。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。

在附图中：

图1为本发明缓存服务配置系统的流程图；

图2为本发明缓存服务调度系统的流程图；

图3为本发明缓存服务通信系统的流程图。

具体实施方式

以下对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。

实施例1：如图1-3所示，本发明提供一种支持十亿级别的缓存设计方法，包括三个组件：缓存服务匹配系统、缓存服务调度系统、缓存服务通信系统；

该系统运行步骤：

s1：系统上线之前进行缓存服务配置系统设置；缓存服务配置系统包括缓存服务系统、备份缓存服务系统和用户端；

s2：用户端向缓存服务调度系统发出缓存调用请求；每个用户端的用户数据id在使用过程中都有配套的缓存服务系统，当该缓存服务系统在使用过程中出现故障，用户端根据步骤s1中的设置，直接调用备份缓存服务系统；

s3：缓存服务通信系统，该系统主要是接受步骤s2中缓存服务调度系统的访问请求，缓存任务；根据该请求定时发送信号给缓存服务调度系统。

对于步骤s1中设置缓存服务匹配系统的步骤为：

a1：根据资金预算和实际用户端需求，确定一个缓存调度系统中含有的缓存服务器的数量和备份缓存服务器的数量，并对缓存服务器、备份缓存服务器以及用户端进行标号，形成映射关系；

a2：用户端对每个服务设置备份服务配置，备份服务配置是指当前缓存服务出现故障时，自动切换到备份缓存服务中；

a3：设定缓存服务调度系统与缓存系统之间的通信间隔，以此判断缓存服务是否处于可运行状态；

a4：设定最低缓存运行数量报警阙值，当低于此数值时向系统管理员发出信息，提出预警。

缓存服务匹配系统中缓存服务系统配套设置有10个缓存服务器，此时，用户端的用户数据id的尾数直接映射对应标号的缓存服务器。

缓存服务匹配系统中用户端的用户数据id数为(n>1)，缓存服务器的数量为m(m>1)，采用n/m取余算法，所述用户端的用户对应缓存在对应设置在该余数对应的缓存服务器中。

缓存服务调度系统中建立的缓存服务器和备份缓存服务器存在映射关系，每个缓存服务器对应有一个备份缓存服务器。

对于步骤s2中用户向缓存系统发出缓存调用请求：其操作步骤为：

b1：缓存调度服务根据缓存配置服务中的设定，获得该用户数据id所对应的缓存服务；

b2：缓存调用服务判断缓存服务是否可用，若可用，则直接调用缓存服务，若该服务不可用，则调用备用服务。

对于步骤s3中缓存服务通信系统，其操作步骤为：

c1：根据缓存配置服务中的通信间隔设置，定时与缓存调度系统进行通信，让缓存调度系统确定该服务是否处于可用状态；

c2：若缓存访问请求为读取操作，直接返回

c3：若缓存访问请求为修改操作，执行先删除后新增操作，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作；

c4：若缓存访问请求为删除操作，则在缓存服务中执行删除操作，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作；

c5：若缓存访问请求为新增操作，则在缓存中增加数据，并通知缓存调度服务器，由缓存调度服务器通知所有缓存服务执行相同操作。

原理：该方案在实际应用过程中，根据用户预算资金，设置缓存服务配置数量，最优的划分方式为10个缓存服务器，此时按用户数据id的尾数进行缓存服务调用，在大用户量的情况下，每个服务的调用数是均衡的，若资金预算不足或数据量不大，则按用户数据id尾数按某一规则取余的方式设置缓存服务器的数量，对于每个缓存服务器都有一个备份缓存服务器，缓存服务器和备份缓存服务器之间是存在一个映射的关系，同时备份缓存服务器的使用量预算资金相关。

设置备份缓存服务器的目的在于，我们日常使用过程中，一旦一个用户端发生故障，该用户端根据自身的用户数据id号直接调用缓存服务调度系统，通过缓存服务调度系统的访问请求，缓存任务；根据该请求定时发送信号给缓存服务调度系统。

最后应说明的是：以上仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。