流服务器群节点在接收到所调度的客户请求后，通过负载平衡以公平公正的模式将其分配给任何未过载的高速缓存服务器，以对该请求进行服务。优选地，分配给其中负载较小或最小的服务器。
[0038]在步骤2，客户向所返回的高速缓存服务器请求视频服务。例如，图2中示出了高速缓存服务器对请求进行服务的示例性过程。在接收到客户请求之后，高速缓存服务器会按热度来从多级存储中检索被请求的内容以推流到客户。在这一过程中，如上所述且如图2所示，高速缓存服务器的CPU的各个核被分成两段，下段检索并读取所请求的内容，并通过内核间拷贝将其传送到上段中的相应CPU核，上段的CPU核进而将该内容传送到网络接口，以将其推送到客户。
[0039]在高速缓存服务器对客户请求进行服务时，在高速缓存服务器确定某些内容片段没有缓存在本地的情况下，高速缓存服务器会向云存储请求相应的内容片段，并将请求的内容片段与本地缓存的内容片段拼接在一起，来形成视频流，以便提供给客户。
[0040]此外，在确定就近区域推流服务器群节点不能对该请求进行服务的情况下，全局负载调度进一步确定其他区域推流服务器群节点是否能对该请求进行服务。如果是，则将客户调度到其他区域推流服务器群节点以对该客户请求进行响应。否则，响应于区域推流服务器群节点都不能对该请求进行服务，将客户调度到云存储以对该客户请求进行响应。通过云存储对客户请求进行响应还包括对各文件片进行热度统计和预算，来进行一系列淘汰的算法，从而不断更新各文件片的热度，以保证高速缓存服务器之上的片段永远是热门的。例如，在客户被调度到云存储的情况下，其请求的内容片段可被同时传送给该客户的就近区域推流服务器群节点。或在所有区域推流服务器群节点都不能对客户请求进行服务的情况下，仍然将客户调度到其就近区域推流服务器群节点，然后由其中的高速缓存服务器代替客户向云存储请求内容片段。
[0041]通过以上的若干架构及推流高速缓存服务器的诸多方面的设计和优化，有效的减少消耗，提升对用户请求的响应速度及性能，且改善了用户体验。
[0042]本领域技术人员可显见，可对本发明的上述示例性实施例进行各种修改和变型而不偏离本发明的精神和范围。因此，旨在使本发明覆盖落在所附权利要求书及其等效技术方案范围内的对本发明的修改和变型。
【主权项】
1.一种用于流媒体服务系统中的高速缓存服务器，其特征在于: CPU，所述CPU包括一个或多个核，在多核CPU的情况下，所述CPU被划分成上段和下段:上段用于进行用户服务，而下段则用来控制本地磁盘的读取，在上段中，每个CPU的核都会以独占模式托管一定比例的用户，使核与核之间避免过多的交互； 多级存储，其中在所述多级存储中统计不同性能级别磁盘上的热度搬迀和淘汰，以充分地利用内存、高性能磁盘SSD与中间性能SAS盘之间的一个针对性能和相对大磁盘空间的利用率的一个折中，同时根据流媒体文件编码的特性和用户行为习惯进行跨文件的预读；以及 网络接口，所述网络接口采取无中断模型，以轮询的模式让网卡进行收发数据。2.如权利要求1所述的高速缓存服务器，其特征在于，所述CPU的上段与下段之间采用OS内核间(消息触发及数据拷贝)进行通讯。3.如权利要求1所述的高速缓存服务器，其特征在于，在每个级别的存储上，以大块的模式将多媒体文件片储存在本地磁盘上，以保证传统磁盘上每个块能够以一种相对连续性的存储在磁盘上。4.如权利要求1所述的高速缓存服务器，其特征在于，所述热度搬迀和淘汰是通过以下操作实现的: 获取各内容在一定的内容访问周期内的热度； 对于其热度达到预定阈值的内容，按其热度高低，依次置于内存、高性能磁盘SSD与中间性能SAS盘中；以及 对于热度低于预定阈值的内容或具有最低热度的内容，将其从高速缓存服务器中淘汰。5.如权利要求1所述的高速缓存服务器，其特征在于，所述热度是如下计算的: T1PV*A~(N-l)+T2PV*A~(N_2)+T3PV*A~(N_3) +......+TNPV， 其中内容访问周期介于T1到TN，TN = N*T1，N是大于等于1的整数，内容访问频率在T1到TN之间线性分布，TXPV为内容在每个时间TX里获得的访问量，设计系数A = (N-1) /Ν。6.如权利要求1所述的高速缓存服务器，其特征在于，所述跨文件预读是通过以下操作来实现的: 存储各分片文件之间的连续性信息； 当一分片文件即将读取结束时，获取所述连续性信息以取得与当前分片文件相关联的后一分片文件的相应信息； 根据所获得的相应信息，自动打开并预读所述后一分片文件。7.一种使用如权利要求1-6所述的高速缓存服务器的流媒体系统，所述流媒体系统还包括: 云存储，所述云存储包括多个存储服务器并且是该流媒体系统的内容源，所述云存储包括一个或多个多媒体文件； 全局调度系统，用于将用户请求调度到合适的区域推流服务器群节点以及在必要时调度到云存储； 包括一个或多个所述高速缓存服务器的区域推流服务器群节点，所述区域推流服务器群节点用于将用户请求调度到各高速缓存服务器之一；以及 用户终端。8.一种提供流媒体服务的方法，包括: 接收用户请求； 基于接收到的用户请求确定就近区域推流服务器群节点，所述区域推流服务器群节点包括一个或多个高速缓存服务器，； 将用户调度到就近区域推流服务器群节点，以对该用户请求进行响应，其中将用户调度到就近区域推流服务器群节点包括使用所述用户请求中包括的IP信息； 响应于确定就近区域推流服务器群节点不能对该请求进行服务，确定其他区域推流服务器群节点是否能对该请求进行服务； 如果是，则在将用户调度到其他区域推流服务器群节点以对该用户请求进行响应；否则，响应于区域推流服务器群节点都不能对该请求进行服务，将用户调度到云存储以对该用户请求进行响应。9.如权利要求8所述的方法，其特征在于，所述高速缓存服务器中的内容是从云存储来更新的，其中所述从云存储更新包括: 记录内容的热度； 在内容的热度到达一定阀值时，把所述内容从所述云存储传送到所述高速缓存服务器，以提升服务效率。10.如权利要求8所述的方法，其特征在于，所述高速缓存服务器还包括: CPU，所述CPU包括一个或多个核，在多核CPU的情况下，所述CPU被划分成两段(上段和下段):上段用于进行用户服务，而下段则用来控制本地磁盘的读取，CPU的上段与下段之间采用OS内核间(消息触发及数据拷贝)进行通讯，在上段中，每个CPU的核都会以独占模式托管一定比例的用户，使核与核之间尽量避免过多的交互； 多级存储，其中在所述多级存储中统计不同性能级别磁盘上的热度搬迀和淘汰，以充分地利用内存、高性能磁盘SSD与中间性能SAS盘之间的一个针对性能和相对大磁盘空间的利用率的一个折中，每个级别的存储上，以大块的模式将视频片储存在本地磁盘上，以保证传统磁盘上每个块能够以一种相对连续性的存储在磁盘上，同时根据流媒体文件编码的特性和用户行为习惯，进行跨文件的预读；以及 网络接口，所述网络接口采取无中断模型，以轮询的模式让网卡进行收发数据。
【专利摘要】本发明涉及一种快速响应用户请求的流媒体系统和方法。本发明提供了一种流媒体系统架构以及相应的对用户请求进行服务的方法，使得在一定压力的情况下，能够保证用户的请求能够及时的被响应，并且不影响其他在线用户的播放质量。
【IPC分类】H04L29/08, H04L29/06
【公开号】CN105376218
【申请号】CN201510688357
【发明人】盛少谦, 朱懿, 姚毅, 韩士腾, 王磊
【申请人】上海思华科技股份有限公司
【公开日】2016年3月2日
【申请日】2015年10月21日