基于复杂排队系统的三值光学计算机服务响应时间的操作方法与流程

本发明涉及计算机原理体系技术领域，具体涉及基于复杂排队系统的三值光学计算机服务响应时间的操作方法。

背景技术：

10余年来在三值光学计算机理论和某些应用方面进行不懈的探讨，取得了一系列理论和实验上的重大成果：提出了三值光学计算机原理和体系结构；建立了进位直达并行通道理论以解决三值光学计算机加法进位的串行延时问题；建立了降值设计理论，使三值光学计算机处理器的构建具有规范性；基于MSD数字系统完成了无进位加法和向量矩阵乘法实验，开创了三值光学计算机在高性能计算领域中应用尝试；构建了MSD加法器的基本原理以及加法器的数据流水线技术和数据剪辑技术；基于MSD数字系统设计并实现了三值光学计算机加法器；对三值光学计算机任务管理系统进行了初步探讨，等等。这些成果有力地促进了三值光学计算机一步步从理论走向应用、从实验走向实用。

另一方面，三值光学计算机的性能问题是也至关重要的。响应时间是衡量其性能的一项重要指标，具体指三值光学计算机能为用户提供多快的计算速度。

三值光学计算机作为一种新型计算模式类似于云计算，其服务也可分为三个层次：设施即服务(Infrastructure-as-a-Service,IaaS)，包括三值光学计算机的服务器、编码器、可重构光学处理器、解码器、双空间存储器以及网络资源等硬件设备；平台即服务(Platform-as-a-Service,PaaS)，包括三值光学计算机任务管理系统、用户可调用的计算例程以及编程环境等软硬件计算平台；软件即服务(Software-as-a-Service,SaaS)，包括运行在三值光学计算机硬件设施上的应用程序。

然而，三值光学计算机目前所提供的服务在以下几个方面不同于云计算等并行计算平台：第一，三值光学计算机目前主要直接或间接处理二元三值逻辑运算；第二，具有计算灵活性。三值光学计算机的光学处理器具有重构性，使其在运行时能重构用户所需的处理器。第三，巨位性和并行性。2015年构建出的三值光学计算机具有1024个数据位，可很容易扩展至上万位，使其能并发处理多个运算请求。第四，运算请求的多样性、处理器的动态重构性和负载的时间依赖性，使三值光学计算机必须在更大的范围内提供用户所期待的服务质量(Quality of Service,QoS)。这些特性决定了我们不能直接将研究云计算性能的方法搬到三值光学计算机上。为此，本文拟基于排队网络研究三值光学计算机的服务性能，以确保提供更好的QoS。

以前的研究发现网络传输速度是三值光学计算机的瓶颈，但短期内不可能大幅度提高网络速度。为解决该问题，可以减少数据传输量。为此，用户提交运算请求时并非像以前那样提交二元三值逻辑运算，而是以高级语言的文本形式向三值光学计算机的接收服务器(Receiving Server,RS)提交运算请求。

技术实现要素：

本发明所要解决的技术问题在于克服现有的技术缺陷提供一种方法合理、操作便捷、运算合理的基于复杂排队系统的三值光学计算机服务响应时间的操作方法。

本发明所要解决的技术问题采用以下的技术方案来实现：

基于复杂排队系统的三值光学计算机服务响应时间的操作方法，其特征在于：包括以下步骤，

步骤一、接收时间：设接收服务器RS接收的各运算请求到达时间间隔服从参数为的负指数分布，RS为各运算请求的服务时间是服从参数为(服务率)的负指数分布且独立同分布随机变量，与网络传输速度和各运算请求平均大小有关，即各运算请求按FCFS策略进入队列；且接收队列具有无限容量，即新到达的请求不会因系统容量限制而不能进入排队队列，可用单服务窗等待制排队系统M/M/1对Stage1建模，接收服务器RS服务模型的时齐CTMC(Continuous-Time Markov Chain)的状态转移图如图1所示，其中状态m表示RS中有m个运算请求，且有个运算请求在队列中排队等候；

当ρR＝λ/μR＜1时，存在平稳分布，记第m个状态的概率为Pm(m＝0,1,2,…)，由K氏代数方程的一般规律，可得如下方程组：

可解得

结合正则性得RS的空闲概率

P0＝1-ρR。

RS的平均运算请求数

由Little公式，可得接收运算请求的平均时间

步骤二、预处理时间：由步骤一可知PPS处理的运算请求都是RS接收的，因此，可用等待制M/M/1排队系统表达数据预处理服务器PPS，即进入Stage2的运算请求不会因空间不够而离去，PPS按FCFS策略服务的时齐CTMC模型状态转移图与图1相同；

同理可得预处理时间

步骤三、运算时间：调度器S按FCFS策略对运算请求调度后将运算请求发送至TOC，同时资源分配器A为已调度的各运算请求分配光学处理器，并将分配结果及所分配处理器的重构码发送至TOC。TOC光学处理器OP的重构部件以全并行方式完成重构后，编码器对控制内码表示的数据进行编码，即将电信号转换成光信号，而后运算器便对其进行光计算，最后解码器D将运算结果转换以通信内码表示的数据；

Ⅰ立即调度策略下的运算时间：

对立即调度(Instant Scheduling)策略，将光学处理器的数据位平均分成n部分，从而构成n个小光学处理器，当运算请求到来时，若有小光学处理器空闲，则调度器S立即将其调度到TOC，否则它将排队等候，直到有小光学处理器空闲时S再按FCFS策略进行调度，该策略下的立即调度算法如下：

算法1

Step 1：参数初始化。正在处理的任务数NProc＝0，调度队列Q的长度LQ＝0；

Step 2：当任务到达Q时，队列长度LQ增1，转Step 3；

Step 3：判断NProc是否为n。若是，转至Step 5；否则，判断LQ是否为0，若为0，则转至Step 5，否则从Q中调度一个任务，LQ减1，NProc赠1；

Step 4：调度器S接收到“任务完成”信号时，NProc减1，转至Step 3；

Step 5：算法结束；

每次调度都只调度一个任务，即对于一定量的任务集，立即调度策略下调度次数达最大值即任务数，从而处理器分配次数和运算器重构次数也达到最大值；

调度器S完成调度后，资源分配器A以按比例分配策略将一个小光学处理器的数据位分配给已调度任务的各运算，以保证该任务中的各运算同时完成，假设每个小光学处理器的数据位数为NDB，每个任务中的二元三值逻辑运算个数为NLog，具体分配算法如下：

算法2

Step 1：参数初始化。i＝1，任务运算量C＝0；

Step 2：判断i是否大于NLog。若是，转至Step 3；否则C＝C+Ci(Ci表示Client计算出的第i个运算的运算量，而后被发送至接收服务器RS)，i增1，转至Step2；

Step 3：i＝1；

Step 4：判断i是否大于NLog。若是，转至Step 5；否则按比例分配数据位，即，i增1，转至Step 4；

Step 5：算法结束；

其中Step 1-2计算任务的运算量，Step 3-4分配数据位，完成分配后，资源分配器A将分配结果和所分配处理器的重构码发送至TOC；

此调度策略下，Stage 4可用M/M/n排队系统对其建模，其中n为相互独立的小光学处理器总数。计算运算时间的时齐CTMC模型状态转移图如图2所示，其中μC＝μ/n表示每个小光学处理器及相应解码器的服务强度，μ为整个光学处理器的平均服务强度。即μ＝τ/C，其中τ表示整个光学处理器的运算速度。0≤k＜n时状态k表示有k个小光学处理器正在分别处理一个运算请求，其余的空闲；k≥n时，每个小光学处理器均忙着运算，而余下的k-n个运算请求排队等候服务；

该策略下运算请求到达Stage 4的到达率也为λ。记当ρc＜1时系统存在平稳状态。由图2可列出平衡条件下K氏方程组，并求得相应平稳分布：

于是，结合正则性条件可得系统到达平稳状态时的空闲概率

平均运算请求数

于是，由Little公式可得平均运算时间

Ⅱ任务结束时调度策略下的运算时间：

任务到达速率和运算量都较小时，可能造成某些小光学处理器空闲，致使整个光学处理器的利用率降低，从而影响运算时间，调度时除了采用FCFS策略，为提高资源利用率，提出采用结束时调度(End Scheduling)策略，假设三值光学计算机最多可同时处理n个任务，第i个任务中的二元三值逻辑运算个数为NiLog，在该策略下任务结束时调度算法如下：

算法3

Step 1：系统启动后参数初始化。正在处理的任务数NProc＝0；

Step 2：第一个任务到达调度队列Q时，调度器S采用立即调度策略调度它，NProc赠1；

Step 3：调度器S接收到“任务结束”信号时，计算需调度任务数NSched＝nNProc，并将其发送至资源分配器A；

Step 4：判断Q中的任务数NQ是否为0。若是，则转Step 6，否则从Q中调度一个任务，并将NSched减1，NProc赠1；

Step 5：判断NSched是否等于0。若是，则转Step 6，否则转Step 4；

Step 6：本次调度结束；

为提高资源利用率并保证每次调度的任务同时完成，资源分配器A采用按比例分配策略分配光学处理器资源。假设光学处理器的数据位总数为N，相应的处理器分配算法如下：

算法4

Step 1：参数初始化。i＝1，j＝1,NSched个任务的总运算量C＝0；

Step 2：判断i是否大于NSched。若是，转至Step 5；否则转至Step 3；

Step 3：判断j是否大于NiLog。若是，转至Step 4；否则C＝Cij+C，j增1，转至Step 3；

Step 4：i增1，转至Step 2；

Step 5：i＝1，j＝1；

Step 6：判断i是否大于NSched。若是，转至Step 9；否则转至Step 7；

Step 7：判断j是否大于NiLog。若是，转至Step 8；否则为第i个任务的第j个运算分配处理器，j增1，转至Step 7；

Step 8：i增1，转至Step 6；

Step 9：算法结束；

其中Step 1-4计算NSched个任务的总运算量，Step5-8按比例分配光学处理器。为此，称算法2和算法4中的光学处理器分配算法为按比例分配算法，完成分配后，资源分配器A同样将分配结果和所分配处理器的重构码发送至TOC。即算法2和4的区别在于：算法2每次分配一个小光学处理器的资源，而算法4每次都分配所有的光学处理器资源；

步骤四、发送时间：显然，发送时间与运算时间类似，即与调度策略和处理器分配策略有关，假设运算结果平均大小为R，则运算结果发送服务器TS的平均服务速率。下面同样分两种情况讨论发送时间的计算；

Ⅰ立即调度策略下的发送时间：

计算立即调度策略下的发送时间，也即在算法1和算法2下计算发送时间。显然，该策略下，运算结果仍按到达率一个个地到达TS，可用M/M/1排队系统对其建模，也可以得发送时间；

Ⅱ任务结束时调度策略下的发送时间：

计算任务结束时调度策略下的发送时间，也即在算法3和算法4下计算发送时间，批服务自然导致批到达，因此该策略下运算结果成批地到达TS，这样，发送服务器TS可用MX/M/1排队系统表达，其中X为随机变量，表示每批到达的运算请求结果数。可求得TS发送运算结果的平均时间

将步骤一至四中的时间相加即得系统响应时间。

本发明的有益效果为：三值光学计算机的性能分析与评价是其走向实际应用的重要一环，基于M/M/1、M^X/M/1和M/M^B/1构成的复杂排队系统提出三值光学计算机性能分析与评价模型，而提出了结束时调度策略，并详细讨论了立即调度策略和结束时调度策略下系统响应时间的计算方法，数值实验和模型仿真的结果表明结束时调度策略下三值光学计算机的性能明显优于立即调度策略；将1024位光学处理器均分成4个小光学处理器，其性能基本达到最优。

附图说明：

图1为接收服务器RS服务模型的时齐CTMC(的状态转移图。

图2为计算运算时间的时齐CTMC模型状态转移图。

具体实施方式

为了使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解，下面结合具体图示，进一步阐述本发明。

如图1以及图2所示，基于复杂排队系统的三值光学计算机服务响应时间的操作方法，其特征在于：包括以下步骤，

步骤一、接收时间：设接收服务器RS接收的各运算请求到达时间间隔服从参数为的负指数分布，RS为各运算请求的服务时间是服从参数为(服务率)的负指数分布且独立同分布随机变量，与网络传输速度和各运算请求平均大小有关，即各运算请求按FCFS策略进入队列；且接收队列具有无限容量，即新到达的请求不会因系统容量限制而不能进入排队队列，可用单服务窗等待制排队系统M/M/1对Stage1建模，接收服务器RS服务模型的时齐CTMC(Continuous-Time Markov Chain)的状态转移图如图1所示，其中状态m表示RS中有m个运算请求，且有个运算请求在队列中排队等候；

当ρR＝λ/μR＜1时，存在平稳分布，记第m个状态的概率为Pm(m＝0,1,2,…)，由K氏代数方程的一般规律，可得如下方程组：

可解得

结合正则性得RS的空闲概率

P0＝1-ρR。

RS的平均运算请求数

由Little公式，可得接收运算请求的平均时间

步骤二、预处理时间：由步骤一可知PPS处理的运算请求都是RS接收的，因此，可用等待制M/M/1排队系统表达数据预处理服务器PPS，即进入Stage2的运算请求不会因空间不够而离去，PPS按FCFS策略服务的时齐CTMC模型状态转移图与图1相同；

同理可得预处理时间

步骤三、运算时间：调度器S按FCFS策略对运算请求调度后将运算请求发送至TOC，同时资源分配器A为已调度的各运算请求分配光学处理器，并将分配结果及所分配处理器的重构码发送至TOC。TOC光学处理器OP的重构部件以全并行方式完成重构后，编码器对控制内码表示的数据进行编码，即将电信号转换成光信号，而后运算器便对其进行光计算，最后解码器D将运算结果转换以通信内码表示的数据；

Ⅰ立即调度策略下的运算时间：

对立即调度(Instant Scheduling)策略，将光学处理器的数据位平均分成n部分，从而构成n个小光学处理器，当运算请求到来时，若有小光学处理器空闲，则调度器S立即将其调度到TOC，否则它将排队等候，直到有小光学处理器空闲时S再按FCFS策略进行调度，该策略下的立即调度算法如下：

算法1

Step 1：参数初始化。正在处理的任务数NProc＝0，调度队列Q的长度LQ＝0；

Step 2：当任务到达Q时，队列长度LQ增1，转Step 3；

Step 3：判断NProc是否为n。若是，转至Step 5；否则，判断LQ是否为0，若为0，则转至Step 5，否则从Q中调度一个任务，LQ减1，NProc赠1；

Step 4：调度器S接收到“任务完成”信号时，NProc减1，转至Step 3；

Step 5：算法结束；

每次调度都只调度一个任务，即对于一定量的任务集，立即调度策略下调度次数达最大值即任务数，从而处理器分配次数和运算器重构次数也达到最大值；

调度器S完成调度后，资源分配器A以按比例分配策略将一个小光学处理器的数据位分配给已调度任务的各运算，以保证该任务中的各运算同时完成，假设每个小光学处理器的数据位数为NDB，每个任务中的二元三值逻辑运算个数为NLog，具体分配算法如下：

算法2

Step 1：参数初始化。i＝1，任务运算量C＝0；

Step 2：判断i是否大于NLog。若是，转至Step 3；否则C＝C+Ci(Ci表示Client计算出的第i个运算的运算量，而后被发送至接收服务器RS)，i增1，转至Step2；

Step 3：i＝1；

Step 4：判断i是否大于NLog。若是，转至Step 5；否则按比例分配数据位，即，i增1，转至Step 4；

Step 5：算法结束；

其中Step 1-2计算任务的运算量，Step 3-4分配数据位，完成分配后，资源分配器A将分配结果和所分配处理器的重构码发送至TOC；

此调度策略下，Stage 4可用M/M/n排队系统对其建模，其中n为相互独立的小光学处理器总数。计算运算时间的时齐CTMC模型状态转移图如图2所示，其中μC＝μ/n表示每个小光学处理器及相应解码器的服务强度，μ为整个光学处理器的平均服务强度。即μ＝τ/C，其中τ表示整个光学处理器的运算速度。0≤k＜n时状态k表示有k个小光学处理器正在分别处理一个运算请求，其余的空闲；k≥n时，每个小光学处理器均忙着运算，而余下的k-n个运算请求排队等候服务；

该策略下运算请求到达Stage 4的到达率也为λ。记当ρC＜1时系统存在平稳状态。由图2可列出平衡条件下K氏方程组，并求得相应平稳分布：

于是，结合正则性条件可得系统到达平稳状态时的空闲概率

平均运算请求数

于是，由Little公式可得平均运算时间

Ⅱ任务结束时调度策略下的运算时间：

任务到达速率和运算量都较小时，可能造成某些小光学处理器空闲，致使整个光学处理器的利用率降低，从而影响运算时间，调度时除了采用FCFS策略，为提高资源利用率，提出采用结束时调度(End Scheduling)策略，假设三值光学计算机最多可同时处理n个任务，第i个任务中的二元三值逻辑运算个数为NiLog，在该策略下任务结束时调度算法如下：

算法3

Step 1：系统启动后参数初始化。正在处理的任务数NProc＝0；

Step 2：第一个任务到达调度队列Q时，调度器S采用立即调度策略调度它，NProc赠1；

Step 3：调度器S接收到“任务结束”信号时，计算需调度任务数NSched＝nNProc，并将其发送至资源分配器A；

Step 4：判断Q中的任务数NQ是否为0。若是，则转Step 6，否则从Q中调度一个任务，并将NSched减1，NProc赠1；

Step 5：判断NSched是否等于0。若是，则转Step 6，否则转Step 4；

Step 6：本次调度结束；

为提高资源利用率并保证每次调度的任务同时完成，资源分配器A采用按比例分配策略分配光学处理器资源。假设光学处理器的数据位总数为N，相应的处理器分配算法如下：

算法4

Step 1：参数初始化。i＝1，j＝1,NSched个任务的总运算量C＝0；

Step 2：判断i是否大于NSched。若是，转至Step 5；否则转至Step 3；

Step 3：判断j是否大于NiLog。若是，转至Step 4；否则C＝Cij+C，j增1，转至Step 3；

Step 4：i增1，转至Step 2；

Step 5：i＝1，j＝1；

Step 6：判断i是否大于NSched。若是，转至Step 9；否则转至Step 7；

Step 7：判断j是否大于NiLog。若是，转至Step 8；否则为第i个任务的第j个运算分配处理器，j增1，转至Step 7；

Step 8：i增1，转至Step 6；

Step 9：算法结束；

其中Step 1-4计算NSched个任务的总运算量，Step5-8按比例分配光学处理器。为此，称算法2和算法4中的光学处理器分配算法为按比例分配算法，完成分配后，资源分配器A同样将分配结果和所分配处理器的重构码发送至TOC。即算法2和4的区别在于：算法2每次分配一个小光学处理器的资源，而算法4每次都分配所有的光学处理器资源；

步骤四、发送时间：显然，发送时间与运算时间类似，即与调度策略和处理器分配策略有关，假设运算结果平均大小为R，则运算结果发送服务器TS的平均服务速率。下面同样分两种情况讨论发送时间的计算；

Ⅰ立即调度策略下的发送时间：

计算立即调度策略下的发送时间，也即在算法1和算法2下计算发送时间。显然，该策略下，运算结果仍按到达率一个个地到达TS，可用M/M/1排队系统对其建模，也可以得发送时间；

Ⅱ任务结束时调度策略下的发送时间：

计算任务结束时调度策略下的发送时间，也即在算法3和算法4下计算发送时间，批服务自然导致批到达，因此该策略下运算结果成批地到达TS，这样，发送服务器TS可用MX/M/1排队系统表达，其中X为随机变量，表示每批到达的运算请求结果数。可求得TS发送运算结果的平均时间

将步骤一至四中的时间相加即得系统响应时间。

以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。