高速缓存数据区段的配置与初始化机制的制作方法

专利名称：高速缓存数据区段的配置与初始化机制的制作方法
技术领域：
本发明与微电子学的领域有关，尤指一种装置及方法使程序员得以命令微处理器在其内部高速缓存(cache)上执行配置与初始化一个区段(block)快取线(cache line)的预取运算(prefetch operation)。
背景技术：
本申请案与下列同在申请中之美国专利申请案有关，其申请日与本案相同，且具有相同的申请人与发明人。

在今日的微处理器，其内部逻辑区段(logic block)间的数据传输速度远超过于其与外部内存的存取速度。在一个x86桌上型计算机组态中，其总线(bus)与系统内存之间的接口运作速率是以百万赫兹(megahertz)的百倍计，但是其内部微处理器时脉速率却已接近数十倍的十兆赫兹(gigahertz)。因此，近年来已发展出一个高速缓存结构的层级体系，此体系使得高效能微处理器不必在每次读取(read)或写入(write)资料时，必须在一个缓慢的内存总线(memory bus)上执行作业(transaction)，而更能发挥其效能。
运作方式，对一微处理器管线内的指令流程而言，是透明的，因此审慎的方式是在需用资料之前先发出预取指令，使得高速缓存可以在需用资料之前，从内存提取资料-与在主程序流程(primary program flow)中其它指令的执行平行处理。然后当随后的指令(subsequenceinstruction)出现，并且需要存取已预取的资料时，此数据已经在高速缓存中立即可存取(readily accessible)，所以程序的执行不会因为等待从内存提取资料而停滞。已预取的数据在高速缓存中立即可存取是仅指其将要被读取而已。如果此预取的资料会被随后的指令所改动，则程序的执行将必须延迟以等待高速缓存单元到总线去请求共享资料的排他所有权，而后区域处理器始可改动此资料。
如前所示，共享内存区域被广泛的应用在今日计算机系统，以提供各组件间的信息通讯之用。以组件间的一连接到总线的通讯缓冲器(communication buffer)为例，在资料区域的一些资料的存在或不存在(换言之，该指定区域被设定成同一逻辑数值，或全为一，或全为零)，对一组件而言，可表示另一组件已经准备好接收资料。相对的，在一视频缓冲器的组态中，经由将所有一个机载(on-board)，或区域(local)，高速缓存在一个管线化(pipeline)微处理器中是一个独立的单位，在本质上，其运作方式对于在管线化微处理器中流动的指令而言是透明(transparent)的，此方式确保一个应用程序(application program)中的指令所需要的资料已经常驻在其高速缓存内，而可以用管线速率存取，而不是以内存总线速率。不同的技术使用不同的高速缓存架构，有些是由多层(multiple levels)高速缓存所组成第一层高速缓存是非常接近处理器的执行逻辑(execution logic)，第二层高速缓存可以是芯片上(on-chip)或非芯片上，是用来储存较不常存取的资料，第三层高速缓存则可能是在记忆卡(memory card)上，以此类推。不论应用那一种架构，熟习此领域技术者将发现使用高速缓存的目的在于排除当总线作业是经由一个缓慢的内存总线所发出时的微处理器管线中指令的停滞(stalled)，此总线作业是为了取得一待决的(pending)读取或写入运算所需的资料。当此状况发生，程序的执行将产生令人难以忍受的暂停(halt)，直到得到所需资料为止。
今日计算机系统组件(device)间共享内存区域的现象使得情况更为复杂。举例而言，主微处理器(primary microprocessor)与通讯微处理器(communications microprocessor)之间的通讯是经由在一指定内存区域上的读取及写入资料。视频组件(video device)上显示资料予操作员(operator)的视频卡(video card)的微处理器与主微处理器共享一些被称之为视频缓冲器(video buffers)的内存区域，也是很常见的情形。
在共享内存系统中，可能发生来自一个共享区域(region)的资料存在于两个不同微处理器的区域(local)高速缓存中，或是存在于连结到同一个内存总线的不同组件上。若所有组件只是单纯的读取资料，则允许它们将资料常驻于其区域高速缓存结构，并不会造成任何伤害。但是当它们均被允许改动(modify)存在于其区域高速缓存的资料时，即会造成不可预期的后果。
为防止此情况发生，系统设计者开发了高速缓存一致性协议以标示高速缓存中数据的状态。MESI是最普遍使用的协议。依照MESI来维护区域高速缓存可以确保同一资料的两个副本不会在同一时间被改动。MESI共享状态告知区域高速缓存一特定区段的资料是否为共享(shared)。如是共享，则区域处理器在经由一较慢的内存线上执行作业以取得排他许可(exclusive permission)之前，不得改动资料。若欲改动资料，处理器需先取得资料的排他所有权。
本发明在此强调的问题是有关于欲将资料写入内存时所招致的发生在程序内的延迟。熟习此领域技术者将发现高速缓存并无合理的方法以得知何时一特定内存区域会最先被需要，因此当该特定内存区域第一次被加载到区域高速缓存时，总是会引起内存总线延迟。认知此项事实，设计者开发了一可在微处理器上执行的预取指令。但是预取指令并不能在程序流程的操作数上运作。确切的说，预取指令命令区域高速缓存从内存上加载操作数到该高速缓存以备未来之用。而且因为高速缓存单元与内存间的视频缓冲器项目设为同一数值，微处理器可以开始为操作员”绘制”背景颜色。为了在组件间转移信息，上述两个例子皆须在资料区域内的资料实体上储存特定资料。而这些事态皆不须在转移信息之前读取该资料区域的资料。因此，在共享内存计算系统内的组件在转移资料到一共享内存区域时，并无经由高速缓存以前进到内存总线的有效律方法-即使经由预取运算，该共享内存区域早已事先加载到高速缓存-因为该高速缓存内的资料可能不是排他的拥有。
因此，我等需要一种装置及方法使得程序员得以命令微处理器执行预取资料，此资料是处于不需求助于总线作业以取得资料的排他所有权，而可被随后的运算所改动的状态。
除此之外，我等亦需要一种装置及方法使得程序员得以命令微处理器将被已排他的预取的数据初始化(initialize)。

发明内容
本发明如同前述其它申请案，是针对上述及其它现有技术的问题与缺点加以克服。本发明提供一种更好的技术以预取一区段的高速缓存资料，其状态是为使得隐含的储存运算可立刻被公告以便该区段的资料被初始化成一指定数值。在一具体实施例中，提供一种组态为配置与初始化内存中一区段的资料的微处理器装置。该装置包括转译逻辑与执行逻辑。转译逻辑将一区段配置及初始化指令转译成一微指令序列，此微指令序列是用以命令微处理器预取处于排他状态的一区段的快取线，并且将此区段的快取线初始化成一指定数值。执行逻辑是耦接至转译逻辑。该执行逻辑接收前述微指令序列，然后经由内存总线发出作业，要求处于排他状态一个区段的快取线，并且将此区段的快取线初始化成一指定数值。
本发明的一个目的是提供一种微处理器装置以执行区段配置与初始化运算。此装置包含一区段配置与初始化指令及一转译器。该区段配置与初始化指令命令微处理器预取处于排他状态的一个区段的快取线，并且将此区段的快取线初始化成一指定数值。转译器则是接收区段配置与初始化指令，并将此区段配置与初始化指令转译成相关的微指令，此相关的微指令命令在微处理器内的执行逻辑经由一内存总线发出总线作业，此总线作业是要求此区段的快取线的排他所有权及将此区段的快取线初始化成一指定数值。
本发明的另一目的，在于提供一种配置与初始化一个区段的快取线的方法。此方法包括提取(retrieving)一区段配置与初始化宏指令；转译该区段配置与初始化宏指令成一微指令序列，此微指令序列是用以命令一微处理器预取处于排他状态的一个区段的快取线，并且将此区段的快取线初始化成一指定数值；而且，响应此微指令序列，经由内存总线发出总线作业以读取该处于排他状态的快取线，并且将该区段的快取线初始化成该指定数值。


图1是为一解说当今微处理器的有效管线化阶段的方块2是为一方块图，其描述在如图1所述的微处理器内执行一预取运算的一接口至内存的高速缓存单元图3是为一时脉图，其说明由如图1及图2所述的微处理器所发出，经由内存总线以执行的预取运算的两种可能作业集图4是为本发明的延伸预取指令的方块5是为一表格，其说明如何将如图4所示的延伸预取指令的延伸地址定位字段编码，用以命令微处理器执行预取一处于排他MESI状态的快取线图6是为一方块图，其详述本发明执行意图进行储存运算的预取的一种微处理器图7是为一方块图，其描述在如图6所述的微处理器内执行一意图进行储存运算的预取的一接口至内存的高速缓存单元图8是为一时脉图，为说明本发明由如图6及图7所述的微处理器所发出，经由内存总线以执行意图进行储存运算的预取的总线作业图9是为本发明的延伸区段预取指令的方块10是为一方块图，其描述在如图6所述的微处理器内执行一区段预取及储存运算的一接口至内存的高速缓存单元图11是为一时脉图，为说明本发明由如图6及图10所述的微处理器所发出，经由内存总线以执行一区段预取及储存运算的总线作业图12是为解说本发明用以执行意图进行储存运算的预取方法的流程13是为解说本发明用以执行意图进行储存运算的区段预取方法的流程14是为一表格，其说明如何将如图4所示的延伸预取指令的延伸地址定位字段编码，用以命令微处理器执行一快取线的预取及初始化图15是为一方块图，其描述在如图6所述的微处理器内配置及初始化一快取线的一接口至内存的高速缓存单元图16是为解说本发明用配置及初始化一快取线的方法的流程17是为一方块图，其描述在如图6所述的微处理器内配置及初始化一个区段的快取线的一接口至内存的高速缓存单元图18是为解说本发明配置及初始化一高速缓存数据区段的方法的流程图其中，附图标记说明如下100 管线化微处理器101 提取程序102 转译阶段 103 暂存阶段104 寻址阶段 105 执行阶段106 执行逻辑 107 数据高速缓存108 内存 109 高速缓存总线110 内存总线 120 程序流程120~123 宏指令200 高速缓存单元接口 201 微处理器202 宏指令210 转译器211 微指令220 高速缓存单元221 记录逻辑 222 数据高速缓存223 停滞讯号 230 总线单元240 系统内存总线 241 总线组件总线组件242 数据存储器301~302 作业指令集303~304 总线作业400 延伸预取指令 401 前置码402 预取运算码403 延伸地址指定元600 微处理器 601 提取逻辑
602 指令高速缓存603 指令内存604 指令队列606 转译逻辑607 延伸转译逻辑608 微指令队列609 执行逻辑610 延伸高速缓存单元611 数据高速缓存612 延伸记录逻辑613 总线单元614 数据存储器615 内存总线700 方块图 701 微处理器702 宏指令 710 延伸转译器711 微指令 720 延伸高速缓存单元721 延伸记录逻辑722 数据高速缓存723 停滞讯号730 总线单元740 总线741 总线组件总线组件742 数据存储器800 时脉图 801~802 总线作业900 延伸区段预取指令901 前置码902 重复前置码 903 预取运算码904 延伸地址指定元1000 方块图 1001 微处理器1002 宏指令 1010 延伸转译器1011 微指令序列 1012 架构缓存器1013 影子计数缓存器 1020 延伸高速缓存单元1021 延伸区段记录逻辑1022 数据高速缓存1023 停滞讯号1030 总线元1040 内存总线1041 总线组件总线组件1042 数据存储器1100 时脉图 1101~1102 总线作业1200~1220 意图进行储存运算的预取的方法的流程1300~1328 意图进行储存运算的区段预取的方法的流程
1500 方块图 1501 微处理器1502 宏指令 1510 延伸转译器1505 架构缓存器 1511 微指令1520 延伸高速缓存单元1521 延伸记录逻辑1522 数据高速缓存1523 停滞讯号1530 总线单元1540 系统内存总线1541 总线组件总线组件1542 数据存储器1600~1622 外取线配置与初始化的方法的流程1700 方块图 1701 微处理器1702 宏指令 1710 延伸转译器1705 架构缓存器 1711 微指令1712 架构缓存器 1713 影子计数缓存器1720 延伸高速缓存单元1721 延伸区段记录逻辑1722 数据高速缓存1723 停滞讯号1730 总线单元1740 内存总线1741 总线组件总线组件1742 数据存储器1800~1830 高速缓存数据区段配置与初始化的方法的流程具体实施方式
以下的说明，是在一特定实施例及其必要条件的脉络下而提供，可使一般本领域技术人员能够利用本发明。然而，各种对该较佳实施例所作的修改，对本领域技术人员而言乃是显而易见，并且，在此所讨论的一般原理，亦可应用至其它实施例。因此，本发明并不限于此处所展出与叙述的特定实施例，而是具有与此处所揭露的原理与新颖特征相符的最大范围。
前文已针对今日的管线化微处理器如何执行预取运算，作了背景的讨论，有鉴于此，在图1至3，将呈现一强调今日预取技术的限制的例子。紧接着，在图4至18，将呈现本发明的讨论。本发明使得程序员得以命令微处理器预取处于排他MESI状态的资料至其高速缓存，并且将资料初始化为所规定数值，因此，得以避免因为随后的储存运算执行资料的初始化所造成的任何程序延迟。
请参阅图1，其是一方块图，用以说明在今日管线化微处理器100内的有效管线阶段101-105。此微处理器有一个提取阶段101，一个转译阶段102，一个暂存阶段103，一个寻址阶段104，及一个执行阶段105。
于运作时，该提取阶段101从系统内存的一指令范围120中提取(retrieve)宏指令121-123以供微处理器100执行。该宏指令121-123接着被送至转译阶段102。该转译阶段102将宏指令121-123转译成对应的微指令(或称原生指令)序列(未显示)，此微指令序列是命令微处理器100执行宏指令121-123指定的运算。非常类似于工厂产品在装配线上流经连续的工作站的方式，该微指令亦同步于管线时脉讯号(未显示)的流经在管线中随后的阶段103-105。根据前述方式，微指令被送至暂存阶段103。如果有一特定微指令指定一操作数被储存于暂存阶段103的缓存器内，则逻辑在那一点上可存取该缓存器以提取该操作数，并且将的随同该特定微指令一起送至寻址阶段104。寻址阶段104包含用以产生地址以存取储存在数据存储器108内的操作数的逻辑。相似于暂存阶段103，该寻址阶段104亦将所产生的地址，随着相应的微指令，传送至执行阶段105。
执行阶段105执行该微指令所指定的运算。在当今的微处理器100，运算的型式是由指令集架构(instruction set architecture)所决定，但是本领域技术人员将发现这些运算不会超出一般的范畴，例如逻辑运算，算术运算，及内存存取运算(换言之，资料读取与资料写入运算)。由执行指定的运算所产生的结果，若不是储存于暂存阶段103的缓存器内，即是被写入到数据存储器108内的存储位置。
本领域技术人员将发现今日的管线化微处理器100也许会有比图1的101-105更多的阶段，因为，经由分解管线中的主函数以增加管线中阶段的数目是一种经证实可增加管线(pipeline)中指令121-123的产出量的技术。为了简明起见，如图1所示的当今微处理器100的管线化阶段101-105已经足以说明先前技术的缺点，而不需以不相关的细节增加读者的负担。
值得注意的是在当今微处理器100中，其执行阶段105除了有一数据高速缓存107之外，还有执行逻辑106。该数据高速缓存107的运作是与在管线化阶段101-105中指令的执行平行，此运作方式确保那些有高度可能性被一应用程序的指令121-123所存取的数据已经存在于高速缓存107，因此当数据存取微指令(换言之，加载内存或储存内存微指令)进行到执行阶段105时，该执行逻辑106能够在一或两个管线时脉周期之内执行该资料的存取，而不是造成可能数以百计的时脉周期的程序延迟，只因为等待经由内存总线110到数据存储器108以执行该资料的存取。在一有效率的高速缓存系统组态中，资料的加载与储存绝大部份发生在经由高速缓存总线109的执行逻辑106与数据高速缓存107之间，并且数据高速缓存107的运作方式是相对的透明于流经管线化阶段102-105的微指令流程，此运作方式确保资料实体的快取副本与系统内存108是同步且一致的。
MESI(修改，排他，共享，无效)(modified，exclusive，shared，invalid)是个普遍使用的协议，此协议是用以在一系统组态的内存108的共享区域内确保其高速缓存项目的一致性。虽然并未在图一中描述，但是为了使用同一资料运算的目的，在一计算机系统组态中的其它组件(未显示)是可以共享内存108的一些区域。举例而言，视频卡可以与微处理器100共享内存108的一个区域，以便于存取微处理器100所产生的监视器显示资料。另一例则是在系统总线110上的多重组件可以经由从数据存储器108中的共享区域的资料读取及资料写入来彼此连络。架构性研究的详细叙述以提供使用MESI协议的动机并不在本发明的应用领域；此处只需了解MESI在确定系统内存108与区域高速缓存结构107之间资料的一致性的普遍应用。
因为经由内存总线110的作业需要数以百计的时脉周期才能完成，所以资料被以包含数个字节的区段形态在数据高速缓存107中移进及移出。这些区段称为快取线。虽然快取线行宽(换言之，快取线的字节大小)会因不同的架构而改变，在今日的系统架构非常常见的有32-字节行宽，或64-字节行宽，或甚至128-字节行宽。
即使是最有效率的高速缓存结构107在从内存108，经由内存总线110，到高速缓存107的进行资料转移，不可避免地会有所延迟。但是在提供一快取线给高速缓存107之后，其随后的对该快取线内的数据实体的存取即不会发生重大的延迟，因为高速缓存107及其高速缓存总线109的速度是与微处理器100内其它逻辑的速度(例如执行逻辑106)相近的。
依照MESI协议，在区域资料高速缓存107内的快取线可处于下述任一四种状态中修改，排他，共享，及无效。一修改状态的快取线是指在该快取线上执行一区域储存运算后，但是尚未与主存储器108同步化的快取线。监测来自其它组件(亦称为总线组件的经由其内存总线110的内存作业是区域高速缓存107的责任，因此如果总线组件从一修改状态的快取线要求资料，则区域高速缓存107会将该修改过的资料送至该要求资料的总线组件。此种对总线110的监测称为总线窥视模式(bus snooping)。一排他状态的快取线是指其区域高速缓存107可以在该快取线上执行储存运算的快取线。排他状态暗示其区域高速缓存107拥有对该快取线的排他所有权；微处理器100因此被许可修改其内容。一共享状态的快取线是指存在于两个或数个在总线110上组件的区域高速缓存107内的快取线。因此，任一组件均可从共享的快取线读取资料，但均不被许可去修改其内容。为能在共享的快取线上修改资料(换言之，执行储存运算)，在修改其内容之前，组件100需先经由内存总线110与其它组件实施适当的作业以取得该快取线的排他所有权(换言之，读取处于排他MESI状态的快取线到其区域高速缓存107)。一旦取得该快取线的排他所有权，即可执行储存运算，并且将该快取线状态变更为修改状态。在公告(posting)储存运算之前，先行要求快取线的排他所有权可以保证资料的一致性，因为在任一时间点，均只有一个组件100可以修改其快取线的内容。当区域高速缓存107侦测到(经由窥视模式)经由内存总线110至其快取线的写入作业，或是当另一组件经由内存总线110发出总线作业以取得该快取线的排他所有权时，该快取线状态即变更为无效状态。将一快取线标示为无效表示其内的资料与内存108不一致而无法被读取或写入。
因为一高速缓存107的运作是与在微处理器管线中的指令流程平行，在程序流程120中，设计者需在资料的存取被要求之前，先提供预取宏指令122以加载该数据到一高速缓存107，因此得以克服资料必须起始的从内存108提取至高速缓存107所导致的延迟的缺点。在程序流程120中通常有一预取指令122以命令其区域高速缓存107从内存108加载一快取线，而此预取指令122与随后指令的执行是平行的，因此当程序流程120的指令123要从该快取线存取资料的时候，该快取线已经存于其高速缓存107中。在图一的例子中，一预取指令122，PREFETCHTO[EAX]，命令由缓存器EAX的内容所定位的快取线被加载到高速缓存107，使得其内容可被随后的资料存取指令123，MOVEBX，[EAX]，在数据流120中被执行时所使用，此数据存取指令123命令微处理器100从由缓存器EAX指定的地址读取资料，并且将之移至缓存器EBX。因为x86指令已被广泛的认知，为了简明起见，传统上前述数据流120内的预取指令122及数据存取指令123的描述是根据x86的指令集架构。但是本领域技术人员将发现，在许多其它的指令集架构亦提供预取指令122以命令微处理器100从内存108读取一快取线至一区域高速缓存107，使得随后的指令123从该快取线执行一指定的资料读取运算不会发生延迟。如果预取指令是很明智的置于数据流120内，则可以有效率的克服因为在高速缓存107的起始存取资料所造成的延迟，而因此显著的改进程序的执行速度。当完成预取运算的一经由内存总线110的作业后，其所需求的快取线不是以排他状态(若是该区域高速缓存107拥有该快取线的唯一快取副本时)，即是以共存状态(若是其它组件亦拥有该需求快取线的快取副本时)存在于高速缓存107内。不论其在那一状态，在该快取线内的数据实体是可被立即读取(read)存取的。但是如前述所指明，为将资料写入到一快取线(换言之，执行一储存运算)，需要拥有该快取线的排他所有权。因此，如果该预取运算导致快取处于排他状态的快取线，则一待决的储存即可立刻对此快取线公告。但是若该来自总线110的快取线是于共享状态，则一待决的储存必须被停滞(stalled)，以等待该高速缓存单元107经由总线110发出作业以取得该快取线的排他所有权。在该快取线在排他状态下被送至高速缓存107之后，则该待决的储存即可被公告。
如图2所示，其是为一方块图200，用以描述在图1的微处理器内执行预取运算的一接口至内存的高速缓存单元。该方块图200显示在微处理器201内被应用为执行预取运算的逻辑。该微处理器201内有一转译器210以接受一宏指令流程202并将之转译成对应的微指令211。用以命令对内存242作数据加载及储存运算的微指令211随后即被送到一高速缓存单元220。该高速缓存单元220包括记录逻辑221及一数据高速缓存222。该记录逻辑221是耦接至一总线单元230。该总线单元230是接口到一系统内存总线240，该系统内存总线并且与系统内存242及其它总线组件241耦接。
宏指令的示范流程202说明如何指定一预取运算及如何可在此预取的资料上执行随后的读取与储存运算。一有关于此运算序列在桌上型计算机上的常见范例是内存内计数器的读取及增加。一序列的预取，读取，及储存运算需要既可以在快取线内读取资料，也可以在快取线内修改资料。因此，示范流程的第一个宏指令202，PREFETCH[EAX]，命令微处理器201去预取一地址对应于缓存器EAX内容的快取线。第二个宏指令202，MOV EBX，[EAX]，命令微处理器201去读取一地址为缓存器EAX所指定的内存位置的内容，并将该内容写入缓存器EBX。第三个宏指令202，INC EBX，命令微处理器201增加缓存器EBX的内容。第四个宏指令202，MOV EAX，[EBX]，命令微处理器201在对应于缓存器EAX内容的内存位置上储存该缓存器EBX的内容。上述详细的预取，读取，及储存运算仅仅是增加一个数值到地址由缓存器EAX所指定的内存。值得注意的是为了要有效率的利用该预取指令202，必须在第二个宏指令202，MOV EBX，[EAX]，之前提供充分的该预取指令202，使得因为加载由EAX的内容所指定的快取线的所造成的延迟，可以被中介的宏指令202的平行执行所吸收。但是，为了简明起见，该中介的宏指令202并未在方块图200中叙述。
转译器210将该预取宏指令202转译成一对应的预取微指令211，PREFETCH[EAX]，然后送到高速缓存单元220。记录逻辑221询问数据高速缓存222以决定所要求的快取线是否已存在并且有效(换言之，即非处于无效状态)于数据高速缓存222内。若答案为否，则该记录逻辑221命令其总线单元230，经由其系统内存总线240，发出作业以从内存242取得所要求的快取线。若其它的总线组件241均无该所要求的快取线的副本时，则该记录逻辑221即将所要求的快取线以排他状态送到资料高速缓存222。若一或数个总线组件241拥有该要求的快取线的区域副本时，则该记录逻辑221即将该快取线以共享状态写入到数据高速缓存222。在前述任一状态，该所要求的快取线均存在于高速缓存222内以备随后的存取运算使用。
转译器210将第二个宏指令202转译成一加载微指令211，LD EBX，[EAX]，命令微处理器加载地址为缓存器EAX所指定的内存的内容到缓存器EBX。如前图一所讨论的，微处理器内的执行逻辑(未显示)从高速缓存单元220要求该内存地址的内容。因为该快取线所有的内容，由于预取运算的结果已经存在于该资料高速缓存222中，所以市立即可用并且加载微指令211的执行不会有任何延迟。
第三个宏指令202被转译成一对应的增加微指令211，INC EBX，此指令命令执行逻辑将缓存器EBX的内容增加。因为不需要新的资料，所以该加载微指令211不会被送到高速缓存单元220。
最后，在流程中的第四个宏指令202被转译成一储存微指令211，ST[EAX]，EBX，此指令命令执行逻辑去执行一资料储存运算，以将缓存器EBX的内容写入到地址由缓存器EAX内容所指定的内存位置。该储存微指令211从而以待决的储存运算型式被送到其高速缓存单元220。于是，记录逻辑221侦测到以待决的储存运算为目标的快取线存在于该资料高速缓存222。若该快取线是处于排他状态，则此待决的储存可立刻被公告并将该快取线的状态变更为修改状态。另一方面，若该快取线是处于共享状态，则该高速缓存单元220确定一停滞讯号223以暂停该微指令211在微处理器201的管线阶段中的进行，同时该执行逻辑221则命令其总线单元230，经由其内存总线240，执行作业以取得该快取线的排他所有权。一旦取得排他所有权，则可许可待决的储存对该快取线公告其资料，并且终止停滞讯号，从而继续程序的执行。
现在考虑一种运算型式只是单纯的写入资料到内存中而不需先读取资料，或是一种运算型式是会先读取数据，但是此型式确定预期有一储存运算会随后被公告。在这些案例中，只有对那些须先读取资料的案例执行预先的预取指令是确定可以将程序延迟减到最小。并且在这种案例中，若预取的结果使所要求的快取线处于排他状态，则可排除因储存运算所导致的程序延迟。但是若预取的结果使所要求的快取线处于共享状态，则因储存运算所导致的程序延迟将不可避免。这是个问题，因为今日的指令集架构并未提供一方法以命令微处理器201去排他的预取一快取线到数据高速缓存222。虽然响应一预取运算的快取线可以是排他的，但是此状态并不能保证。这是因为预取宏指令架构化的推定其预取的资料是会被读取，并且其结果的经由系统总线的作业要求该快取线被提取，不论其是否处于共享状态。举例来说，在x86架构中，一x86预取指令的执行结果的经由总线240发出的作业作业是一资料读取运算。该资料读取运算要求一快取线的副本，并不管其是处于何种状态。
现请参阅图3，其显示一时钟脉冲图，用以描述由图1及图2所示的微处理器201所发出的两个可能的总线作业集301，302，此总线作业是经由内存总线240发出以执行一预取与随后的储存运算。此二作业集301，302包括在微处理器201内的从总线单元230到内存总线240的请求作业303，与同样在微处理器201内从内存总线240回到总线单元230的响应作业304。作业集301描述那些当响应一预取运算的快取线是排他状态时所执行的作业303-304。作集302描述那些当响应一预取运算的快取线是共享状态时所执行的作业303-304。如同图2所述，当执行一预取指令时，记录逻辑221命令其总线单元230对其内存总线240发出一资料读取请求303，DATA READ[EAX]，要求被缓存器EAX所指定的快取线被送到其区域高速缓存222。该数据读取请求303在作业集301是于时间点A发出，在作业集302则是于时间点D发出。该内存总线240于是响应发出一包括该所要求的快取线的资料响应请求304回到总线单元230。若该快取线是在排他状态，则在作业集301的资料响应请求304，DATA RESP[EAX].E，在时间点B被送回到总线单元230。若该快取线是在共享状态，则在作业集302的资料响应请求304，DATA RESP[EAX].S，在时间点E被送回到总线单元230。在这时，数据可从高速缓存222读取而不会导致总线作业延迟。
当一随后的储存运算面对该上述作业提供的快取线时，作业集302的场景说明为了能公告该储存运算所必然发生的作业303，304。在作业集301中，因为快取线起始即是排他状态，欲公告该储存运算只须在时间点C发出一资料写入作业303，DATA WRITE[EAX]，经由总线240将资料写入到内存242。但是如作业集302所示，在时间点H的资料写入作业303可以被发出之前，必须先执行时间点F及G的作业303及304，以便能将快取线的所有权状态由共享提升到排他。在时间点F，总线单元230发出一资料读取与无效请求303，DATAREAD/INV[EAX]，用以要求该共享状态快取线的排他所有权。在数百时脉之后的时间点G，从总线240接收到一响应请求304，DATA RESP[EAX].E，以将该快取线的状态升级到排他状态。在时间点G接收到响应请求304之后，然后在时间点H该资料写入作业303始可对总线240公告。
值得注意的是图3中的作业集301，302是以一般性的方式表示，因为不同的微处理器架构应用不同的语义来说明总线作业303，304。除此之外，值得注意为了简明起见，在图3的时脉图中已经省略了先取得对数据总线240存取(例如BUS REQUEST，BUS GRANT等等)的所有的作业。
今日的发明者观察到当今的数据预取指令受限于其并不支持确定预期的储存运算，因此无法因为明确意图进行对该快取线执行一储存运算而有利的预取一快取线到高速缓存222-一意图进行储存运算的预取-不论该快取线内容的读取是否先于对该快取线公告一储存运算。若细查作业集302中的作业303，304，很明显的预取一处于共享状态的快取线，只有在该快取线的读取会早于对其公告一储存运算的情况下才有帮助。若是一储存运算将对该共享的快取线公告，则程序的执行必须被延迟以便将该快取线的状态从共享提升到排他。
程序员虽然了解今日预取指令的限制，然而仍应用它们为作意图进行储存情况下的预取，因为此预取指令可能(有时而非时常)于响应一资料读取请求时，取得一快取线的排他所有权，仅只因为无其它总线组件拥有该要求的快取线的副本。但是，更理想的情况则是避免预取一处于共享状态的快取线，而是命令一微处理器201去预取一处于排他状态的快取线。本发明是指向一种装置与方法，用以预取一处于排他MESI状态的一单一快取线与一多重快取线，并且随意的初始化该预取的快取线成一指定数值。本发明现将参照图四至图十八进行讨论。
请参阅图4，其是为依据本发明以显示一延伸预取指令400的方块图。该延伸预取指令包括一选用的多重前置码实体401，其后为一预取运算码402，其后则为一延伸地址指定元403。在一具体实施例中，每一个前置码及延伸地址实体401，403都是8位大小，而预取运算码实体402则为一或二个字节大小，除非本文中另行修订，所有的实体401-403均与x86的指令集架构一致。
在运作上，该预取运算码402是为一指定运算码数值，用以命令一相符的微处理器执行一预取运算。在一x86的具体实施例中，其运算码实体401的指定数值为OF18H。一个或数个选用的前置码实体401可用来命令一相符的微处理器执行某些类型的附加运算，例如由一计数器界定次数的重复运算(例如在x86架构中的REP前置码)，迫使执行一原子运算(例如在x86架构中的LOCK前置码)等等。延伸地址指定元403是用以指定该特定类型的预取运算的执行。在一x86的具体实施例中，所熟知的延伸地址指定元403是ModR/M字节403。
依据本发明，当微处理器侦测到一预取宏指令400时，依照由延伸地址指定元403内容所指定的指示数值，该微处理器被命令去执行从内存预取资料到高速缓存，其范例将在图五中进行讨论。
图5是一表格500，其为图4的延伸预取指令内的延伸地址指定元字段403的一具体实施例，解说依据本发明该延伸地址指定元字段403如何编码以命令微处理器执行预取一处于排他MESI状态的快取线。为了说明本发明起见，此处使用符合x86架构的ModR/M位字段，但是，可以预期的是本发明包含任何提供将一预取-排他指示编码到指令400的工具的架构。虽然图五的例子指向将预取-排他(或是意图进行储存的预取)指示编码到一延伸地址指定元403，本领域技术人员将发现该预取指示也可以被编码成一在运算码字段401内的一指定运算码数值。
在此编码范例中，一x86 ModR/M字节使用该ModR/M字节的53位编码一由预取运算码401所指定型式的预取运算。今日，该x86预取指令使用数值000，001，010，及011以规定意图进行读取运算的预取指示。所有这四个数值000-011为命令一x86微处理器，在不同程度的接近度下，预取数据到其高速缓存。举例来说，一个TO指示(换言之，数值001)，命令微处理器预取一快取线到高速缓存层级体系的所有层级，而一NTA指示命令微处理器预取一快取线到一非暂时性高速缓存结构，并且进入一接近处理器的位置，同时将高速缓存污染减至最低程度。但是x86预取指示000-011编码的普遍特征是一经由总线发出的资料读取请求以要求一快取线的副本，并不会在乎该快取线是处于何种MESI状态。本发明的一具体实施例将一额外的指示编码进延伸地址指定元中，用以命令微处理器依据本发明利用一排他(.S)指示去预取一指定的快取线。图5显示一用x86 ModR/M字节的53位编码成数值100的预取-排他指示。当该prefetch.s指示依据本发明编码到一预取指令400时，则一相符的微处理器会被侦测到经由一内存总线发出作业以预取处于排他MESI状态的资料。在一x86的具体实施例中，如前述图3B所示，其响应于预取指令400的prefetch.s指示而发出的特定作业是一资料读取与无效作业。在图3B的例子中，该数据读取与无效作业是用以将快取线从共享状态提升至排他状态。
在x86指令集架构中，数值100的53位编码在此的前是被宣告为非法的，同表格500中数值101-111的53位编码所示。一非法的ModR/M字节编码造成一异常。但是依据本发明，在一x86的具体实施例中，该改善一预取-排他指示的额外编码是合法的，并且将导致前述的总线作业预取一处于排他状态的快取线。
众人皆知因为高速缓存结构与内存间的互动是不存在于微处理器管线的指令流程中，所以预取指令400只能要求的预取是依据所提供的指示来执行。若一快取线现在并不被内存存取所占用时，则可执行预取运算。但若一快取线正被占用，则预取运算须被推迟。
现请参阅图6，其是一方块图，详述依据本发明的执行一意图进行储存运算的预取的微处理器600。该微处理器600有三个值得注意的阶段范畴提取，转译，及执行。在提取阶段的提取逻辑601是用以从一指令内存603中提取宏指令到一指令高速缓存602。该被提取的宏指令然后经由一指令队列604被送到转译阶段。该转译阶段的转译逻辑606是耦接至一微指令队列608。该转译逻辑606包括延伸转译逻辑607。执行阶段的执行逻辑609包括一延伸高速缓存单元610。该延伸高速缓存单元610有一数据高速缓存611，此数据高速缓存611是耦接至延伸记录逻辑612。该延伸记录逻辑612是耦接至一总线单元613。该总线单元613是耦接至一数据存储器614。
在运作上，提取逻辑601依据本发明从指令内存603中提取格式化的指令到指令高速缓存602，然后将此宏指令依执行顺序送到指令队列604。该宏指令被从指令队列604提取后，被送到转译逻辑606。该转译逻辑606将每一送到此处的宏指令转译成对应的微指令序列，该微指令序列是用以命令微处理器600执行由该宏指令所指定的运算。延伸转译逻辑607则依据本发明去侦测延伸预取宏指令，并且为将其转译成对应的延伸前置码及地址指定元实体作准备。在一x86的具体实施例中，该延伸转译逻辑607被组态成侦测一x86预取指令，并且依据图4及图5所述的常规将该x86预取指令的ModR/M字节转译成一预取微指令序列，该序列是用以命令微处理器600去排他的预取一快取线到数据高速缓存611。
该微指令然后从微指令队列608传送到其执行逻辑609，在该执行逻辑中的延伸高速缓存单元610则依据本发明被组态为执行一排他的预取运算。当该执行逻辑609执行一预取微指令序列时，其延伸记录逻辑612命令总线单元613，经由内存总线605，发出作业到内存614要求在排他的MESI状态下预取一指定的快取线到数据高速缓存611内。
本领域技术人员将发现图6所描述的微处理器600只是一个依据本发明所简化之后的一管线化微处理器600的代表。事实上，如前所述，今日的管线化微处理器包含许多管线阶段。但是这些阶段均可被概括的归纳成如图6的方块图所示的三个阶段群组，因此图6的方块图可视为实现上述本发明的具体化所需的必要成分的说明。为了简明起见，凡微处理器600中无关于本发明的成分均不在此描述。
请参阅图7，其是为一方块图700，用以描述在图6的微处理器内执行一预取与储存运算的一接口至内存的高速缓存单元。该方块图700显示在微处理器600内被应用为执行预取运算的逻辑。微处理器701的延伸转译器710接收宏指令流702，并将该宏指令流702转译成对应的微指令711。微指令711在命令对内存742做数据加载与储存运算之后，随后即被送到一延伸高速缓存单元720。该延伸高速缓存单元720包括延伸记录逻辑721及一数据高速缓存722。该延伸记录逻辑721是耦接至一总线单元730。该总线单元730是接口至一系统内存总线740，此系统内存总线740又与数据存储器742及其它总线组件741耦接。
宏指令的示范流程702说明如何指定一预取指令及如何可在此预取的资料上执行随后的读取与储存运算。如同图2的叙述，一有关于此运算序列的桌上型计算机的常见范例是内存内计数器的读取及增加。但是与图1及图2的微处理器201不同的是，当依据本发明的一微处理器701被命令去排他的预取一快取线时，不论此预取的资料是否会被中介的指令读取，均可有效率的消除会关连到随后的储存运算的总线作业延迟。在图7的宏指令的示范流702中预期一资料读取运算发生早于在预取的资料上执行一储存运算，但是本领域技术人员将发现，没有此一中介的资料读取运算，资料也可以被排他的预取且随后的被写入。
因此，示范流程的一延伸预取指令702，PREFETCH.S[EAX]，命令微处理器701去排他的预取其地址对应于缓存器EAX内容的快取线。第二个宏指令702，MOV EBX，[EAX]，命令微处理器701去读取一地址为缓存器EAX所指定的内存位置的内容，并将该内容写入缓存器EBX。第三个宏指令，INC EBX，命令微处理器701增加缓存器EBX的内容。第四个宏指令，MOV EAX，[EBX]，命令微处理器701在对应于缓存器EAX内容的内存位置上储存缓存器EBX的内容。值得注意的是为了要有效率的利用排他预取指令702，PREFETCH.S[EAX]，必须在第二个宏指令702，MOV EBX，[EAX]，之前充分执行排他预取指令702，使得因为加载由EAX的内容所指定的快取线所造成的延迟，可以被中介的宏指令702的平行执行所吸收。但是，为了简明起见，该中介的宏指令202的执行并未在方块图700中叙述。
转译器710将该延伸预取宏指令702转译成对应的排他预取微指令711，PREFETCH.S[EAX]，然将此微指令送到延伸高速缓存单元720。该延伸记录逻辑721询问资料高速缓存722以决定所要求的快取线是否已存在并且有效(换言之，即非处于无效状态)于其数据高速缓存722内。若答案为否，则该延伸记录逻辑721命令总线单元730，经由系统内存总线740，发出作业以从内存742取得该所要求的快取线。若其它的总线组件741均无该所要求的快取线的副本，则延伸记录逻辑721即将所要求的快取线以排他状态送到其数据高速缓存722。若有一总线组件741拥有该要求的处于排他状态的快取线的区域副本时，则依照所应用的特定总线作业协议，此协议窥视在总线740上的作业以请求该快取线并将其区域副本变更成无效。若该区域副本已被修改，则其总线组件将修改的资料写入到其总线740，使得微处理器701可以取得该快取线的排他所有权。若有数个总线共享此快取线，则这些总线组件均将其区域副本变更成无效，使得该快取线可以在排他状态下被送到微处理器701。在上述任一情况，该所要求的快取线均可在在排他状态下被送到高速缓存722，并且可被随后的储存运算所使用。
转译器710将第二个宏指令702转译成一加载微指令711，LD EBX，[EAX]，此微指令是命令微处理器加载地址为缓存器EAX所指定的内存的内容到缓存器EBX。因为意图进行储存运算的预取的结果，该快取线所有的内容已经存在于该资料高速缓存722中，所以该快取线立即可用，并且使得该加载微指令711的执行无任何延迟。
第三个宏指令702被转译成一对应的增加微指令271，INC EBX，此指令是命令执行逻辑将缓存器EBX的内容增加。因为不需要新的资料，所以该加载微指令711不会被送到其延伸高速缓存单元720。
最后，在流程中的第四个宏指令702被转译成一储存微指令711，ST[EAX]，EBX，此指令命令执行逻辑去执行一资料储存运算，以将缓存器EBX的内容写入到地址由缓存器EAX内容所指定的内存位置。该储存微指令711从而以待决的储存运算型式被送到其高速缓存单元720。于是，记录逻辑721侦测到以待决的储存运算为目标的快取线存在于其资料高速缓存722，并且由于排他的预取的结果，该快取线是处于排他状态。因此该储存可不被延迟的立刻被公告。与图2的微处理器201不同的是，依据本发明的延伸高速缓存单元720不需确立一停滞讯号723以公告该待决的储存，因为该目标快取线已被排他的预取。
现请参阅图8，其显示一时脉图800，用以描述依据本发明由图6及图7所示的微处理器所发出的总线作业集801，802，此总线作业是经由内存总线740以执行意图进行预取的储存运算。此二作业集801，802包括在微处理器701内的从总线单元730到内存总线740的请求作业801，与同样在微处理器701内的从内存总线740回到总线单元730的响应作业802。时脉图800是描述当一被要求且处于排他状态的快取线，是为依据本发明的预取-排他宏指令所指定的意图进行储存运算的预取的响应时，所执行的作业集801，802。根据上面的叙述，当执行一预取-排他指令时，延伸记录逻辑721命令其总线单元730对其内存总线740发出一资料读取与无效请求801，DATA READ/INV[EAX]，要求将被缓存器EAX所指定的快取线以排他的MESI状态送到其区域高速缓存722。该数据读取与无效请求801是于时间点A发出。若所要求的快取线是处于排他的MESI状态，则在时间点B，该内存总线740响应发出资料响应请求802，DATA RESP[EAX].E，回到总线单元230。在这时，一储存运算的数据可从该高速缓存222读取或写入到该高速缓存222，而不会导致总线作业延迟。
同图3所示，图8中的作业集801，802是以一般性的方式表示，因为不同的微处理器架构应用不同的语义来说明总线作业801，802。图8中描述的作业集801，802大体上依照x86的惯例，但此描述只是意图进行说明本发明。此惯例并不会限定本发明只适用于此特定指令集架构。除此之外，值得注意的是，为了简明起见，在时脉图800中已经省略了为先取得对数据总线740的存取(例如BUS REQUEST，BUS GRANT等等)的所有的作业。
本发明不只是考虑排他的预取一单一快取线，同时也包含需修改一个区段的资料的情况。因此，图9至图11将具体指向排他的预取一个区段的资料的讨论。
请参阅图9，其为依据本发明用以显示一延伸区段预取指令900的方块图。该延伸区段预取指令900包括一选用的多重前置码实体901，其一为一重复前置码901。该前置码实体901之后为一预取运算码902，其后则为一延伸地址指定元903。在一具体实施例中，每一个前置码及延伸地址实体901，903都是8位大小，而预取运算码实体902则为一或二个字节大小，除非本文中另行修订，所有的实体901-903均与x86的指令集架构一致。在此具体实施例中，该x86的重复前置码(REP)901被用来标示一区段预取运算。
在运作上，该预取运算码902为一特定运算码数值，此特定运算码数值是用以命令一相符的微处理器执行一预取运算。在一x86的具体实施例中，运算码实体901的特定数值为OF18H。延伸地址指定元903是用以指定执行该特定类型的预取运算的执行。在一x86的具体实施例中，该延伸地址指定元903是ModR/M字节903。
同图4所示，依据本发明，当微处理器侦测到一预取宏指令900时，该微处理器被命令依据由延伸地址指定元403内容所指定的指示数值，去执行从内存预取资料到高速缓存。图5的编码范例也适用于描述在区段延伸地址指定元903的前置码指示的编码。但是若微处理器在该延伸预取指令内侦测到一重复前置码901，则微处理器会试图预取一指定数量在排他状态下的快取线到其区域高速缓存内，而此快取线的数量是由微处理器内的一架构缓存器指定。在一具体实施例中，快取线的数量是由x86兼容的微处理器内的缓存器ECX所指定。
请参阅图10，其是为一方块图1000，用以描述在图6的微处理器600内执行区段预取与储存运算的一接口至内存的高速缓存单元。图10的微处理器1001内的组件的认证与运算类似于图7的微处理器701内的相似组件，只要将图7的百位数图号7用10来取代即可。为依据本发明以改进此区段预取运算，本发明使用一延伸转译器1010将有一重复前置码1002的延伸预取运算转译成微指令序列1011，用以命令执行一排他区段预取运算。除此之外，亦使用一影子计数缓存器1013以加载自架构缓存器内的1012被预取的快取线的数量计数。并且使用延伸区段记录逻辑(extended block fill logic)1021以命令其总线单元1030要求排他的预取该指定区段的快取线，并将之送到其数据高速缓存1022。
为初始一排他的区段预取运算，第一个宏指令1002，MOV ECX，COUNT，是用以将架构缓存器ECX内被排他的预取的区段内的快取线的数量计数初始化。延伸转译器1010将该第一个宏指令转译成加载微指令1011，LDECX，COUNT，此微指令命令微处理器将计数(count)加载ECX。当该计数被加载到ECX后，此计数亦被透明的复制到影子计数缓存器1013，SHECX。同时，其它的指令1002则可在不干扰到预取运算的计数的情况下，修改其架构缓存器1012。
在计数被初始化之后，该延伸转译器1010转译一延伸区段预取指令1002，REP.PREF.S[EAX]，此指令命令微处理器1001预取被ECX所指定数量的排他状态的快取线到其区域高速缓存，而该被预取的第一快取线的地址是由缓存器EAX所指定。以响应一命令该排他预取运算的微指令序列1011，该延伸区段记录逻辑1021命令其总线单元1030经由其内存总线1040发出总线以要求该地址是由缓存器EAX所指定的处于排他状态的快取线。该记录逻辑1021在接收到这些快取线后，即将之配置到其数据高速缓存1022。一但以排他状态进入到该高速缓存，任一或是全部的被预取的快取线均可被修改而不会造成额外的延迟。
现请参阅图11，其显示一时脉图1100，用以描述依据本发明由图6及图10所示的微处理器1001所发出的总线作业集1101，1102，此总线作业是经由内存总线1040以执行区段预取与储存运算。为解说方便起见，图11范例的是统组态使用32字节快取线。但是，熟习此领域技术者将从下述的例证中发现本发明的应用包括所有可预期的系统组态的快取线行宽。此二作业集1101，1102包括在微处理器1001内的从总线单元1030到内存总线1040的请求作业1101，与同样在在微处理器1001内的从内存总线1040回到总线单元1030的响应作业。时脉图1000是描述当一被要求且处于排他状态的一区段的快取线，是为依据本发明的包括一重复前置码的预取-排他宏指令所指定的意图进行储存运算的一区段预取的响应时，所执行的作业集1001，1002。根据上面的叙述，当执行一区段预取-排他指令时，该延伸记录逻辑1021命令其总线单元1030发出一多重的资料读取与无效请求1101，此请求并且对应于架构缓存器内所指定数量的快取线。该多重的请求包括该快取线区段内的所有快取线的地址，其地址是为架构缓存器EAX的内容所起始指定。虽然该总线请求1101使用递增的地址次序，值得注意的是考虑到传统上不同的内存总线协议，本发明亦包括递减的排序，随机的排序，及参差的排序。第一个资料读取与无效请求1101是在时间点A发出，第二个请求1101是在时间点B发出，以此类推，直到最后的请求在时间点D发出。在许多种架构中，总线请求1102是被标记的，以致于该请求开始于时间点C早于其最后的请求的完成。在时间点C，至少有在该区段内的一快取线是可被一待决的储存所使用。但是，为确保将延迟减到最小，最好是将该区段的快取线的储存运算推延至时间点E，此时所有的响应1102均已到达且处于排他状态。
若所要求的快取线是处于排他的MESI状态，则在时间点B，该内存总线740响应发出一资料响应请求802，DATA RESP[EAX].E，回到其总线元2230。在这时，一储存运算的数据可从其高速缓存222读取或写入到其高速缓存222，而不会导致总线作业延迟。
现请参阅图12，其为描述依据本发明执行一意图进行储存运算的预取方法的流程图1200。
流程开始于方块1202，在此处，依据本发明，一连串的宏指令被送到一指令队列。流程接着进行到方块1204。
于方块1204中，一个随后的宏指令被从该指令队列中提取，并将之送到一延伸转译器。流程接着进行到判断方块1206。
于判断方块1206中，将进行一项检查用以判断该随后的宏指令是否为一延伸预取指令。若答案为是，则流程进行到方块1208。若答案为否，则流程进行到方块1210。
于方块1208中，一被侦测到的延伸预取指令被转译成一意图进行储存运算的预取的微指令序列，此微指令序列是用以命令微处理器去预取处于排他状态的一指定的快取线。流程接着进行到方块1212。
于方块1210中，该宏指令被转译成一对应的微指令序列，此微指令序列是用以命令微处理器去执行一指定的运算。流程接着进行到方块1212。
于方块1212中，一个随后的微指令序列被送到微处理器内的执行逻辑。流程接着进行到判断方块1214。
于判断方块1214中，将进行一项检查用以判断随后的微指令序列是否为一意图进行储存运算的预取的微指令序列。若答案为是，则流程进行到方块1216。若答案为否，则流程进行到方块1218。
于方块1216中，响应意图进行储存运算的预取的微指令序列，总线作业请求被发出到一内存总线以要求一指定快取线的排他所有权。随后该快取线以排他MESI状态被送到微处理器，因此可为储存运算所使用而不会发生因为提升该快取线至可被修改的状态所导致的延迟。流程接着进行到方块1220。
于方块1218中，执行该随后的微指令序列。流程接着进行到方块1220。
于方块1220中，本方法完成。
现请参阅图13，其为描述依据本发明执行一意图进行储存运算的区段预取方法的流程图1300。
流程开始于方块1302，在此处，依据本发明，一连串的宏指令被送到一指令队列。流程接着进行到方块1304。
于方块1304中，一个随后的宏指令被从该指令队列中提取，并将的送到一延伸转译器。流程接着进行到判断方块1306。
于判断方块1306中，将进行一项检查用以判断该随后的宏指令是否为一延伸区段预取指令。若答案为是，则流程进行到方块1310。若答案为否，则流程进行到方块1308。
于方块1310中，一被侦测到的延伸区段预取指令被转译成一意图进行储存运算的区段预取的微指令序列，此微指令序列是用以命令微处理器去预取处于排他状态一指定数量的快取线。流程接着进行到方块1312。
于方块1308中，宏指令被转译成一对应的微指令序列，此微指令序列是用以命令微处理器去执行一指定的运算。流程接着进行到方块1312。
于方块1312中，一个随后的微指令序列被送到微处理器内的执行逻辑。流程接着进行到判断方块1314。
于判断方块1314中，将进行一项检查用以判断随后的微指令序列是否为一意图进行储存运算的预取的微指令序列。若答案为是，则流程进行到方块1318。若答案为否，则流程进行到方块1316。
于方块1316中，执行该随后的微指令序列。流程接着进行到方块1328。
于方块1318中，响应意图进行储存运算的该区段预取的微指令序列，初始一暂时的计数器为数值0以监控将被发出的总线作业的数量，此总线作业是要求一区段的快取线的排他所有权。流程接着进行到方块1320。
于方块1320中，第一快取线地址被指定给第一个资料读取与无效总线作业。该第一快取线地址来自于由该延伸区段预取指令所指定的地址，然后再加上一乘以方块1318的计数的快取线行宽。由于该计数初始为零，所以该第一快取线地址等同于该延伸区段预取指令所指定的地址。流程接着进行到方块1322。
于方块1322中，发出一经由内存总线的资料读取与无效作业以预取该处于排他MESI状态的该第一快取线。流程接着进行到方块1324。
于方块1324中，将该计数增加后，流程接着进行到方块1326。
于判断方块1326中，将进行一项检查用以判断该增加的计数是否等同于被预取的快取线的数量，该快取线线的数量是储存于一影子缓存器(shadowregister)中。若答案为否，则流程进行到方块1320，于其中执行另一个重复(iteration)以提取一下一快取线。若计数等同于该影子缓存器的内容，则发出所有总线作业，同时流程进行到方块1328。
于方块1328中，本方法完成。
现请参阅图14，图14是为一表格500，其为解说依据本发明的另一可选用的延伸地址指定元实体的编码方式，此编码是用以在一区域资料高速缓存内配置与初始化一快取线。请参阅图5中所讨论的一类似编码方式的具体实施例，为了说明本发明起见，此处使用符合x86架构的ModR/M位字段，但是，可以预期的是本发明包含任何支持将一预取与初始化指示编码到一延伸预取指令400的机制的架构。虽然图14的例子指向将该预取与初始化(亦称为配置与初始化)指示编码到一延伸地址指定元403，本领域技术人员将发现该预取指示也可以被编码成一在运算码字段401内的任何未使用指令的一特定运算码数值。
图14中依据本发明的的另一可选用编码方式的具体实施例扩展了微处理器600的能力，使其得以隐含的指定一排他预取的快取线，并且在其上执行储存运算。在此处所讨论的配置与初始化的例子对于改善应用程序的执行速度是非常有用的，因为用以初始化一快取线的储存运算可被完全的从程序流程中排除掉。因此，图14显示三种不同型式的预取与初始化指示，该三种指示使用x86的ModR/M的53位的数值100-110。当任一上述三种预取与初始化指示依据本发明被编码到一预取指令400时，一相符的微处理器将被命令发出经由一内存总线的作业，此作业是用以预取处于排他状态的资料，并且在取得该资料后，即将之初始化成一指定数值。对数值100的编码而言，微处理器被命令将该排他预取的数据初始化成一被架构缓存器所指定的数值，例如一x86处理器的缓存器EAX。对数值101的编码而言，微处理器被命令去清除该预取的资料，也就是说，对该预取的数据执行储存运算以将之设定为逻辑数值零。对数值110的编码而言，微处理器被命令设定该预取的资料，也就是说，对该预取的数据执行储存运算以将之设定为逻辑数值一。如同图5中讨论的具体实施例所示，在一依据本发明的x86具体实施例中，这些编码方式是合法的，并且将会导致该资料读取与无效总线作业去预取一处于排他状态的快取线。
请参阅图15，其是为一方块图1500，用以描述在图6的微处理器内执行预取与初始化运算的一接口至内存的高速缓存单元。在此一具体实施例中，一依据图14所编码的预取与初始化指令的响应是为对一排他预取的快取线执行的储存运算。方块图1500显示在微处理器1500内被应用为执行预取与初始化运算的逻辑。微处理器1501的延伸转译器1510接收宏指令流程1502，并将该宏指令流程1502转译成对应的微指令1511。微指令1511在命令对内存1542做数据加载与储存运算之后，即被送到一延伸高速缓存单元1520。该延伸高速缓存单元1520包括延伸记录逻辑1521及一数据高速缓存1522。该延伸记录逻辑1521是耦接至一总线单元1530。该总线单元1530是接口至一系统内存总线1540，此系统内存总线1540又与数据存储器1542及其它总线组件1541耦接。
宏指令的示范流程1502说明如何依照图5的预取与初始化编码100来指定一预取与初始化运算，及如何对预取的资料执行隐含的储存运算以将之初始化。
因此，转译器1510将一MOV EAX，#INIT宏指令1502转译成一LDEAX，，#INIT微指令，此微指令用以命令微处理器1501将数值INIT加载到架构缓存器EAX1505。该LD EAX，，#INIT被送到执行逻辑(未显示)，此执行逻辑将INIT加载到EAX1505。紧接着，该转译器1510将一在此示范流程内的延伸预取与初始化指令1502，PREF.I[EBX]，转译成预取与初始化微指令1511，PREF.I[EBX]，此微指令是命令微处理器1501去排他的预取其地址对应于缓存器EBX之内容的快取线，并且将该快取线的数值设定成储存在EAX1505内的数值。该预取与初始化微指令1511然后被送到其延伸高速缓存单元1520。在此延伸高速缓存单元1520中，延伸记录逻辑1521询问其数据高速缓存1522以决定该要求的快取线是否已存在于该资料高速缓存722内，并且处于排他状态。若答案为是，则延伸记录逻辑1521将该快取线初始化成EAX1505内的数值。若答案为否，则该延伸记录逻辑1521命令总线单元1530发出经由系统内存总线1540的作业，以从内存1542取得该要求的处于MESI排他状态的快取线。若其它的总线组件1541均无该要求的快取线的副本，则该延伸记录逻辑1521即将该要求的快取线以排他状态送到资料高速缓存1522。若有一总线组件1541拥有该要求的处于排他状态的快取线的区域副本时，则依照所应用的特定总线作业协议，此协议窥视在总线1540上的作业以请求该快取线并将其区域副本变更成无效。若该区域副本已被修改，则其总线组件1541将该修改的资料写入到其总线1540，使得微处理器1501可以取得该快取线的排他所有权。若有数个总线组件1541共享该快取线，则这些总线组件均将其区域副本变更成无效，使得该快取线可以在排他状态下被送到微处理器1501。在上述任一情况，该要求的快取线均可在在排他状态下被送到高速缓存1522，并且可立即被初始化成在EAX1505内的数值。
请参阅图16，其为描述依据本发明对一快取线执行配置与初始化运算方法的流程图1600。
流程开始于方块1602，在此处，依据本发明，一连串的宏指令被送到一指令队列。流程接着进行到方块1604。
于方块1604中，一个随后的宏指令被从该指令队列中提取，并将之送到一延伸转译器。流程接着进行到判断方块1606。
于判断方块1606中，将进行一项检查用以判断该随后的宏指令是否为一延伸预取指令，且此延伸预取指令是编码成对一快取线执行配置与初始化运算。若答案为是，则流程进行到方块1608。若答案为否，则流程进行到方块1610。
于方块1608中，该侦测到的延伸预取指令被转译成一预取与初始化指令序列，此指令序列用以命令微处理器去预取一处于排他状态的指定快取线。在接收到该指定快取线后，即将其内容修改为一指定数值。该指定数值是由该预取与初始化微指令序列内的编码所指定。该编码方式的一具体实施例包括清除该被配置快取线的内容(换言之，将其内容修改为逻辑数值零)。另一该编码方式的具体实施例包括确定(asserting)该快取线的内容(换言之，将其内容修改为逻辑数值一)。又一该编码方式的具体实施例包括将该快取线的内容设定为储存于微处理器中一架构缓存器内的数值。流程接着进行到方块1612。
于方块1610中，该宏指令被转译成一对应的微指令序列，此微指令序列用以命令微处理器去执行一指定的运算。流程接着进行到方块1612。
于方块1612中，一个随后的微指令序列被送到微处理器内的执行逻辑。流程接着进行到判断方块1614。
于判断方块1614中，将进行一项检查用以判断随后的微指令序列是否为一预取与初始化运算的序列。若答案为是，则流程进行到方块1616。若答案为否，则流程进行到方块1618。
于方块1616中，响应该预取与初始化运算的序列，总线作业请求被发出到一内存总线以要求一指定快取线的排他所有权。随后响应此作业，该快取线即以排他MESI状态被送到微处理器。流程接着进行到方块1620。
于方块1620中，延伸记录逻辑依据本发明将在区域高速缓存的排他预取的快取线初始化成所指定的数值。流程接着进行到方块1622。
于方块1618中，执行该随后的微指令序列。流程接着进行到方块1622。
于方块1622中，本方法完成。
图17是为一方块图1700，用以描述在图6的微处理器1701内执行区段预取与初始化运算的一接口至内存的高速缓存单元。图17的微处理器1701内的组件的认证与运算类似于图15的微处理器1501内的相似组件，只要将图15的百位数图号5用7来取代即可。依据本发明以改进此区段预取与初始化运算，本发明使用一延伸转译器1710将一如图9所述的有重复前置码1702的延伸配置与初始化指令转译成微指令序列1711，此微指令序列1711是用以命令执行区段预取与初始化运算。除此之外，亦使用一影子计数缓存器1713，用以加载从架构缓存器1712预取与初始化的快取线的数量计数。并且使用延伸区段记录逻辑1721命令其总线单元1730要求排他的预取一指定区段的快取线，并将之送到其数据高速缓存1722，此外并将这些快取线初始化成依照配置与初始化指令1702所指定的一指定数值。
为初始一区段配置与初始化运算，第一个宏指令1002，MOV ECX，#COUNT，是用以将架构缓存器ECX内被排他的预取的区段内的快取线的数量计数初始化。延伸转译器1710将该第一个宏指令转译成加载微指令1711，LDECX，#COUNT，此微指令命令微处理器将计数加载ECX 1712。当该计数被加载到ECX 1712后，此计数亦被透明的复制到影子计数缓存器1713，SHECX。同时，其它的指令1702则可在不干扰到预取与初始化运算的计数的情况下，修改其架构缓存器1712的内容。
在计数被初始化之后，第二个宏指令1702，MOV EAX，#INIT被送到转译器1710，此宏指令1702是用以命令微处理器1701将一指定数值，INIT，加载到架构缓存器EAX1705。依据本发明的一具体实施例，其包含在EAX1705内容的指定数值将会使得在被预取的快取线区段中的所有快取线均被初始化。此一配置与初始化指令的特定编码方式的具体实施例已于图14中讨论过。其它的具体实施例有清除或设定该区段的快取线，响应这些具体实施例的配置与初始化指令的编码的命令，其延伸高速缓存单元1720内的延伸记录逻辑1721则据以清除或设定该快取线区段。转译器1710将第二个宏指令1702转译成一加载微指令，LD EAX，，#INIT微指令，此微指令用以命令微处理器1701将数值INIT加载到EAX1705。
在将数值INIT加载到EAX1705之后，紧接着，该延伸转译器1710转译一区段配置与初始化指令1702，REP.PREF.S[EBX]，此指令命令微处理器1701预取被ECX所指定数量的处于排他状态的快取线到区域高速缓存，而该第一被预取的快取线其地址是由缓存器EBX(未显示)所指定，并且将该快取线的内容初始化成储存在EAX1705的数值。以响应命令该排他配置与初始化运算的微指令序列1711，该延伸区段记录逻辑1721命令其总线单元1730经由其内存总线1740要求排他的预取一指定区段的快取线，此区段第一快取线地址是由缓存器EBX所指定。记录逻辑1721在接收到这些快取线后，即将之配置到数据高速缓存1722，并将的初始化成由缓存器EAX 1705的内容所指定的数值。
现请参阅图18，其为描述依据本发明执行一高速缓存数据区段配置与初始化运算方法的流程图1800。
流程开始于方块1802，在此处，依据本发明，一连串的宏指令被送到一指令队列。流程接着进行到方块1804。
于方块1804中，一个随后的宏指令被从该指令队列中提取，并将之送到一延伸转译器。流程接着进行到判断方块1806。
于判断方块1806中，将进行一项检查用以判断该随后的宏指令是否为一区段配置与初始化指令。若答案为是，则流程进行到方块1810。若答案为否，则流程进行到方块1808。
于方块1810中，一被侦测到的区段配置与初始化指令被转译成一区段配置与初始化微指令序列，此微指令序列是用以命令微处理器去预取一指定数量的处于排他状态的快取线，并且将该被预取快取线的内容修改成一指定数值。不同的区段配置与初始化运算的具体实施例可类同于如图十六所述的单一快取线的配置与初始化具体实施例，只须稍作如图九所述的重复前置码的修改。流程接着进行到方块1812。
于方块1808中，该宏指令被转译成一对应的微指令序列，此微指令序列用以命令微处理器去执行一指定的运算。流程接着进行到方块1812。
于方块1812中，一个随后的微指令序列被送到微处理器内的执行逻辑。流程接着进行到判断方块1814。
于判断方块1814中，将进行一项检查用以判断该随后的微指令序列是否为一意图进行区段配置与初始化微指令序列。若答案为是，则流程进行到方块1818。若答案为否，则流程进行到方块1816。
于方块1816中，执行该随后的微指令序列。流程接着进行到方块1830。
于方块1818中，为响应该意图进行储存运算的区段预取的微指令序列，将一暂时的计数器初始化成数值零以监测所发出的总线作业请求的数量，该总线作业请求是要求一区段的快取线的排他所有权并将其初始化。流程接着进行到方块1820。
于方块1820中，第一快取线地址被指定给第一个资料读取与无效总线作业。该第一快取线地址来自于由该区段配置与初始化指令所指定的地址，然后再加上一乘以方块1818的计数的快取线行宽。由于该计数初始为零，所以该第一快取线地址等同于该区段配置与初始化指令所指定的地址。流程接着进行到方块1822。
于方块1822中，经由内存总线发出一资料读取与无效作业，用以预取该的处于排他的MESI状态的第一快取线。流程接着进行到方块1824。
于方块1824中，将在区域高速缓存中被预取的快取线初始化成该指定数值。流程接着进行到方块1826。
于方块1826中，将该计数增加后，流程接着进行到方块1828。
于判断方块1828中，将进行一项检查用以判断该增加后的计数是否等同于被预取与初始化的快取线的数量，该快取线线的数量是储存于影子缓存器中。若答案为否，则流程进行到方块1820，于此处再进行另一个重复(iteration)以提取并初始化一下一快取线。若计数等同于该影子缓存器的内容，则发出所有总线作业，同时流程进行到方块1830。
于方块1830中，本方法完成。
虽然本发明及其目的、特征与优点已详细叙述，其它具体实施例仍涵盖在本发明的范围内。例如，在此描述了依照MESI协议时，本发明对于待决的储存运算或消除的(eliminating)储存运算所具有的优点。选择MESI作为本发明的例子是因为其在本技术领域中的广泛应用。但是，值得注意的是本本发明提供预取的资料到一区域高速缓存，其型式或状态使得该资料可立即被修改，而不需发出作业到内存总线。该型式或状态是否依照MESI并不重要。
如前所述，不同的架构使用不同的快取线行宽。在桌上型计算机系统中，今日普遍使用32-字节的快取线。但是在本发明中使用的叙述并不限制本发明不能应用于32-，64-，128-，或甚至于256-字节的快取线。相反的，本发明预期可应用在任何限制其区域快取线的修改且不提供直接预取这些快取线的系统架构，以至于该快取线可立即被修改而不必需依靠总线作业以取得修改许可。
此外，本发明使用相符于x86架构的具体实施例作为例证。无疑的，x86-兼容的微处理器可以从应用本发明得到好处，但值得注意的是本发明的应用范畴并不只限于x86-兼容的环境，因为仍有许多不同的架构所应用的预取指令亦不能保证其结果为排他的资料。
最后，值得注意的是，虽然在此处应用一地址指定元以指定被预取的快取线的地址，此种指定方式并不需是显示的(explicit)。一个依据本发明的预取指令的具体实施例可以隐含的(implicitly)指定一包含该地址的架构缓存器，此处是由一先前执行的指令将该地址加载到该架构缓存器。
总之，以上所述者，仅为本发明的较佳实施例而已，当不能以之限定本发明所实施的范围。大凡依本发明权利要求所作的均等变化与修饰，皆应仍属于本发明专利涵盖的范围内。
权利要求
1.一种微处理器装置，其特征在于，是用以执行来自内存的一区段数据的配置与初始化，该装置包含一转译逻辑，组态成将一区段配置及初始化指令转译成一微指令序列，用以命令一微处理器预取处于排他状态的一指定数量的快取线，并且将该指定数量的该快取线初始化成一指定值；以及一执行逻辑，是耦接至该转译逻辑，组态成接收该微指令序列，发出作业至要求处于该排他状态的该指定数量快取线的一内存总线上，并将该指定数量快取线初始化成该指定值。
2.如权利要求1所述的微处理器装置，其特征在于，其中该指定数量的快取线的配置及初始化与在一应用程序内一程序流程的其它指令的执行平行。
3.如权利要求2所述的微处理器装置，其特征在于，其中该指定数量的快取线的配置及初始化消除对应于执行随后的储存运算的程序延迟，要不然即会要求在该程序流程中将该指定数量的快取线初始化成该指定值。
4.如权利要求1所述的微处理器装置，其特征在于，其中该区段配置与初始化指令包含对在一现存指令集内的一现存预取指令的修改，并且其中该现存预取指令原本不提供该指定数量的快取线的配置与初始化。
5.如权利要求4所述的微处理器装置，其特征在于，其中该区段配置与初始化指令包含在一延伸地址指定元实体的一重复前置码与一预取运算码字段，其中该预取运算码字段的一指定数值命令该微处理器将一第一快取线配置与初始化成该指定数值，并且其中该预取运算码字段的其它数值命令该微处理器依照该现存指令集执行其它类型的预取运算。
6.如权利要求1所述的微处理器装置，其特征在于，其中，响应于该微指令序列，该执行逻辑命令一总线单元经由该内存总线发出该些作业。
7.如权利要求6所述的微处理器装置，其特征在于，其中该些作业包含一多重的资料读取与无效作业，该些作业是要求该指定数量的快取线的排他所有权。
8.如权利要求7所述的微处理器装置，其特征在于，其中该第一架构缓存器的内容包含该指定数量，该指定数量是透明的复制到一影子缓存器，并且此处该执行逻辑应用该影子缓存器以计数该多重的资料读取与无效作业。
9.如权利要求1所述的微处理器装置，其特征在于，其中该指定数值是隐含的由该配置及初始化指令的编码方式所指定。
10.如权利要求9所述的微处理器装置，其特征在于，其中该指定数值包含逻辑数值零。
11.如权利要求9所述的微处理器装置，其特征在于，其中该指定数值包含逻辑数值一。
12.如权利要求1所述的微处理器装置，其特征在于，其中该指定数值是由该微处理器内的一第二架构缓存器的内容所提供。
13.如权利要求1所述的微处理器装置，其特征在于，其中，紧接在接收到一处于该排他状态的一个第一快取线之后，该执行逻辑命令延伸记录逻辑将该第一快取线初始化成该指定数值。
14.一种微处理器装置，其特征在于，是用以执行一区段配置与初始化运算，该装置包含一区段配置与初始化指令，是组态成命令微处理器预取处于排他状态的一指定数量的快取线，并且将该指定数量的快取线初始化成一指定数值；以及一转译器，是组态成接收该区段配置与初始化指令，并将该区段配置与初始化指令转译成相关的微指令，在其中该相关的微指令命令在微处理器内的执行逻辑经由一内存总线发出总线作业，用以要求该指定数量的快取线的排他所有权，并且将该指定数量的快取线初始化成一指定值。
15.如权利要求14所述的装置，其特征在于，其中该指定数量的快取线的配置及初始化是与在一应用程序内程序流程的其它指令的执行平行。
16.如权利要求14所述的装置，其特征在于，其中该区段配置与初始化指令包含对在一现存指令集内的一现存预取指令的修改，并且其中该现存预取指令原本不提供该指定数量的快取线的配置与初始化。
17.如权利要求14所述的装置，其特征在于，其中，响应于该相关的微指令，该执行逻辑命令一总线单元经由该内存总线发出该些总线作业。
18.如权利要求14所述的装置，其特征在于，其中该指定数值是隐含的由该区段配置及初始化指令的编码方式所指定。
19.如权利要求14所述的装置，其特征在于，其中该指定数值是由该微处理器内的一第二架构缓存器的内容所提供。
20.一种配置与初始化一区段的快取线的方法，其特征在于，包含提取一区段配置与初始化的宏指令；将此区段配置与初始化宏指令转译成微指令序列，其中该微指令序列是用以命令一微处理器预取处于排他状态的该区段的快取线，并且将该区段的快取线初始化成一指定数值；以及响应此微指令序列，经由内存总线发出总线作业以读取该处于排他状态的快取线，并且将该区段的快取线初始化成该指定数值。
21.如权利要求20所述的方法，其特征在于，其中该发出动作包含许可该微处理器平行的执行该发出与随后的指令。
22.如权利要求20所述的方法，其特征在于，其中该提取包含提供该区段配置与初始化指令作为对在一现存指令集内的一现存预取指令的修改，其中该现存预取指令原本不提供该区段快取线的配置与初始化。
23.如权利要求20所述的方法，其特征在于，更包含依照一第一缓存器的内容来设定在该区段的快取线内的快取线数量。
24.如权利要求20所述的方法，其特征在于，其中该发出动作包含提供经由内存总线的一多重的资料读取与无效作业，此作业是要求该区段的快取线的排他所有权。
25.如权利要求20所述的方法，其特征在于，其中该提取动作包含在该区段配置与初始化指令内隐含的指定一指定数值，该指定数值是用以初始化该区段的快取线。
26.如权利要求20所述的方法，其中该提取动作包含提供该微处理器的一第二缓存器内的该指定数值。
全文摘要
本发明提供一种对内存内一区段的快取线执行排他的预取与初始化的微处理器装置。该装置包含转译逻辑与执行逻辑。该转译逻辑将区段配置与初始化指令转译成一微指令序列，用以命令微处理器预取处于排他状态的一区段的快取线，并且将该区段的该快取线初始化成一指定数值。该执行逻辑是耦接至该转译逻辑。该执行逻辑接收该微指令序列发出作业至要求处于该排他状态区段的快取线的一内存总线上，并且将该区段的该快取线初始化成该指定数值。
文档编号G06F9/38GK1487409SQ03152659
公开日2004年4月7日 申请日期2003年8月5日 优先权日2003年2月11日
发明者罗德尼·E·胡克, 罗德尼 E 胡克 申请人:智慧第一公司