用于图像和视频编解码的高精度变换和量化的制作方法

文档序号:30711860发布日期:2022-07-10 19:22阅读:1328来源:国知局
用于图像和视频编解码的高精度变换和量化的制作方法
用于图像和视频编解码的高精度变换和量化
1.相关申请的交叉引用
2.根据适用的专利法和/或巴黎公约的规定,提出本技术是为了及时要求于2019年9月21日提交的国际专利申请第pct/cn2019/107140号的优先权和权益。出于美国法律的所有目的,上述申请的全部公开内容通过引用并入作为本技术的公开内容的一部分。
技术领域
3.本专利文档涉及视频编解码和解码。


背景技术:

4.尽管视频压缩不断发展,数字视频仍然占据互联网和其它数字通信网络上的最大的带宽使用。随着能够接收和显示视频的所连接的用户装置的数量增加,预计数字视频使用的带宽需求将继续增长。


技术实现要素:

5.装置、系统和方法涉及数字视频编解码,并且具体而言涉及使用高精度变换和量化对视频和图像进行编解码和解码。
6.在一个示例方面,公开一种视频处理方法。方法包括:根据规则执行视频的当前块与视频的比特流表示之间的转换,其中规则指定应用于当前块的变换编解码模式的缩放操作配置为与当前块的尺寸无关。
7.在另一个示例方面,公开一种视频处理方法。方法包括:根据规则执行视频的当前块与视频的比特流表示之间的转换,其中规则指定应用于当前块的变换编解码模式的去量化过程或缩放操作配置为与变换编解码模式无关。
8.在再一个示例方面,公开一种视频处理方法。方法包括:为包括当前块的视频与视频的比特流表示之间的转换,确定该转换包括对当前块的变换的应用,并且基于确定来执行转换,其中与变换相关联的变换系数的缩放过程的比特移位操作是基于当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
9.在再一个示例方面,公开一种视频处理方法。方法包括:执行包括当前块的视频与视频的比特流表示之间的转换,其中当在当前块的残差系数值与当前块的编解码系数之间进行转换时所使用的变换移位是基于当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
10.在再一个示例方面,公开一种视频处理方法。方法包括:为包括当前块的视频与视频的比特流表示之间的转换,确定当前块是使用基于块的差分脉冲编解码调制(bdpcm)模式来编解码的,并且基于确定来执行转换,其中与bdpcm模式相关联的缩放列表被禁用。
11.在再一个示例方面,公开一种视频处理方法。方法包括:为包括当前块的视频与视频的比特流表示之间的转换,确定该转换是通过禁用对当前块的变换的应用来执行的,并且基于确定来执行转换,其中转换包括去量化过程,并且其中在去量化过程之后解码系数
被约束至具有最小值(txmin)和最大值(tsmax)的范围。
12.在再一个示例方面,公开一种视频处理方法。方法包括:为包括当前块的视频与视频的比特流表示之间的转换,确定当前块是使用基于块的差分脉冲编解码调制(bdpcm)模式来编解码的,并且基于确定来执行转换,其中转换包括去量化过程,且其中在去量化过程之后解码系数被约束至具有最小值(bdpcmmin)和最大值(bdpcmmax)的第一范围。
13.在再一个方面,上述方法以处理器可执行的代码的形式来实施并被存储在计算机可读介质中。
14.在再一个方面,公开了配置或可操作为执行上述方法的装置。装置可以包括编程以实现该方法的处理器。
15.在再一个方面,视频解码器设备可以实现本文中所描述的方法。
16.公开的技术的上述或其他方面和特征将在附图、说明书和权利要求书中更为详细地描述。
附图说明
17.图1示出了低频不可分变换(lfnst)过程的示例。
18.图2示出了sbt位置、类型和变换类型的示例。
19.图3是在提出的从属量化的方法中所使用的两个标量量化器的示意图。
20.图4示出了用于提出的从属量化的状态转变和量化器选择的示例。
21.图5是其中可以实现所公开的技术的示例视频处理系统的框图。
22.图6是视频处理的示例硬件平台的框图。
23.图7-图13是视频处理的示例方法的流程图。
具体实施方式
24.所公开的技术的实施例可以应用到现有视频编解码标准(例如,hevc、h.265)和未来标准以改善压缩性能。章节标题用在本文档中来改善说明书的可读性,并且不以任何方式将讨论或实施例(和/或实现方式)仅限制于相应章节。
25.1视频编解码概述
26.本文档涉及图像和视频编解码技术。具体而言,涉及在图像和视频编解码中的变换、去量化和逆向变换。可以应用于像hevc这样的现有视频编解码标准或者待最终确定的标准(通用视频编解码)。也可以适用于未来的视频标准或视频编码器。
27.2初步讨论
28.视频编解码标准主要是通过众所周知的itu-t和iso/iec标准的发展而得以演进。itu-t制作了h.261和h.263标准,iso/iec制作了mpeg-1和mpeg-4 visual标准,并且两个组织联合制作了h.262/mpeg-2视频标准和h.264/mpeg-4高级视频编解码(advanced video coding,avc)标准和h.265/hevc标准。从h.262开始,视频编解码标准基于混合视频编解码结构,其中利用时域预测加变换编解码。为了探索hevc之外的未来视频编解码技术,由vceg和mpeg于2015年联合成立联合视频探索团队(jvet)。此后,jvet采用了许多新方法并将其纳入名为联合探索模型(jem)的参考软件。2018年4月,vceg(q6/16)和iso/iec jtc1 sc29/wg11(mpeg)之间的联合视频专家团队(jvet)成立,致力于vvc标准,目标是与hevc相比降低
50%比特率。
29.2.1变换和量化
30.2.1.1具有高频归零的大块尺寸变换
31.在vtm5中,启用大块尺寸变换,尺寸上多达64
×
64,其主要用于较高分辨率视频,例如1080p和4k序列。对于尺寸(宽度或高度、或者宽度和高度二者)等于64的变换块,高频变换系数归零,使得只保留低频系数。例如,对于m
×
n变换块,其中m为块宽度且n为块高度,当m等于64时,仅保留变换系数的左边32列。类似地,当n等于64时,仅保留变换系数的顶部32行。当变换跳过模式用于大块时,使用整个块而不使任何值归零。
32.2.1.2核心变换的多个变换选择(mts)
33.除hevc中已经采用的dct-ii以外,多个变换选择(mts)方案用于对帧间和帧内编解码块两者进行残差编解码。该方案使用多个从dct8/dst7选择的变换。新引入的变换矩阵为dst-vii和dct-viii。表1示出了选择的dst/dct的基函数。
34.表1-n点输入的dct-ii/viii和dstvii的变换基函数
[0035][0036]
为了保持变换矩阵的正交性,变换矩阵比hevc中的变换矩阵更加准确地被量化。为了保持变换系数的中间值在16比特范围内,在水平变换后和垂直变换后,所有系数要具有10比特。
[0037]
为了控制mts方案,对于帧内和帧间分别在sps级处指定单独的启用标志。当在sps处启用mts时,信令通知cu级标志以指示是否应用mts。在此,mts仅应用到亮度。当满足以下条件时,信令通知mts cu级标志。
[0038]-宽度和高度两者小于或等于32
[0039]-cbf标志等于一
[0040]
如果mts cu标志等于零,则在两个方向上应用dct2。然而,如果mts cu标志等于一,则其他两个标志被附加地信令通知以分别指示水平方向和垂直方向的变换类型。变换和信令通知映射表如表2所示。通过移除帧内模式和块形状的依赖性,使用为isp和隐式mts
所统一的变换选择。如果当前块是isp模式或如果当前块是帧内块且帧内和帧间显式mts开启,则只有dst7用于水平和垂直变换核心两者。当对于变换矩阵精度时,使用8比特主变换核心。因此,hevc中所使用的所有变换核心保持相同,包括4点dct-2和dst-7、8点、16点和32点dct-2。同样,其他包括64点dct-2、4点dct-8、8点、16点、32点dst-7和dct-8变换核心使用8比特主变换核心。
[0041]
表2-变换和信令通知映射表
[0042][0043]
为了降低大尺寸dst-7和dct-8的复杂度,对于尺寸(宽度或高度,或宽度和高度二者)等于32的dst-7和dct-8块,高频变换系数归零。仅保留16x16低频区域内的系数。
[0044]
如在hevc中,可以用变换跳过模式编解码块的残差。为了避免语法编解码的冗余,当cu级mts_cu_flag不等于零时不信令通知变换跳过标志。变换跳过的块尺寸限制与jem4中mts的块尺寸限制相同,这指示变换跳过适用于当块宽度和高度两者等于或小于32时的cu。
[0045]
2.1.3变换系数归零
[0046]
当变换单元是大的时,可能需要大的变换核心,这带来与小变换相比较大得多的复杂度。因此,在当前vvc设计中,当变换单元足够大时,变换系数的某一部分将被设置为0以减少所需的变换尺寸。
[0047]
具体而言,在当前vvc草案中,限定两个变量以反映将保持系数的哪一部分:
[0048]
nonzerow=min(ntbw,(trtypehor>0)?16:32)nonzeroh=min(ntbh,(trtypever>0)?16:32)
[0049]
因此,在二维前向变换之后,只有在x=0..nonzerow-1和y=0..nonzeroh-1的情况可以含有非零系数并且所有其他系数设置为0。
[0050]
我们将nonzerow和nonzeroh表示为宽度和高度的实际变换尺寸,其可以不同于变换单元的宽度(ntbw)和高度(ntbh)。
[0051]
2.1.4低频不可分变换(lfnst)
[0052]
在vtm5中,称为缩减二次变换的lfnst(低频不可分变换)被应用在前向主变换与量化(编码器处)之间以及在去量化与逆向主变换(解码器侧处)之间,如图1所示。在lfnst中,根据块尺寸应用4x4不可分变换或8x8不可分变换。例如,4x4 lfnst应用于小块(即,min
(宽度,高度)<8)和8x8lfnst应用于较大块(即,min(宽度,高度)>4)。
[0053]
图1示出了低频不可分变换(lfnst)过程的示例。
[0054]
如下使用输入作为示例来描述正在lfnst中使用的不可分变换的应用。为了应用4x4 lfnst,4x4输入块x
[0055][0056]
首先表示为矢量
[0057][0058]
将不可分变换计算为其中指示变换系数矢量,并且堤16x16变换矩阵。使用4x4块的扫描顺序(水平、垂直或对角),将16x1系数矢量随后重新组织为该4x4块。具有较小索引的系数将以较小扫描索引放置在4x4系数块中。
[0059]
2.1.4.1缩减不可分变换
[0060]
lfnst(低频不可分变换)基于直接矩阵乘法方法以应用不可分变换,使得该变换在单个通过中实现而无需多次迭代。然而,不可分变换矩阵维度需要缩减以最小化计算复杂度和存储变换系数的存储器空间。因此,缩减不可分变换(或rst)方法用在lfnst中。缩减不可分变换的主要想法是将n(对于8x8 nsst,n是通常等于64)维度矢量映射到不同空间中的r维度矢量,其中n/r(r<n)是缩减因子。因此,除了nxn矩阵以外,rst矩阵变成r
×
n矩阵如下:
[0061][0062]
其中变换的r行是n维空间的r基。rt的逆向变换矩阵是前向变换的转置。对于8x8 lfnst,在vtm5中应用4的缩减因子,并且64x64直接矩阵(该矩阵是常规8x8不可分变换矩阵尺寸)被缩减至16x48直接矩阵。因此,解码器侧处使用48
×
16逆向rst矩阵以在8
×
8左上区域中生成核心(一次)变换系数。当16x48矩阵代替16x64以相同变换集配置来应用时,每一个16x48矩阵在排除右上4x4块的左上8x8块中从三个4x4块取得48个输入数据。通过缩减维度的帮助,用于存储全部lfnst矩阵的存储器使用以合理的性能下降从10kb缩减到8kb。为了进一步减少当由4x4 tu或8x8 tu构成的全部tu时出现在乘法计数方面的复杂度的最坏情况,分别将顶部的8x48和8x16矩阵应用到8x8 tu和4x4 tu。对于大于8x8 tu的块,最坏情况不会发生使得将8x8 lfnst(即16x48矩阵)应用到左上8x8区域。对于8x4 tu或4x8 tu,仅将4x4 lfnst(即16x16矩阵)应用到左上4x4区域。对于4xn或nx4 tu(n≥16),将4x4 lfnst应用于两个相邻左上4x4块的每个。通过上述简化,乘法的最坏情况的数目变成每个样点8个。
[0063]
2.1.4.2 lfnst变换选择
[0064]
在lfnst中,总共使用4个变换集,以及每个变换集2个不可分变换矩阵(核)。如表3
中所示,预定义从帧内预测模式到变换集的映射。对于每个变换集,由显式信令通知的lfnst索引进一步指定选择的不可分二次变换候选。在变换系数之后,在比特流中每个帧内cu信令通知该索引一次。
[0065]
表3变换选择表
[0066]
intrapredmode变换设置索引intrapredmode<010<=intrapredmode<=102<=intrapredmode<=12113<=intrapredmode<=23224<=intrapredmode<=44345<=intrapredmode<=55256<=intrapredmode1
[0067]
2.1.4.3 lfnst索引信令通知和与其他工具的相互作用
[0068]
前向8x8 lfnst使用16
×
48矩阵,使得前向8x8 lfnst仅在给定的8
×
8区域内的左上4
×
4区域中产生非零系数。换言之,如果应用lfnst,则除左上4
×
4区域以外的8
×
8区域仅生成零系数。因此,当在除了左上4
×
4以外的8x8块区域内检测非零元素时不编解码lfnst索引,因为这隐含不应用lfnst。在这样的情况下,lfnst索引推断为零。如果lfnst索引等于0,则不应用lfnst。否则,应用lfnst。此外,lfnst索引是上下文编解码的但是不取决于帧内预测模式,并且只有第一二进制数是上下文编解码的。
[0069]
当满足以下两个条件时,有条件地应用逆向lfnst:
[0070]
a.块尺寸大于或等于给定的阈值(w>=4&&h>=4)
[0071]
b.变换跳过模式标志等于零
[0072]
如果变换系数块的宽度(w)和高度(h)两者大于4,则8x8 lfnst应用到变换系数块的左上8
×
8区域。否则,4x4 lfnst应用在变换系数块的左上min(8,w)
×
min(8,h)区域上。
[0073]
此外,lfnst应用到帧内和帧间条带两者中的帧内cu,并且应用到亮度和色度两者。如果启用双树,则分开地信令通知亮度和色度的lfnst索引。对于帧间条带(禁用双树),信令通知单个lfnst索引并将其用于亮度和色度两者。
[0074]
当选择isp模式时,禁用lfnst并且不信令通知rst索引,因为即使rst应用到每个可实行的分割块但是性能改进也是微不足道的。此外,为isp预测的残差禁用rst可以降低编码复杂度。当选择mip模式时,也禁用lfnst并且不信令通知索引。
[0075]
2.1.5子块变换(sbt)
[0076]
在vtm中,对于帧间预测的cu引入子块变换。在该变换模式中,对于cu仅编解码残差块的子部分。当具有等于1的cu_cbf的帧间预测cu时,可以信令通知cu_sbt_flag以指示编解码整个残差块还是残差块的子部分。在前一种情况中,帧间mts信息被进一步解析以确定cu的变换类型。在后一种情况中,用推断的自适应变换来编解码残差块的一部分并且将该残差块的其他部分归零。
[0077]
当sbt用于帧间编解码cu时,在比特流中信令通知sbt类型和sbt位置信息。如图2所示,存在两个sbt类型和两个sbt位置。对于sbt-v(或sbt-h),tu宽度(或高度)可以等于cu宽度(或高度)的一半或cu宽度(或高度)的1/4,从而导致2∶2划分或1∶3/3∶1划分。2∶2划分
像是二叉树(bt)划分,而1∶3/3∶1划分像是非对称二叉树(abt)划分。在abt划分中,只有小区域才含有非零残差。如果cu的一个维度在亮度样点中为8,则沿着该维度的1∶3/3∶1划分是不允许的。对于cu存在至多8个sbt模式。
[0078]
对sbt-v和sbt-h中的亮度变换块(色度tb总是使用dct-2)应用位置从属的变换核心选择。sbt-v和sbt-h的两个位置与不同核心变换相关联。更具体地,图2为每个sbt位置指定水平和垂直变换。例如,sbt-v位置0的水平变换和垂直变换分别是dct-8和dst-7。当残差tu的一侧大于32时,两个维度的变换设置为dct-2。因此,子块变换共同地指定tu铺片(tiling)、cbf以及残差块的水平和垂直核心变换类型。
[0079]
在sps中信令通知变量maxsbtsize以指定可以应用sbt的最大cu尺寸。在vtm5中,对于hd和4k序列,编码器将maxsbtsize设置为64;对于其他较小分辨率序列,将maxsbtsize设置为32。
[0080]
sbt不应用到用组合的帧间帧内模式或tpm模式编解码的cu。
[0081]
2.1.6量化
[0082]
在vtm5中,最大qp从51扩展到63,并且初始qp的信令通知相应地改变。当编解码slice_qp_delta的非零值时,sliceqpy的初始值将在条带段层处修改。具体而言,init_qp_minus26的值修改为在(-26+qpbdoffsety)至+37的范围内。在vtm5中,当变换块的尺寸不是4的幂时,将与对qp或qp levelscale表的修改一起而不是通过乘以181/256(或181/128)来处理变换系数,以通过变换过程补偿隐式缩放。
[0083]
此外,通过称为从属标量量化的新构思来使用相同hevc标量量化。相关标量量化指代一方法,该方法中变换系数的可允许重建值的集合取决于在当前变换系数级之前在重建顺序下的变换系数级的值。该方法的主要效果在于,与hevc中所使用的常规独立标量量化相比较,可允许重建矢量是在n维矢量空间(n表示变换块中变换系数的数目)中更密集地分组。这意味着,对于每个n维单元体积的可允许重建矢量的给定平均数目,降低在输入矢量与最接近重建矢量之间的平均失真。从属标量量化的方法由以下来实现:(a)以不同重建级限定两个标量量化器,并且(b)限定在两个标量量化器之间切换的过程。
[0084]
图3是在提出的从属量化的方法中所使用的两个标量量化器的示意图。
[0085]
图3图示了由q0和q1表示的所使用的两个标量量化器。可用重建级的位置由量化步长δ唯一指定。未在比特流中显示地信令通知所使用的标量量化器(q0或q1)。代替地,用于当前变换系数的量化器是由在当前变换系数之前在编解码/重建顺序下的变换系数级的奇偶性确定的。
[0086]
图4示出了用于提出的从属量化的状态转变和量化器选择的示例。
[0087]
如图4所示,经由具有四个状态的状态机来实现两个标量量化器(q0和q1)之间的切换。状态可以采取四个不同值:0、1、2、3。这是由在当前变换系数之前以编解码/重建顺序排序的变换系数级的奇偶性唯一确定的。在变换块的逆向量化的开始时,状态设置为等于0。以扫描顺序重建变换系数(即,在相同顺序下对它们进行熵解码)。在重建当前变换系数之后,如图4所示更新状态,其中k指示变换系数级的值。
[0088]
还支持信令通知默认和用户定义的缩放矩阵。缺省(default)模式缩放矩阵都是平坦的,对于tb尺寸的元素均等于16。ibc和帧内编解码模式目前共享相同缩放矩阵。因此,对于user_defined矩阵的情况,matrixtype和matrixtype_dc的数目更新如下:
[0089]
·
matrixtype:30=2(帧内&ibc/帧间的2)
×
3(y/cb/cr分量)
×
5(方形tb尺寸:对于亮度,从4
×
4到64
×
64,对于色度从2
×
2至32
×
32)
[0090]
·
matrixtype_dc:14=2(帧内&ibc/帧间的2
×
y分量的1)
×
3(tb尺寸:16
×
16,32
×
32,64
×
64)+4(帧内&ibc/帧间的2
×
cb/cr分量的2)
×
2(tb尺寸:16
×
16、32
×
32)
[0091]
分别编解码dc值以用于以下缩放矩阵:16
×
16、32
×
32、和64
×
64。对于尺寸小于8
×
8的tb,信令通知在一个缩放矩阵中的所有元素。如果tb的尺寸大于或等于8
×
8,则在一个8
×
8缩放矩阵中只有64个元素被信令通知为基缩放矩阵。为了获得尺寸大于8
×
8的方形矩阵,将8
×
8基缩放矩阵上采样(通过元素的重复)到对应的方形尺寸(即16
×
16、32
×
32、64
×
64)。当应用64点变换的高频系数的归零时,缩放矩阵的对应高频也被归零。就是说,如果tb的宽度或高度大于或等于32,则仅保留系数的左半部分或上半部分,并且剩余系数分配为零。此外,因为从不使用右下4
×
4元素,因此对于64
×
64缩放矩阵所信令通知的元素的数目也从8
×
8缩减到三个4
×
4子矩阵。
[0092]
2.1.7色度残差的联合编解码
[0093]
vtm5支持色度残差的联合编解码的模式。当激活该模式时,为相同变换单元中的cb块和cr块信令通知一个单联合残差块。然后,cb残差设置为等于信令通知的残差,并且cr残差通过消除信令通知的残差的符号来设置。换言之,在解码器处,为了重建色度块,将信令通知的联合残差添加到cb预测块且将其从cr预测块中扣除。联合残差使用常规的色度残差编解码过程来编解码。如果cb和cr编解码块标志(cbf)均为1,则在比特流中用标志来信令通知指示是否使用联合残差模式的标志。
[0094]
在pps中和在条带头中,用于联合色度残差编解码模式信令通知的色度qp偏移值与常规色度残差编解码模式信令通知的通常色度qp偏移值分开。这些色度qp偏移值用于导出使用联合色度残差编解码模式编解码的那些块的色度qp值。在vtm5编码器中,对于联合色度残差编解码模式,色度qp偏移设置为-1,并且对于常规色度残差编解码模式,色度qp偏移设置为+1。
[0095]
在编码器侧处,将从cb残差减去的cr残差的平均值用作变换和量化过程的输入:
[0096]
resjoint=(rescb-rescr)/2
[0097]
如果lmcs模式的色度缩放有效,则以与常规色度残差编解码模式所做的相同的方式将色度缩放应用于联合残差。就是说,编解码联合残差信号被缩放。
[0098]
2.2 vvc草案6中的去量化和逆向变换设计
[0099]
2.2.1去量化
[0100]
8.7.3变换系数的缩放过程
[0101]
该过程的输入是:
[0102]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[0103]-变量ntbw,指定变换块宽度,
[0104]-变量ntbh,指定变换块高度,
[0105]-变量cidx,指定当前块的色彩分量,
[0106]-变量bitdepth,指定当前色彩分量的比特深度。
[0107]
该过程的输出是具有元素d[x][y]的缩放变换系数的(ntbw)x(ntbh)矩阵d。
[0108]
量化参数qp导出如下:
[0109]-如果cidx等于0并且transform_skip_flag[xtby][ytby]等于0,则以下适用:
[0110]
qp=qp
′y(8-950)
[0111]-否则,如果cidx等于0(并且transform_skip_flag[xtby][ytby]等于1),则以下适用:
[0112]
qp=max(qpprimetsmin,qp
′y)(8-951)
[0113]-否则,如果tucresmode[xtby][ytby]等于2,则以下适用:
[0114]
qp=qp

cbcr
(8-952)
[0115]-否则,如果cidx等于1,以下适用:
[0116]
qp=qp

cb
(8-953)
[0117]-否则(cidx等于2),以下适用:
[0118]
qp=qp

cr
(8-954)
[0119]
变量rectnontsflag导出如下:
[0120]
rectnontsflag=(((log2(ntbw)+log2(ntbh))&1)==1&&(8-955)
[0121]
transform_skip_flag[xtby][ytby]==0)
[0122]
变量bdshift、rectnorm和bdoffset导出如下:
[0123]
bdshift=bitdepth+((rectnontsflag?1:0)+(8-956)(log2(ntbw)+log2(ntbh))/2)-5+dep_quant_enabled_flagbdoffset=(1<<bdshift)>>1(8-957)
[0124]
列表levelscale[][]被指定为levelscale[j][k]={{40,45,51,57,64,72},{57,64,72,80,90,102}},其中j=0..1,k=0..5。
[0125]
(ntbw)x(ntbh)矩阵dz设置为等于(ntbw)x(ntbh)矩阵transcoefflevel[xtby][ytby][cidx]。
[0126]
为了导出缩放变换系数d[x][y],其中x=0..ntbw-1,y=0..ntbh-1,以下适用:
[0127]-中间缩放因子m[x][y]导出如下:
[0128]-如果以下条件中的一个或多个为真,则m[x][y]设置为等于16:
[0129]-sps_scaling_list_enabled_flag等于0。
[0130]-transform_skip_flag[xtby][ytby]等于1。
[0131]-否则,以下适用:
[0132]
m[x][y]=scalingfactor[log2(ntbw)][log2(ntbh)][matrixid][x][y],
[0133]
其中matrixid如表7-5中指定(8-958)
[0134]-缩放因子ls[x][y]导出如下:
[0135]-如果dep_quant_enabled_flag等于1,则以下适用:
[0136]
ls[x][y]=(m[x][y]*levelscale[rectnontsflag][(qp+1)%6])<<((qp+1)/6)(8-959)
[0137]-否则(dep_quant_enabled_flag等于0),以下适用:
[0138]
ls[x][y]=(m[x][y]*levelscale[rectnontsflag][qp%6])<<(qp/6)(8-960)
[0139]-当bdpcmflag[xtby][yyby]等于1时,dz[x][y]修改如下:
[0140]-如果bdpcmdir[xtby][yyby]等于0且x大于0,则以下适用:
[0141]
dz[x][y]=clip3(coeffmin,coeffmax,dz[x-1][y]+dz[x][y])(8-961)
[0142]-否则,如果bdpcmdir[xtby][yyby]等于1且y大于0,则以下适用:
[0143]
dz[x][y]=clip3(coeffmin,coeffmax,dz[x][y-1]+dz[x][y])(8-962)
[0144]-值dnc[x][y]导出如下:
[0145]
dnc[x][y]=(dz[x][y]*ls[x][y]+bdoffset)>>bdshift(8-963)
[0146]-缩放变换系数d[x][y]导出如下:
[0147]
d[x][y]=clip3(coeffmin,coeffmax,dnc[x][y])(8-964)
[0148]
2.2.2逆向变换
[0149]
8.7.5缩放变换系数的变换过程
[0150]
8.7.5.1一般性
[0151]
该过程的输入是:
[0152]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[0153]-变量ntbw,指定当前变换块的宽度,
[0154]-变量ntbh,指定当前变换块的高度,
[0155]-变量cidx,指定当前块的色彩分量,
[0156]-缩放变换系数的(ntbw)x(ntbh)矩阵d[x][y],其中x=0..ntbw-1、y=0..ntbh-1。
[0157]
此过程的输出是残差样点的(ntbw)x(ntbh)矩阵r[x][y],其中x=0..ntbw-1、y=0..ntbh-1。
[0158]
当lfnst_idx[xtby][ytby]不等于0并且ntbw和ntbh两者都大于或等于4时,以下适用:
[0159]-变量predmodeintra、nlfhstoutsize、log2lfnstsize、nlfhstsize、和nonzerosize导出如下:
[0160]
predmodeintra=(cidx==0)?intrapredmodey[xtby][ytby]:intrapredmodec[xtb y][ytby](8-965)
[0161]
nlfnstoutsize=(ntbw>=8&&ntbh>=8)?48:16(8-966)
[0162]
log2lfhstsize=(ntbw>=8&&ntbh>=8)?3:2(8-967)
[0163]
nlfhstsize=1<<log2lfhstsize(8-968)
[0164]
nonzerosize=((ntbw==4&&ntbh==4)||(ntbw==8&&ntbh==8))?8:16(8-969)
[0165]-当intra_mip_flag[xtbcomp][ytbcomp]等于1并且cidx等于0时,predmodeintra设置为等于intra_planar。
[0166]-当predmodeintra等于intra_lt_cclm、intra_l_cclm或intra_t_cclm时,predmodeintra设置为等于intrapredmodey[xtby+ntbw/2][ytby+ntbh/2]。
[0167]-使用以下调用如节8.4.5.2.6中指定的宽角度帧内预测模式映射过程:predmodeintra、ntbw、ntbh和cidx作为输入,以及修改的predmodeintra作为输出。
[0168]-列表u[x]的值,其中x=0..nonzerosize-1,导出如下:
[0169]
xc=diagscanorder[2][2][x][0](8-970)
[0170]
yc=diagscanorder[2][2][x][1](8-971)
[0171]
u[x]=d[xc][yc](8-972)
[0172]-使用以下调用如节8.7.4.2中指定的一维低频不可分变换过程:缩放变换系数的输入长度nonzerosize、设置为等于nlfnstoutsize的变换输出长度ntrs、缩放非零变换系数的列表u[x],其中x=0..nonzerosize-1、lfnst集合选择的帧内预测模式predmodeintra、和在选择的lfnst集合中变换选择的lfnst索引lfnst_idx[xtby][ytby]作为输入,以及列表v[x],其中x=0..nlfnstoutsize-1作为输出。
[0173]-矩阵d[x][y],其中x=0..nlfnstsize-1,y=0..nlfnstsize-1导出如下:
[0174]-如果predmodeintra小于或等于34,则以下适用:
[0175]
d[x][y]=(y<4)?v[x+(y<<log2lfnstsize)]:(8-973)
[0176]
((x<4)?v[32+x+((y-4)<<2)]:d[x][y])
[0177]-否则,以下适用:
[0178]
d[x][y]=(x<4)?v[y+(x<<log2lfnstsize)]:(8-974)
[0179]
((y<4)?v[32+y+((x-4)<<2)]:d[x][y])
[0180]
变量implicitmtsenabled导出如下:
[0181]-如果sps_mts_enabled_flag等于1并且以下条件中的一个为真,则implicitmtsenabled设置为等于1:
[0182]-intrasubpartitionssplittype不等于isp_no_split
[0183]-cu_sbt_flag等于1并且max(ntbw,ntbh)小于或等于32
[0184]-sps_explicit_mts_intraenabled_flag等于0且cupredmode[0][xtby][ytby]等于mode_intra且lfnst_idx[x0][y0]等于0和intra_mip_flag[x0][y0]等于0
[0185]-否则,implicitmtsenabled设置为等于0。
[0186]
指定水平变换核的变量trtypehor和指定垂直变换核的变量trtypever导出如下:
[0187]-如果cidx大于0,则trtypehor和trtypever设置为等于0。
[0188]-否则,如果implicitmtsenabled等于1,则以下适用:
[0189]-如果intrasubpartitionssplittype不等于isp_no_split或sps_explicit_mts_intra_enabled_flag等于0且cupredmode[0][xtby][ytby]等于mode_intra,则trtypehor和trtypever导出如下:
[0190]
trtypehor=(ntbw>=4&&ntbw<=16)?1:0(8-975)
[0191]
trtypever=(ntbh>=4&&ntbh<=16)?1:0(8-976)
[0192]-否则(cu_sbt_flag等于1),指定在表8-15中的trtypehor和trtypever取决于cu_sbt_horizontal_flag和cu_sbt_pos_flag。
[0193]-否则,指定在表8-14中的trtypehor和trtypever取决于tu_mts_idx[xtby][ytby]。
[0194]
变量nonzerow和nonzeroh导出如下:
[0195]-如果lfnst_idx[xtby][ytby]不等于0且ntbw大于或等于4且ntbh大于或等于4,则以下适用:
[0196]
nonzerow=(ntbw==4||ntbh==4)?4:8(8-977)
[0197]
nonzeroh=(ntbw==4||ntbh==4)?4:8(8-978)
[0198]-否则,以下适用:
[0199]
nonzerow=min(ntbw,(trtypehor>0)?16:32)(8-979)
[0200]
nonzeroh=min(ntbh,(trtypever>0)?16:32)(8-980)
[0201]
残差样点的(ntbw)x(ntbh)矩阵r导出如下:
[0202]
1.当ntbh大于1时,通过使用以下调用节8.7.4.4指定的一维变换过程缩放变换系数d[x][y](其中x=0..nonzerow-1、y=0..nonzeroh-1)的将每一(垂直)列变换为e[x][y](其中x=0..nonzerow-1、y=00..ntbh-1):对于每一列x=0..nonzerow-1,变换块的高度ntbh、缩放变换系数的非零高度nonzeroh、列表d[x][y],其中y=0..nonzeroh-1以及设置为等于trtypever的变换类型变量trtype作为输入,并且输出是列表e[x][y],其中y=0..ntbh-1。
[0203]
2.当ntbh和ntbw都大于1时,中间样点值g[x][y],其中x=0..nonzerow-1、y=0..ntbh-1,导出如下:
[0204]
g[x][y]=clip3(coeffmin,coeffmax,(e[x][y]+64)>>7)(8-981)
[0205]
3.当ntbw大于1时,通过使用以下调用节8.7.4.4定的一维变换过程将得到的矩阵g[x][y](其中x=0..nonzerow-1、y=0...ntbh-1)的每一(水平)行变换为r[x][y](其中x=0...ntbw-1、y=0..ntbh-1):对于每一行y=0...ntbh-1,变换块的宽度ntbw、得到的矩阵g[x][y]的非零宽度nonzerow、列表g[x][y],其中x=0..nonzerow-1以及设置为等于trtypehor的变换类型变量trtype作为输入,并且输出是列表r[x][y],其中y=0..ntbw-1。
[0206]
4.当ntbw等于1时,r[x][y]设置为等于e[x][y],其中x=0..ntbw-1、y=0..ntbh-1.
[0207]
表8-14-取决于tu_mts_idx[x][y]的trtypehor和trtypever的规范
[0208]
tu_mts_idx[x0][y0]01234trtypehor01212trtypever01122
[0209]
表8-15-取决于cu_sbt_horizontal_flag和cu_sbt_pos_flag的trtypehor和trtypever的规范
[0210]
cu_sbt_horizontal_flagcu_sbt_pos_flagtrtypehortrtypever0021011110121111
[0211]
8.7.4.2低频不可分变换过程
[0212]
该过程的输入是:
[0213]-变量nonzerosize,指定变换输入长度,
[0214]-变量ntrs,指定变换输出长度,
[0215]-缩放非零变换系数的列表x[j],其中j=0..nonzerosize-1,
[0216]-变量predmodeintra,指定lfnst集合选择的帧内预测模式,
[0217]-变量lfnstidx,指定在选择的lfnst集合中变换选择的lfnst索引。
[0218]
该过程的输出是变换样点的列表y[i],其中i=0..ntrs-1。
[0219]
使用以下调用如节8.7.4.3中指定的变换矩阵导出过程:变换输出长度ntrs、
lfnst集合选择的帧内预测模式predmodeintra,和在选择的lfnst集合中变换选择的lfnst索引lfnstidx作为输入,以及(ntrs)x(nonzerosize)lfnst矩阵lowfreqtransmatrix作为输出。
[0220]
变换样点的列表y[i],其中i=0..ntrs-1,导出如下:
[0221][0222]
8.7.4.3低频不可分变换矩阵导出过程
[0223]
该过程的输入是:
[0224]-变量ntrs,指定变换输出长度,
[0225]-变量predmodeintra,指定lfnst集合选择的帧内预测模式,
[0226]-变量lfnstidx,指定在选择的lfnst集合中变换选择的lfnst索引。
[0227]
该过程的输出是变换矩阵lowfreqtransmatrix。
[0228]
变量lfnsttrsetidx被指定在表8-16,取决于predmodeintra。
[0229]
表8-16-lfnsttrsetidx的规范
[0230][0231][0232]
基于ntrs、lfnsttrsetidx,和lfnstidx,变换矩阵lowfreqtransmatrix导出如下:
[0233]-如果ntrs等于16、lfnsttrsetidx等于0、且lfnstidx等于1,则以下适用:
[0234]
lowfreqtransmatrix[m][n]=
[0235]
{
[0236]
{108
ꢀ‑
44
ꢀ‑
15 1
ꢀ‑
44 19 7
ꢀ‑1ꢀ‑
11 6 2
ꢀ‑
1 0
ꢀ‑1ꢀ‑
1 0}
[0237]
{-40
ꢀ‑
97 56 12
ꢀ‑
11 29
ꢀ‑
12
ꢀ‑
3 18 18
ꢀ‑
15
ꢀ‑3ꢀ‑1ꢀ‑
3 2 1 }
[0238]
{25
ꢀ‑
31
ꢀ‑
1 7 100
ꢀ‑
16
ꢀ‑
29 1
ꢀ‑
54 21 14
ꢀ‑4ꢀ‑
7 2 4 0}
[0239]
{-32
ꢀ‑
39
ꢀ‑
92 51
ꢀ‑6ꢀ‑
16 36
ꢀ‑
8 3 22 18
ꢀ‑
15 4 1
ꢀ‑
5 2}
[0240]
{8
ꢀ‑
9 33
ꢀ‑8ꢀ‑
16
ꢀ‑
102 36 23
ꢀ‑
4 38
ꢀ‑
27
ꢀ‑
5 5 16
ꢀ‑8ꢀ‑
6}
[0241]
{-25 5 16
ꢀ‑3ꢀ‑
38 14 11
ꢀ‑3ꢀ‑
97 7 26 1 55
ꢀ‑
10
ꢀ‑
19 3}
[0242]
{8 9 16 1 37 36 94
ꢀ‑
38
ꢀ‑
7 3
ꢀ‑
47 11
ꢀ‑6ꢀ‑
13
ꢀ‑
17 10}
[0243]
{2 34
ꢀ‑
5 1
ꢀ‑
7 24
ꢀ‑
25
ꢀ‑
3 8 99
ꢀ‑
28
ꢀ‑
29 6
ꢀ‑
43 21 11}
[0244]
{-16
ꢀ‑
27
ꢀ‑
39
ꢀ‑
109 6 10 16 24 3 19 10 24
ꢀ‑4ꢀ‑7ꢀ‑2ꢀ‑
3}
[0245]
{-9
ꢀ‑
10
ꢀ‑
34 4
ꢀ‑9ꢀ‑5ꢀ‑
29 5
ꢀ‑
33
ꢀ‑
26
ꢀ‑
96 33 14 4 39
ꢀ‑
14}
[0246]
{-13 1 4
ꢀ‑9ꢀ‑
30
ꢀ‑
17
ꢀ‑3ꢀ‑
64
ꢀ‑
35 11 17 19
ꢀ‑
86 6 36 14}
[0247]
{8
ꢀ‑7ꢀ‑5ꢀ‑
15 7
ꢀ‑
30
ꢀ‑
28
ꢀ‑
87 31 4 4 33 61
ꢀ‑5ꢀ‑
17 22}
[0248]
{-2 13
ꢀ‑6ꢀ‑4ꢀ‑
2 28
ꢀ‑
13
ꢀ‑
14
ꢀ‑
3 37
ꢀ‑
15
ꢀ‑3ꢀ‑
2 107
ꢀ‑
36
ꢀ‑
24}
[0249]
{4 9 11 31 4 9 16 19 12 33 32 94 12 0 34
ꢀ‑
45}
[0250]
{2
ꢀ‑
2 8
ꢀ‑
16 8 5 28
ꢀ‑
17 6
ꢀ‑
7 18
ꢀ‑
45 40 36 97
ꢀ‑
8}
[0251]
{0
ꢀ‑
2 0
ꢀ‑
10
ꢀ‑1ꢀ‑7ꢀ‑3ꢀ‑
35
ꢀ‑1ꢀ‑7ꢀ‑2ꢀ‑
32
ꢀ‑6ꢀ‑
33
ꢀ‑
16
ꢀ‑
112}
[0252]
},
[0253]-否则,如果ntrs等于16,lfnsttrsetidx等于0,且lfnstidx等于2,则以下
[0254]
适用:
[0255]
lowfreqtransmatrix[m][n]=
[0256]
{
[0257]
{119
ꢀ‑
30
ꢀ‑
22
ꢀ‑3ꢀ‑
23
ꢀ‑
2 3 2
ꢀ‑
16 3 6 0
ꢀ‑
3 2 1 0}
[0258]
{-27
ꢀ‑
101 31 17
ꢀ‑
47 2 22 3 19 30
ꢀ‑7ꢀ‑
9 5 3
ꢀ‑5ꢀ‑
1}
[0259]
{0 58 22
ꢀ‑
15
ꢀ‑
102 2 38 2 10
ꢀ‑
13
ꢀ‑
5 4 14
ꢀ‑1ꢀ‑
9 0}
[0260]
{23 4 66
ꢀ‑
11 22 89
ꢀ‑2ꢀ‑
26 13
ꢀ‑8ꢀ‑
38
ꢀ‑1ꢀ‑9ꢀ‑
20
ꢀ‑
2 8}
[0261]
{-19
ꢀ‑5ꢀ‑
89 2
ꢀ‑
26 76
ꢀ‑
11
ꢀ‑
17 20 13 18
ꢀ‑
4 1
ꢀ‑
15 3 5}
[0262]
{-10
ꢀ‑1ꢀ‑
1 6 23 25 87
ꢀ‑7ꢀ‑
74 4 39
ꢀ‑
5 0
ꢀ‑1ꢀ‑
20
ꢀ‑
1}
[0263]
{-17
ꢀ‑
28 12
ꢀ‑8ꢀ‑
32 14
ꢀ‑
53
ꢀ‑6ꢀ‑
68
ꢀ‑
67 17 29 2 6 25 4}
[0264]
{1
ꢀ‑
24
ꢀ‑
23 1 17
ꢀ‑
7 52 9 50
ꢀ‑
92
ꢀ‑
15 27
ꢀ‑
15
ꢀ‑
10
ꢀ‑
6 3}
[0265]
{-6-17
ꢀ‑2ꢀ‑
111 7
ꢀ‑
17 8
ꢀ‑
42 9 18 16 25
ꢀ‑
4 2
ꢀ‑
111}
[0266]
{9 5 35 0 6 21
ꢀ‑
9 34 44
ꢀ‑
3 102 11
ꢀ‑
7 13 11
ꢀ‑
20}
[0267]
{4
ꢀ‑5ꢀ‑5ꢀ‑
10 15 19
ꢀ‑
2 6 6
ꢀ‑
12
ꢀ‑
13 6 95 69
ꢀ‑
29
ꢀ‑
24}
[0268]
{-6
ꢀ‑4ꢀ‑9ꢀ‑
39 1 22 0 102
ꢀ‑
19 19
ꢀ‑
32 30
ꢀ‑
16
ꢀ‑
14
ꢀ‑8ꢀ‑
23}
[0269]
{4
ꢀ‑
4 7 8 4
ꢀ‑
13
ꢀ‑
18 5 0 0 21 22 58
ꢀ‑
88
ꢀ‑
54 28}
[0270]
{-4
ꢀ‑
7 0
ꢀ‑
24
ꢀ‑
7 0
ꢀ‑
25 3
ꢀ‑3ꢀ‑
30 8
ꢀ‑
76
ꢀ‑
34 4
ꢀ‑
80
ꢀ‑
26}
[0271]
{0 6 0 30
ꢀ‑
6 1
ꢀ‑
13
ꢀ‑
23 1 20
ꢀ‑
2 80
ꢀ‑
44 37
ꢀ‑
68 1}
[0272]
{0 0
ꢀ‑
1 5
ꢀ‑1ꢀ‑
7 1
ꢀ‑
34
ꢀ‑
2 3
ꢀ‑
6 19 5
ꢀ‑
38 11-115}
[0273]
},
[0274]-否则,如果ntrs等于16,lfnsttrsetidx等于1,且lfnstidx等于1,则以下
[0275]
适用:
[0276]
lowfreqtransmatrix[m][n]=
[0277]
{
[0278]
{-111 39 4 3 44 11
ꢀ‑
12
ꢀ‑
1 7
ꢀ‑
16
ꢀ‑
5 2 3
ꢀ‑
1 4 2}
[0279]
{-47
ꢀ‑
27 15
ꢀ‑1ꢀ‑
92 43 20
ꢀ‑
2 20 39
ꢀ‑
16
ꢀ‑
5 10
ꢀ‑5ꢀ‑
13 2}
[0280]
{-35
ꢀ‑
23 4 4
ꢀ‑
17
ꢀ‑
72 32 6
ꢀ‑
59 18 50
ꢀ‑
6 0 40 0
ꢀ‑
13}
[0281]
{13 93
ꢀ‑
27
ꢀ‑4ꢀ‑
48 13
ꢀ‑
34 4
ꢀ‑
52 11 1 10 3 16
ꢀ‑
3 1}
[0282]
{-11
ꢀ‑
27 1 2
ꢀ‑
47
ꢀ‑4ꢀ‑
36 10
ꢀ‑2ꢀ‑
85 14 29
ꢀ‑
20
ꢀ‑
2 57 4}
[0283]
{0
ꢀ‑
35 32
ꢀ‑
2 26 60
ꢀ‑3ꢀ‑
17
ꢀ‑
82 1
ꢀ‑
30 0
ꢀ‑
37 21 3 12}
[0284]
{-17
ꢀ‑
46
ꢀ‑
92 14 7
ꢀ‑
10
ꢀ‑
39 29
ꢀ‑
17 27
ꢀ‑
28 17 1
ꢀ‑
15
ꢀ‑
13 17}
[0285]
{4
ꢀ‑
10
ꢀ‑
23 4 16 58
ꢀ‑
17 26 30 21 67 2
ꢀ‑
13 59 13
ꢀ‑
40}
[0286]
{5
ꢀ‑
20 32
ꢀ‑
5 8
ꢀ‑3ꢀ‑
46
ꢀ‑7ꢀ‑
4 2
ꢀ‑
15 24 100 44 0 5}
[0287]
{-4
ꢀ‑
1 38
ꢀ‑
18
ꢀ‑7ꢀ‑
42
ꢀ‑
63
ꢀ‑
6 33 34
ꢀ‑
23 15
ꢀ‑
65 33
ꢀ‑
20 2}
[0288]
{-2
ꢀ‑
10 35
ꢀ‑
19 5 8
ꢀ‑
44 14
ꢀ‑
25 25 58 17 7
ꢀ‑
84
ꢀ‑
16
ꢀ‑
18}
[0289]
{5 13 18 34 11
ꢀ‑
4 18 18 5 58
ꢀ‑
3 42
ꢀ‑2ꢀ‑
10 85 38}
[0290]
{-5
ꢀ‑7ꢀ‑
34
ꢀ‑
83 2
ꢀ‑1ꢀ‑4ꢀ‑
73 4 20 15
ꢀ‑
12 4
ꢀ‑
3 44 12}
[0291]
{0 4
ꢀ‑2ꢀ‑
60 5 9 42 34 5
ꢀ‑
14 9 80
ꢀ‑
5 13
ꢀ‑
38 37}
[0292]
{-1 2 7
ꢀ‑
57 3
ꢀ‑
7 9 68
ꢀ‑
9 6
ꢀ‑
49
ꢀ‑
20 6
ꢀ‑
4 36
ꢀ‑
64}
[0293]
{-1 0
ꢀ‑
12 23 1
ꢀ‑
4 17
ꢀ‑
53
ꢀ‑
3 4
ꢀ‑
21 72
ꢀ‑4ꢀ‑8ꢀ‑3ꢀ‑
83}
[0294]
},
[0295]-否则,如果ntrs等于16,lfnsttrsetidx等于1,且lfnstidx等于2,则以下
[0296]
适用:
[0297]
lowfreqtransmatrix[m][n]=
[0298]
{
[0299]
{88
ꢀ‑
55 6
ꢀ‑3ꢀ‑
66 27 9
ꢀ‑
2 11 11
ꢀ‑
13 1
ꢀ‑2ꢀ‑
7 1 2}
[0300]
{-58
ꢀ‑
20 27
ꢀ‑2ꢀ‑
27 75
ꢀ‑
29 0 47
ꢀ‑
42
ꢀ‑
11 11
ꢀ‑9ꢀ‑
3 19
ꢀ‑
4}
[0301]
{-51 23
ꢀ‑
22 5
ꢀ‑
63 3 37
ꢀ‑
5 1 64
ꢀ‑
35
ꢀ‑
4 29
ꢀ‑
31
ꢀ‑
11 13}
[0302]
{-27
ꢀ‑
76 49
ꢀ‑
2 40 14 9
ꢀ‑
17
ꢀ‑
56 36
ꢀ‑
25 6 14 3
ꢀ‑
6 8}
[0303]
{19
ꢀ‑
4-36 22 52 7 36
ꢀ‑
23 28
ꢀ‑
17
ꢀ‑
64 15
ꢀ‑
5-44 48 9}
[0304]
{29 50 13-10 1 34
ꢀ‑
59 1
ꢀ‑
51 4
ꢀ‑
16 30 52
ꢀ‑
33 24
ꢀ‑
5}
[0305]
{-12
ꢀ‑
21
ꢀ‑
74 43
ꢀ‑
13 39 18
ꢀ‑5ꢀ‑
58
ꢀ‑
35 27
ꢀ‑
5 19 26 6
ꢀ‑
5}
[0306]
{19 38
ꢀ‑
10
ꢀ‑
5 28 66 0
ꢀ‑5ꢀ‑
4 19
ꢀ‑
30
ꢀ‑
26
ꢀ‑
40 28
ꢀ‑
60 37}
[0307]
{-6 27 18
ꢀ‑5ꢀ‑
37
ꢀ‑
18 12
ꢀ‑
25
ꢀ‑
44
ꢀ‑
10
ꢀ‑
38 37
ꢀ‑
66 45 40
ꢀ‑
7}
[0308]
{-13
ꢀ‑
28
ꢀ‑
45
ꢀ‑
39 0
ꢀ‑5ꢀ‑
39 69
ꢀ‑
23 16
ꢀ‑
12
ꢀ‑
18
ꢀ‑
50
ꢀ‑
31 24 13}
[0309]
{-1 8 24
ꢀ‑
51
ꢀ‑
15
ꢀ‑
9 44 10
ꢀ‑
28
ꢀ‑
70
ꢀ‑
12
ꢀ‑
39 24
ꢀ‑
18
ꢀ‑
4 51}
[0310]
{-8
ꢀ‑
22
ꢀ‑
17 33
ꢀ‑
18
ꢀ‑
45
ꢀ‑
57
ꢀ‑
27 0
ꢀ‑
31
ꢀ‑
30 29
ꢀ‑
2-13
ꢀ‑
53 49}
[0311]
{1 12 32 51
ꢀ‑
8 8
ꢀ‑2ꢀ‑
31
ꢀ‑
22 4 46
ꢀ‑
39
ꢀ‑
49
ꢀ‑
67 14 17}
[0312]
{4 5 24 60
ꢀ‑5ꢀ‑
14
ꢀ‑
23 38 9 8
ꢀ‑
34
ꢀ‑
59 24 47 42 28}
[0313]
{-1
ꢀ‑5ꢀ‑
20
ꢀ‑
34 4 4
ꢀ‑
15
ꢀ‑
46 18 31 42 10 10 27 49 78}
[0314]
{-3
ꢀ‑7ꢀ‑
22
ꢀ‑
34
ꢀ‑5ꢀ‑
11
ꢀ‑
36
ꢀ‑
69
ꢀ‑1ꢀ‑3ꢀ‑
25
ꢀ‑
73 5 4 4
ꢀ‑
49}
[0315]
},
[0316]-否则,如果ntrs等于16,lfnsttrsetidx等于2,且lfnstidx等于1,则以下
[0317]
适用:
[0318]
lowfreqtransmatrix[m][n]=
[0319]
{
[0320]
{-112 47
ꢀ‑
2 2
ꢀ‑
34 13 2 0 15
ꢀ‑
7 1 0 8
ꢀ‑3ꢀ‑
1 0}
[0321]
{29
ꢀ‑
7 1
ꢀ‑
1-108 40 2 0
ꢀ‑
45 13 4
ꢀ‑
1 8
ꢀ‑
5 1 0}
[0322]
{-36
ꢀ‑
87 69
ꢀ‑
10
ꢀ‑
17
ꢀ‑
33 26
ꢀ‑
2 7 14
ꢀ‑
11 2 6 8
ꢀ‑
7 0}
[0323]
{28
ꢀ‑
5 2
ꢀ‑2ꢀ‑
29 13
ꢀ‑
2 0 103
ꢀ‑
36
ꢀ‑
4 1 48
ꢀ‑
16
ꢀ‑
4 1}
[0324]
{-12
ꢀ‑
24 15
ꢀ‑
3 26 80
ꢀ‑
61 9 15 54-36 2 0
ꢀ‑
4 6
ꢀ‑
2}
[0325]
{18 53 69
ꢀ‑
74 14 24 28
ꢀ‑
30
ꢀ‑6ꢀ‑7ꢀ‑
11 12
ꢀ‑5ꢀ‑7ꢀ‑
6 8}
[0326]
{5
ꢀ‑
1 2 0
ꢀ‑
26 6 0 1 45
ꢀ‑9ꢀ‑
1 0-113 28 8
ꢀ‑
1}
[0327]
{-13
ꢀ‑
32 18
ꢀ‑
2 15 34
ꢀ‑
27 7
ꢀ‑
25
ꢀ‑
8047
ꢀ‑1ꢀ‑
16
ꢀ‑
50 28 2}
[0328]
{-4
ꢀ‑
13
ꢀ‑
10 19 18 46 60
ꢀ‑
48 16 3360
ꢀ‑
48 1 0 5
ꢀ‑
2}
[0329]
{15 33 63 89 8 15 25 40
ꢀ‑4ꢀ‑8ꢀ‑
15
ꢀ‑8ꢀ‑2ꢀ‑6ꢀ‑9ꢀ‑
7}
[0330]
{-8
ꢀ‑
24
ꢀ‑
27 15 12 41 26
ꢀ‑
29
ꢀ‑
17
ꢀ‑
50
ꢀ‑
39 27 0 35
ꢀ‑
67 26}
[0331]
{-2
ꢀ‑6ꢀ‑
24 13
ꢀ‑1ꢀ‑
8 37
ꢀ‑
22 3 18
ꢀ‑
51 22
ꢀ‑
23
ꢀ‑
95 17 17}
[0332]
{-3
ꢀ‑7ꢀ‑
16
ꢀ‑
21 10 24 46 75 8 20 38 72 1 2 1 7}
[0333]
{2 6 10
ꢀ‑3ꢀ‑5ꢀ‑
16
ꢀ‑
31 12 7 24 41
ꢀ‑
16
ꢀ‑
16
ꢀ‑
41
ꢀ‑
89 49}
[0334]
{4 8 21 40
ꢀ‑4ꢀ‑
11
ꢀ‑
28
ꢀ‑
57 5 14 31 70 7 18 32 52}
[0335]
{0 1 4 11
ꢀ‑2ꢀ‑4ꢀ‑
13
ꢀ‑
34 3 7 20 47
ꢀ‑6ꢀ‑
19
ꢀ‑
42
ꢀ‑
101}
[0336]
},
[0337]-否则,如果ntrs等于16,lfnsttrsetidx等于2,且lfnstidx等于2,则以下适用:
[0338]
lowfreqtransmatrix[m][n]=
[0339]
{
[0340]
{-99 39
ꢀ‑
1 2 65
ꢀ‑
20
ꢀ‑
5 0
ꢀ‑
15
ꢀ‑
2 5
ꢀ‑
1 0 3
ꢀ‑
1 0}
[0341]
{58 42
ꢀ‑
33 3 33
ꢀ‑
63 23
ꢀ‑1ꢀ‑
55 32 3
ꢀ‑
5 21
ꢀ‑2ꢀ‑
8 3}
[0342]
{-15 71
ꢀ‑
44 5
ꢀ‑
58
ꢀ‑
29 25 3 62
ꢀ‑7ꢀ‑4ꢀ‑4ꢀ‑
19 4 0 1}
[0343]
{46 5 4
ꢀ‑
6 71
ꢀ‑
12
ꢀ‑
15 5 52
ꢀ‑
38 13
ꢀ‑2ꢀ‑
63 23 3
ꢀ‑
3}
[0344]
{-14
ꢀ‑
54
ꢀ‑
29 29 25
ꢀ‑
9 61
ꢀ‑
29 27 44-48 5
ꢀ‑
27
ꢀ‑
21 12 7}
[0345]
{-3 3 69
ꢀ‑
42
ꢀ‑
11
ꢀ‑
50
ꢀ‑
26 26 24 63
ꢀ‑
19
ꢀ‑5ꢀ‑
18
ꢀ‑
22 12 0}
[0346]
{17 16-2 1 38 18
ꢀ‑
12 0 62 1
ꢀ‑
14 5 89
ꢀ‑
42 8
ꢀ‑
2}
[0347]
{15 54
ꢀ‑
8 6 6 60
ꢀ‑
26
ꢀ‑8ꢀ‑
30 17
ꢀ‑
38 22
ꢀ‑
43
ꢀ‑
45 42
ꢀ‑
7}
[0348]
{-6
ꢀ‑
17
ꢀ‑
55
ꢀ‑
28 9 30-8 58 4 34 41
ꢀ‑
52
ꢀ‑
16
ꢀ‑
36
ꢀ‑
20 16}
[0349]
{-2-1
ꢀ‑9ꢀ‑
79 7 11 48 44
ꢀ‑
13
ꢀ‑
34
ꢀ‑
55 6 12 23 20
ꢀ‑
11}
[0350]
{7 29 14
ꢀ‑
6 12 53 10
ꢀ‑
11 14 59
ꢀ‑
15
ꢀ‑
3 5 71
ꢀ‑
54 13}
[0351]
{-5
ꢀ‑
24
ꢀ‑
53 15
ꢀ‑3ꢀ‑
15
ꢀ‑
61 26 6 30
ꢀ‑
16 23 13 56 44
ꢀ‑
35}
[0352]
{4 8 21 52
ꢀ‑1ꢀ‑1ꢀ‑
5 29
ꢀ‑7ꢀ‑
17
ꢀ‑
44
ꢀ‑
84 8 20 31 39}
[0353]
{-2
ꢀ‑
11
ꢀ‑
25
ꢀ‑4ꢀ‑4ꢀ‑
21
ꢀ‑
53 2
ꢀ‑5ꢀ‑
26
ꢀ‑
64 19
ꢀ‑8ꢀ‑
19
ꢀ‑
73 39}
[0354]
{-3
ꢀ‑5ꢀ‑
23
ꢀ‑
57
ꢀ‑2ꢀ‑4ꢀ‑
24
ꢀ‑
75 1 3 9
ꢀ‑
25 6 15 41 61}
[0355]
{1 1 7 18 1 2 16 47 2 5 24 67 3 9 25 88}
[0356]
},
[0357]-否则,如果ntrs等于16,lfnsttrsetidx等于3,且lfnstidx等于1,则以下适用:
[0358]
lowfreqtransmatrix[m][n]=
[0359]
{
[0360]
{-114 37 3 2
ꢀ‑
22
ꢀ‑
23 14 0 21
ꢀ‑
17
ꢀ‑
5 2 5 2
ꢀ‑4ꢀ‑
1}
[0361]
{-19
ꢀ‑
41 19
ꢀ‑
2 85
ꢀ‑
60
ꢀ‑
11 7 17 31
ꢀ‑
34 2
ꢀ‑
11 19 2
ꢀ‑
8}
[0362]
{36
ꢀ‑
25 18
ꢀ‑2ꢀ‑
42
ꢀ‑
53 35 5 46
ꢀ‑
60
ꢀ‑
25 19 8 21
ꢀ‑
33
ꢀ‑
1}
[0363]
{-27
ꢀ‑
80 44
ꢀ‑3ꢀ‑
58 1
ꢀ‑
29 19
ꢀ‑
41 18
ꢀ‑
12
ꢀ‑
7 12
ꢀ‑
17 7
ꢀ‑
6}
[0364]
{-11
ꢀ‑
21 37
ꢀ‑
10 44
ꢀ‑
4 47
ꢀ‑
12
ꢀ‑
37
ꢀ‑
41 58 18 10
ꢀ‑
46
ꢀ‑
16 31}
[0365]
{15 47 10
ꢀ‑6ꢀ‑
16
ꢀ‑
44 42 10
ꢀ‑
80 25
ꢀ‑
40 21
ꢀ‑
23
ꢀ‑
2 3
ꢀ‑
14}
[0366]
{13 25 79
ꢀ‑
39
ꢀ‑
13 10 31
ꢀ‑
4 49 45 12
ꢀ‑
8 3
ꢀ‑
1 43 7 }
[0367]
{16 11
ꢀ‑
26 13
ꢀ‑
13
ꢀ‑
74
ꢀ‑
20
ꢀ‑
1 5
ꢀ‑
6 29
ꢀ‑
47 26
ꢀ‑
49 54 2}
[0368]
{-8
ꢀ‑
34
ꢀ‑
26 7
ꢀ‑
26
ꢀ‑
19 29
ꢀ‑
37 1 22 46
ꢀ‑9ꢀ‑
81 37 14 20}
[0369]
{-6
ꢀ‑
30
ꢀ‑
42
ꢀ‑
12
ꢀ‑
3 5 57
ꢀ‑
52
ꢀ‑
2 37
ꢀ‑
12 6 74 10 6
ꢀ‑
15}
[0370]
{5 9
ꢀ‑
6 42
ꢀ‑
15
ꢀ‑
18
ꢀ‑
9 26 15 58 14 43 23
ꢀ‑
10-3775}
[0371]
{-5
ꢀ‑
23
ꢀ‑
23 36 3 22 36 40 27
ꢀ‑4ꢀ‑
16 56
ꢀ‑
25
ꢀ‑
46 56
ꢀ‑
24}
[0372]
{1 3 23 73 8 5 34 46
ꢀ‑
12 2 35
ꢀ‑
38 26 52 2
ꢀ‑
31}
[0373]
{-3
ꢀ‑2ꢀ‑
21
ꢀ‑
52 1
ꢀ‑
10-17 44
ꢀ‑
19
ꢀ‑
20 30 45 27 61 49 21}
[0374]
{-2
ꢀ‑7ꢀ‑
33
ꢀ‑
56
ꢀ‑4ꢀ‑
6 21 63 15 31 32
ꢀ‑
22
ꢀ‑
10
ꢀ‑
26
ꢀ‑
52
ꢀ‑
38}
[0375]
{-5
ꢀ‑
12
ꢀ‑
18
ꢀ‑
12 8 22 38 36
ꢀ‑5ꢀ‑
15
ꢀ‑
51
ꢀ‑
63
ꢀ‑
5 0 15 73}
[0376]
},
[0377]-否则,如果ntrs等于16,lfnsttrsetidx等于3,且lfnstidx等于2,则以下
[0378]
适用:
[0379]
lowfreqtransmatrix[m][n]=
[0380]
{
[0381]
{-102 22 7 2 66
ꢀ‑
25
ꢀ‑6ꢀ‑1ꢀ‑
15 14 1
ꢀ‑
1 2
ꢀ‑
2 1 0}
[0382]
{12 93
ꢀ‑
27
ꢀ‑6ꢀ‑
27
ꢀ‑
64 36 6 13 5
ꢀ‑
23 0
ꢀ‑
2 6 5
ꢀ‑
3}
[0383]
{-59
ꢀ‑
24 17 1
ꢀ‑
62
ꢀ‑2ꢀ‑
3 2 83
ꢀ‑
12
ꢀ‑
17
ꢀ‑2ꢀ‑
24 14 7
ꢀ‑
2}
[0384]
{-33 23
ꢀ‑
36 11
ꢀ‑
21 50 35
ꢀ‑
16
ꢀ‑
23
ꢀ‑
78 16 19 22 15
ꢀ‑
30
ꢀ‑
5}
[0385]
{0
ꢀ‑
38
ꢀ‑
81 30 27 5 51
ꢀ‑
32 24 36
ꢀ‑
16 12
ꢀ‑
24
ꢀ‑
8 9 1}
[0386]
{28 38 8
ꢀ‑
9 62 32
ꢀ‑
13 2 51
ꢀ‑
32 15 5
ꢀ‑
66 28 0
ꢀ‑
1}
[0387]
{11
ꢀ‑
35 21
ꢀ‑
17 30
ꢀ‑
18 31 18
ꢀ‑
11
ꢀ‑
36
ꢀ‑
80 12 16 49 13
ꢀ‑
32}
[0388]
{-13 23 22
ꢀ‑
36
ꢀ‑
12 64 39 25
ꢀ‑
19 23
ꢀ‑
36 9
ꢀ‑
30
ꢀ‑
58 33
ꢀ‑
7}
[0389]
{-9
ꢀ‑
20
ꢀ‑
55
ꢀ‑
83 3
ꢀ‑
2 1 62 8 2 27
ꢀ‑
28 7 15
ꢀ‑
11 5}
[0390]
{-6 24
ꢀ‑
38 23
ꢀ‑
8 40
ꢀ‑
49 0
ꢀ‑
7 9
ꢀ‑
25
ꢀ‑
44 23 39 70
ꢀ‑
3}
[0391]
{12 17 17 0 32 27 21 2 67 11
ꢀ‑6ꢀ‑
10 89
ꢀ‑
22
ꢀ‑
12 16}
[0392]
{2
ꢀ‑
9 8 45 7
ꢀ‑
8 27 35
ꢀ‑9ꢀ‑
31
ꢀ‑
17
ꢀ‑
87
ꢀ‑
23
ꢀ‑
22
ꢀ‑
19 44}
[0393]
{-1
ꢀ‑
9 28
ꢀ‑
24
ꢀ‑1ꢀ‑
10 49
ꢀ‑
30
ꢀ‑8ꢀ‑
740 1 4 33 65 67}
[0394]
{5
ꢀ‑
12
ꢀ‑
24
ꢀ‑
17 13
ꢀ‑
34
ꢀ‑
32
ꢀ‑
16 14
ꢀ‑
67
ꢀ‑
7 9 7
ꢀ‑
74 49 1}
[0395]
{2
ꢀ‑
6 11 45 3
ꢀ‑
10 33 55 8
ꢀ‑
5 59 4 7
ꢀ‑
4 44
ꢀ‑
66}
[0396]
{-1 1
ꢀ‑
14 36
ꢀ‑
1 2
ꢀ‑
20 69 0 0
ꢀ‑
15 72 3 4 5 65}
[0397]
},
[0398]-否则,如果ntrs等于48,lfnsttrsetidx等于0,且和lfnstidx等于1,则以下适用:
[0399]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0400]
lowfreqtransmatrixcol0to15=
[0401]
{
[0402]
{-117 28 18 2 4 1 2 1 32
ꢀ‑
18
ꢀ‑
2 0
ꢀ‑
1 0 0 0}
[0403]
{-29
ꢀ‑
91 47 1 9 0 3 0
ꢀ‑
54 26
ꢀ‑
8 3 0 1 0 0}
[0404]
{-10 62
ꢀ‑
11
ꢀ‑8ꢀ‑2ꢀ‑2ꢀ‑1ꢀ‑1ꢀ‑
95 3 32 0 4 0 2 0}
[0405]
{-15 15
ꢀ‑
10
ꢀ‑
2 1 0 1 0 10 112
ꢀ‑
20
ꢀ‑
17
ꢀ‑4ꢀ‑4ꢀ‑1ꢀ‑
2}
[0406]
{32 39 92
ꢀ‑
44 4
ꢀ‑
10 1
ꢀ‑
4 26 12
ꢀ‑
15 13
ꢀ‑
5 2
ꢀ‑
2 0}
[0407]
{-10 1 50
ꢀ‑
15 2
ꢀ‑
3 1
ꢀ‑1ꢀ‑
28
ꢀ‑
15 14 6 1 1 1 0}
[0408]
{1
ꢀ‑
33
ꢀ‑
11
ꢀ‑
14 7
ꢀ‑
2 2 0 29
ꢀ‑
12 37
ꢀ‑7ꢀ‑
4 0
ꢀ‑
1 0}
[0409]
{0 6
ꢀ‑
6 21
ꢀ‑
4 2 0 0
ꢀ‑
20
ꢀ‑
24
ꢀ‑
104 30 5 5 1 2}
[0410]
{-13
ꢀ‑
13
ꢀ‑
37
ꢀ‑
101 29
ꢀ‑
11 8
ꢀ‑3ꢀ‑
12
ꢀ‑
15
ꢀ‑
20 2
ꢀ‑
11 5
ꢀ‑
2 1}
[0411]
{6 1
ꢀ‑
14
ꢀ‑
36 9
ꢀ‑
3 2 0 10 9
ꢀ‑
18
ꢀ‑1ꢀ‑
3 1 0 0}
[0412]
{-12
ꢀ‑2ꢀ‑
26
ꢀ‑
12
ꢀ‑
9 2
ꢀ‑
1 1
ꢀ‑
3 30 4 34
ꢀ‑
4 0
ꢀ‑
1 0}
[0413]
{0
ꢀ‑
3 0
ꢀ‑4ꢀ‑
15 6
ꢀ‑
3 1
ꢀ‑7ꢀ‑
15
ꢀ‑
28
ꢀ‑
86 19
ꢀ‑
5 4
ꢀ‑
1}
[0414]
{-1 9 13 5 14
ꢀ‑
2 2
ꢀ‑1ꢀ‑
8 3
ꢀ‑4ꢀ‑
62 4 1 1 0}
[0415]
{6 2
ꢀ‑
3 2 10
ꢀ‑
1 2 0 8 3
ꢀ‑1ꢀ‑
20 0 1 0 0}
[0416]
{6 9
ꢀ‑
2 35 110
ꢀ‑
22 11
ꢀ‑4ꢀ‑
2 0
ꢀ‑
3 1
ꢀ‑
18 12
ꢀ‑
3 2}
[0417]
{-1 7
ꢀ‑
2 9
ꢀ‑
11 5
ꢀ‑
1 1
ꢀ‑
7 2
ꢀ‑
22 4
ꢀ‑
13 0
ꢀ‑
1 0}
[0418]
},
[0419]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0420]
lowfreqtransmatrixcol16to31=
[0421]
{
[0422]
{14
ꢀ‑1ꢀ‑
3 0
ꢀ‑
1 0 0 0 2 0 0 0 0 0 0 0}
[0423]
{33 5
ꢀ‑9ꢀ‑1ꢀ‑
2 0
ꢀ‑
1 0
ꢀ‑
3 3 0 0 0 0 0 0}
[0424]
{32
ꢀ‑
30
ꢀ‑
4 4
ꢀ‑
1 1 0 0 6 2
ꢀ‑
5 0 0 0 0 0}
[0425]
{-20
ꢀ‑
26 31 1 0 0 0 0 2
ꢀ‑
16
ꢀ‑
1 6 0 1 0 0}
[0426]
{29
ꢀ‑
16
ꢀ‑
22 8 0 1 0 1
ꢀ‑
20 6 4
ꢀ‑
3 1 0 0 0}
[0427]
{-99
ꢀ‑
4 9 5 5 2 2 1 44
ꢀ‑
10
ꢀ‑
11 1
ꢀ‑
2 0
ꢀ‑
1 0}
[0428]
{6
ꢀ‑
99 3 26
ꢀ‑
1 5 0 2 14 30
ꢀ‑
27
ꢀ‑
2 1
ꢀ‑
1 0
ꢀ‑
1}
[0429]
{-7
ꢀ‑
46 10
ꢀ‑
14 7 0 1 0 9 21 7
ꢀ‑6ꢀ‑2ꢀ‑
1 0
ꢀ‑
1}
[0430]
{-12 10 26 12
ꢀ‑
6 0
ꢀ‑
1 0
ꢀ‑
32
ꢀ‑
2 11 3 3
ꢀ‑
1 1 0}
[0431]
{38 26
ꢀ‑
13
ꢀ‑1ꢀ‑5ꢀ‑1ꢀ‑
1 0 102 3
ꢀ‑
14
ꢀ‑1ꢀ‑5ꢀ‑1ꢀ‑
2 0}
[0432]
{-30 3
ꢀ‑
92 14 19 0 3 0
ꢀ‑
11 34 21
ꢀ‑
33 1
ꢀ‑
2 0
ꢀ‑
1}
[0433]
{-5
ꢀ‑
17
ꢀ‑
41 42
ꢀ‑
6 2
ꢀ‑
1 1
ꢀ‑1ꢀ‑
40 37 13
ꢀ‑
4 2
ꢀ‑
1 1}
[0434]
{-12 23 16
ꢀ‑
11
ꢀ‑
17 0
ꢀ‑
1 0
ꢀ‑
11 97
ꢀ‑3ꢀ‑
3 0
ꢀ‑
6 0
ꢀ‑
2}
[0435]
{-4 4
ꢀ‑
16 0-2 0 1 0 34 23 6
ꢀ‑7ꢀ‑
4-2
ꢀ‑
1 0}
[0436]
{-5
ꢀ‑
4-22 8
ꢀ‑
25 3 0 0
ꢀ‑3ꢀ‑
21 2
ꢀ‑
3 9
ꢀ‑
2 1 0}
[0437]
{0 28 0 76 4
ꢀ‑
6 0
ꢀ‑2ꢀ‑
13 5
ꢀ‑
76
ꢀ‑
4 33
ꢀ‑
1 3 0}
[0438]
},
[0439]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0440]
lowfreqtransmatrixcol32to47=
[0441]
{
[0442]
{3 0
ꢀ‑
1 0 1 0 0 0 1 0 0 0 1 0 0 0}
[0443]
{7 2
ꢀ‑
2 0-1 1 0 0 2 1
ꢀ‑
1 0 0 0 0 0}
[0444]
{6
ꢀ‑
3 0 0 2 0
ꢀ‑
1 0 2
ꢀ‑
1 0 0 1 0 0 0}
[0445]
{1
ꢀ‑
4 0 0 0
ꢀ‑
3 0 1 0
ꢀ‑
1 0 0 0
ꢀ‑
2 0 0}
[0446]
{1
ꢀ‑4ꢀ‑
3 2
ꢀ‑
4 1 0 0 1
ꢀ‑1ꢀ‑
2 1
ꢀ‑
2 0 0 0}
[0447]
{-5 4
ꢀ‑
3 0 8
ꢀ‑1ꢀ‑
2 0
ꢀ‑
2 1
ꢀ‑
1 0 4 0
ꢀ‑
1 0}
[0448]
{-6 6 6
ꢀ‑
3 1 3
ꢀ‑
3 0
ꢀ‑
1 1 1 0 0 1
ꢀ‑
1 0}
[0449]
{2 2 5
ꢀ‑
2 0 3 4-1 0 0 1 0 0 1 2
ꢀ‑
1}
[0450]
{11
ꢀ‑5ꢀ‑
1 6
ꢀ‑
4 2 1 0 3
ꢀ‑
1 1 2
ꢀ‑
1 0 0 0}
[0451]
{-29 10 10 0 10
ꢀ‑4ꢀ‑
1 1
ꢀ‑
7 1 2 1 2
ꢀ‑
1 0 0}
[0452]
{-9
ꢀ‑
4 18 3 2 0 0
ꢀ‑2ꢀ‑1ꢀ‑
1 3 0 0 0 0
ꢀ‑
1}
[0453]
{-10 13
ꢀ‑1ꢀ‑
4 4
ꢀ‑
4 3 4
ꢀ‑
2 2
ꢀ‑1ꢀ‑
1 1
ꢀ‑
1 1 2}
[0454]
{-21
ꢀ‑
5 23 0 2
ꢀ‑2ꢀ‑
1 6
ꢀ‑3ꢀ‑
3 1 0 0 0 0 2}
[0455]
{108
ꢀ‑5ꢀ‑
30 6
ꢀ‑
27 10 7
ꢀ‑
2 11
ꢀ‑3ꢀ‑
1 1
ꢀ‑
4 1 0 1}
[0456]
{-7 1 3
ꢀ‑
5 3 0
ꢀ‑
1 0 0 1 0
ꢀ‑
1 1 0 0 0}
[0457]
{9 18
ꢀ‑3ꢀ‑
35
ꢀ‑4ꢀ‑
1 6 1 1 2 0
ꢀ‑3ꢀ‑
1 0 2 0}
[0458]
},
[0459]-否则,如果ntrs等于48,lfnsttrsetidx等于0,且和lfnstidx等于2,则以下适用:
[0460]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0461]
lowfreqtransmatrixcol0to15=
[0462]
{
[0463]
{-108 48 9 1 1 1 0 0 44
ꢀ‑6ꢀ‑9ꢀ‑1ꢀ‑
1 0
ꢀ‑
1 0}
[0464]
{55 66
ꢀ‑
37
ꢀ‑5ꢀ‑6ꢀ‑1ꢀ‑
2 0 67
ꢀ‑
30
ꢀ‑
20 4
ꢀ‑
2 0
ꢀ‑
1 0}
[0465]
{286-21-13-4-2-1-1-885645110}
[0466]
{-24-21-381904-12-23-8931202311}
[0467]
{92098-26-3-50-2-9-2615-162010}
[0468]
{-21-7-371022-11-1069-5-7-2-20-1}
[0469]
{-10-254-178-22-1-27-17-71258211}
[0470]
{251064-94-31-48623-171-20}
[0471]
{-11-15-28-976-14-17357-1510-20-1}
[0472]
{91324-67-21-116392047-2-2-20}
[0473]
{-7111272-10-1-14-1-24112000}
[0474]
{007-623-33-151189613-9-1-1}
[0475]
{-2-6-1-100110-7-2-2820-154-31}
[0476]
{-16-16024-31-12661618-71-1}
[0477]
{-5-6-3-19-10418-4306035-4120-22}
[0478]
{-1-2023-90-20118-129110}
[0479]
},
[0480]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0481]
lowfreqtransmatrixcol16to31=
[0482]
{
[0483]
{9-9-1100003-1100000}
[0484]
{-31-191441110-635-20000}
[0485]
{14-503000010-5-20-1000}
[0486]
{-302636-8-2-20-11418-7-9-1-100}
[0487]
{-61-3-2371101216-6-10-100}
[0488]
{-932190302017400-1000}
[0489]
{-4-662836-5301-102033-13-800-1}
[0490]
{-3-755-141401-36318-44010}
[0491]
{-1-271361-100-34-6034120}
[0492]
{282376-5-25-3-3-1636-7-39-4-10-1}
[0493]
{-204811-13-5-20-1-105-191706230}
[0494]
{-21-7-4214-24-30011-47-73-5912}
[0495]
{-2-32-2-663712-1113-70543-230}
[0496]
{-311-6394-52-1-2294-4-6-4-41-2}
[0497]
{-210-1816213-20-2116-106-3-10}
[0498]
{3-6137630-11-1-2-26-8-697-9-73-1}
[0499]
},
[0500]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0501]
lowfreqtransmatrixcol32to47=
[0502]
{
[0503]
{1
ꢀ‑
1 0 0 1 0 0 0 0
ꢀ‑
1 0 0 0 0 0 0}
[0504]
{-7
ꢀ‑
1 1 0
ꢀ‑
1 1 1 0
ꢀ‑2ꢀ‑
1 1 0 0 0 0 0}
[0505]
{6
ꢀ‑
5 0 1 2
ꢀ‑
1 0 0 1
ꢀ‑
1 0 0 1 0 0 0}
[0506]
{1 3
ꢀ‑2ꢀ‑
1 3 2
ꢀ‑2ꢀ‑
1 0 1 0 0 1 1
ꢀ‑
1 0}
[0507]
{2 0
ꢀ‑
8 1 3 1
ꢀ‑
1 1 0
ꢀ‑1ꢀ‑
2 0 1 0
ꢀ‑
1 0}
[0508]
{5
ꢀ‑4ꢀ‑
2 0 4
ꢀ‑
2 0 1 0 0 0 0 2
ꢀ‑
1 0 0}
[0509]
{3 6
ꢀ‑3ꢀ‑7ꢀ‑
1 3 3
ꢀ‑
1 1 0
ꢀ‑
1 0 0 1 1
ꢀ‑
1}
[0510]
{1 14
ꢀ‑2ꢀ‑8ꢀ‑
2 1
ꢀ‑
3 0 2 2
ꢀ‑1ꢀ‑
2 0 1
ꢀ‑
1 0}
[0511]
{-2 8 1 5
ꢀ‑
2 0
ꢀ‑
3 1 1 1 0 2
ꢀ‑
1 0
ꢀ‑
1 0}
[0512]
{2
ꢀ‑4ꢀ‑
18
ꢀ‑3ꢀ‑1ꢀ‑1ꢀ‑2ꢀ‑
2 1
ꢀ‑2ꢀ‑
2 0 0 0
ꢀ‑1ꢀ‑
1}
[0513]
{-14 8 8 2 1 2
ꢀ‑1ꢀ‑
2 3 0
ꢀ‑
1 0 0 0 0 0}
[0514]
{0-1 19
ꢀ‑
1 1 0
ꢀ‑1ꢀ‑6ꢀ‑
1 1 2 0 1 0 0
ꢀ‑
2}
[0515]
{8
ꢀ‑
14
ꢀ‑
3 43
ꢀ‑
1 2 7
ꢀ‑
1 1
ꢀ‑
2 1 3
ꢀ‑
1 1 1 0}
[0516]
{10 23
ꢀ‑
19
ꢀ‑
5 0
ꢀ‑6ꢀ‑
4 6 3
ꢀ‑
2 1 1 0
ꢀ‑
1 0 0}
[0517]
{-1 5
ꢀ‑1ꢀ‑6ꢀ‑1ꢀ‑1ꢀ‑1ꢀ‑1ꢀ‑
1 0 0 0 0 0 0
ꢀ‑
1}
[0518]
{-10
ꢀ‑
34
ꢀ‑
25 13
ꢀ‑
1 0 11 5 1
ꢀ‑
1 1
ꢀ‑
2 0 0 2 0}
[0519]
},
[0520]-否则,如果ntrs等于48,lfnsttrsetidx等于1,且lfnstidx等于1,则以下适用:
[0521]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0522]
lowfreqtransmatrixcol0to15=
[0523]
{
[0524]
{110
ꢀ‑
49
ꢀ‑3ꢀ‑4ꢀ‑1ꢀ‑
1 0
ꢀ‑1ꢀ‑
38
ꢀ‑
1 10 0 2 0 1 0}
[0525]
{-43
ꢀ‑
19 17
ꢀ‑
1 3 0 1 0
ꢀ‑
98 46 14
ꢀ‑
1 2 0 1 0}
[0526]
{-19 17
ꢀ‑
7 3
ꢀ‑
2 1
ꢀ‑
1 0
ꢀ‑
32
ꢀ‑
59 29 3 4 0 2 0}
[0527]
{-35
ꢀ‑
103 39 1 7 0 2 0 38
ꢀ‑
13 25
ꢀ‑
6 1
ꢀ‑
1 0 0}
[0528]
{9 5
ꢀ‑6ꢀ‑1ꢀ‑
1 0
ꢀ‑
1 0 42 4 21
ꢀ‑
11 1
ꢀ‑
3 1
ꢀ‑
1}
[0529]
{-5
ꢀ‑5ꢀ‑
28 9
ꢀ‑
3 2
ꢀ‑
1 1
ꢀ‑
20
ꢀ‑
78 22 16 1 3 0 1}
[0530]
{14 17 27
ꢀ‑
12 1
ꢀ‑
3 1
ꢀ‑
1 8 19
ꢀ‑
13 4
ꢀ‑
2 1
ꢀ‑
1 0}
[0531]
{7 35 17
ꢀ‑4ꢀ‑
1 0 0 0 3 8 54
ꢀ‑
17 1
ꢀ‑
2 1
ꢀ‑
1}
[0532]
{-13
ꢀ‑
27
ꢀ‑
101 24
ꢀ‑
8 6
ꢀ‑
32 11 43 6 28
ꢀ‑
6 3
ꢀ‑
1 1}
[0533]
{-11
ꢀ‑
13
ꢀ‑3ꢀ‑
10 3
ꢀ‑
1 1 0
ꢀ‑
19
ꢀ‑
19
ꢀ‑
37 8 4 2 0 1}
[0534]
{-4
ꢀ‑
10
ꢀ‑
24
ꢀ‑
11 3
ꢀ‑
2 0
ꢀ‑1ꢀ‑6ꢀ‑
37
ꢀ‑
45
ꢀ‑
17 8
ꢀ‑
2 2
ꢀ‑
1}
[0535]
{-2 1 13
ꢀ‑
17 3
ꢀ‑
5 1
ꢀ‑
2 3 0
ꢀ‑
55 22 6 1 1 0}
[0536]
{3 1 5
ꢀ‑
15 1
ꢀ‑
2 1
ꢀ‑
1 7 4
ꢀ‑
7 29
ꢀ‑
1 2
ꢀ‑
1 1}
[0537]
{-4
ꢀ‑8ꢀ‑1ꢀ‑
50 6
ꢀ‑
4 2
ꢀ‑2ꢀ‑
1 5
ꢀ‑
22 20 6 1 0 0}
[0538]
{5
ꢀ‑
1 26 102
ꢀ‑
13 12
ꢀ‑
4 4
ꢀ‑4ꢀ‑2ꢀ‑
40
ꢀ‑7ꢀ‑
23 3
ꢀ‑
5 1}
[0539]
{-5
ꢀ‑6ꢀ‑
27
ꢀ‑
22
ꢀ‑
12 0
ꢀ‑
3 0
ꢀ‑
5 8
ꢀ‑
20
ꢀ‑
83 0 0 0 0}
[0540]
},
[0541]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0542]
lowfreqtransmatrixcol16to31=
[0543]
{
[0544]
{-9131-20000-42-300000}
[0545]
{2626-15-3-2-1-1011-7-920000}
[0546]
{-724334-93-21-11336-18-100-20-1}
[0547]
{-176-71-100-13142-42-100}
[0548]
{2170-32-210-4-1-134-26-57114201}
[0549]
{80-625-5-4-1-106-247-90000}
[0550]
{48-148-15-4-2-1-1160-28-425-61-2}
[0551]
{1014-11-344-41-1-80-7-6215030}
[0552]
{-31421-12-7-2-1-1-2310-4-123010}
[0553]
{-12-303-95010-56-9-47821141}
[0554]
{1714-581415020-1034-7284-110}
[0555]
{8742140-140-20-36-811-13-231-30}
[0556]
{8312-14-9-1-10429-153110411}
[0557]
{-16-1518-29-112-2140-45-19-2231241}
[0558]
{-158-23721110-11-13-312-320}
[0559]
{9724-20413611520121117-91-2}
[0560]
},
[0561]
lowfreqtransmatrix[m][n]=
[0562]
lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0563]
lowfreqtransmatrixcol32to47=
[0564]
{
[0565]
{-2201-1100-1100-1000}
[0566]
{9-3-123-3004-1002-100}
[0567]
{30-12361-321-1-2031-11}
[0568]
{-211-6-2-24-3003-20-11-10}
[0569]
{-4-325241-6124-3-24-20-100}
[0570]
{-7313-4-351-5-231-2-12-1-2}
[0571]
{11-11-5111-2-10-2132-6-44-2-322}
[0572]
{-16461327-2402-2-581-1-22}
[0573]
{29-1001-5-442-2220-210}
[0574]
{-11-301059-28418256-7-135-2}
[0575]
{2334-31410-22-30224-159202-594}
[0576]
{-36616-14219-4-12-10-7-302-2-1}
[0577]
{61225514133-9-651-11-21-700-13}
[0578]
{-25 41 0 12 9 7
ꢀ‑
42 12
ꢀ‑3ꢀ‑
14 2 28 5 1 6 2}
[0579]
{-9 23 4 9 14 9
ꢀ‑
14
ꢀ‑
4 0
ꢀ‑
12
ꢀ‑
7 6 3 0 6 3}
[0580]
{-26
ꢀ‑
1 18
ꢀ‑1ꢀ‑
12 32 3
ꢀ‑
18
ꢀ‑
5 10
ꢀ‑
25
ꢀ‑5ꢀ‑
2 1
ꢀ‑
8 10}
[0581]
},
[0582]-否则,如果ntrs等于48,lfnsttrsetidx等于1,且lfnstidx等于2,则以下适用:
[0583]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0584]
lowfreqtransmatrixcol0to15=
[0585]
{
[0586]
{80
ꢀ‑
49 6
ꢀ‑
4 1
ꢀ‑
1 1
ꢀ‑1ꢀ‑
72 36 4 0 1 0 0 0}
[0587]
{-72
ꢀ‑
6 17 0 3 0 1 0
ꢀ‑
23 58
ꢀ‑
21 2
ꢀ‑
3 1
ꢀ‑
1 0}
[0588]
{-50 19
ꢀ‑
15 4
ꢀ‑
1 1
ꢀ‑
1 1
ꢀ‑
58
ꢀ‑
2 30
ꢀ‑
3 4
ꢀ‑
1 2 0}
[0589]
{-33
ꢀ‑
43 28
ꢀ‑
7 4
ꢀ‑
2 2
ꢀ‑1ꢀ‑
38 11
ꢀ‑
8 4 1 1 0 0}
[0590]
{10 66
ꢀ‑
21
ꢀ‑3ꢀ‑
3 0
ꢀ‑
1 0
ꢀ‑
53
ꢀ‑
41-2 16
ꢀ‑
1 4
ꢀ‑
1 1}
[0591]
{18 14 13
ꢀ‑
9 2
ꢀ‑
2 1
ꢀ‑
1 34 32
ꢀ‑
31 12
ꢀ‑
5 2
ꢀ‑
2 1}
[0592]
{21 66
ꢀ‑
1 9
ꢀ‑
4 2
ꢀ‑
1 1
ꢀ‑
21 41
ꢀ‑
30
ꢀ‑
10 0
ꢀ‑
2 0
ꢀ‑
1}
[0593]
{1
ꢀ‑6ꢀ‑
24 17
ꢀ‑
5 3
ꢀ‑
2 1 24 10 39
ꢀ‑
21 5
ꢀ‑
4 2
ꢀ‑
1}
[0594]
{9 33
ꢀ‑
24 1 4 0 1 0 6 50 26 1
ꢀ‑
10 0
ꢀ‑
2 0}
[0595]
{-7
ꢀ‑9ꢀ‑
32 14
ꢀ‑
3 3
ꢀ‑
1 1
ꢀ‑
23
ꢀ‑
28 0
ꢀ‑5ꢀ‑
1 0 0 0}
[0596]
{6 30 69
ꢀ‑
18 5
ꢀ‑
4 3
ꢀ‑1ꢀ‑3ꢀ‑
11
ꢀ‑
34
ꢀ‑
16 9
ꢀ‑
4 2
ꢀ‑
1}
[0597]
{1
ꢀ‑
8 24
ꢀ‑
3 7
ꢀ‑
2 2
ꢀ‑1ꢀ‑6ꢀ‑
51
ꢀ‑6ꢀ‑4ꢀ‑
5 0
ꢀ‑
1 0}
[0598]
{4 10 4 17
ꢀ‑
9 4
ꢀ‑
2 1 5 14 32
ꢀ‑
15 9
ꢀ‑
3 2
ꢀ‑
1}
[0599]
{-3
ꢀ‑9ꢀ‑
23 10
ꢀ‑
10 3
ꢀ‑
3 1
ꢀ‑5ꢀ‑
14
ꢀ‑
16
ꢀ‑
27 13
ꢀ‑
5 2
ꢀ‑
1}
[0600]
{2 11 22 2 9
ꢀ‑
2 2 0
ꢀ‑6ꢀ‑
7 20
ꢀ‑
32
ꢀ‑3ꢀ‑
4 0
ꢀ‑
1}
[0601]
{2
ꢀ‑
3 8 14
ꢀ‑
5 3
ꢀ‑
1 1
ꢀ‑2ꢀ‑
11 5
ꢀ‑
18 8
ꢀ‑
3 2
ꢀ‑
1}
[0602]
},
[0603]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol1 6to31[m-16][n],其中m=16..31、n=0..15
[0604]
lowfreqtransmatrixcol1 6to31=
[0605]
{
[0606]
{26 0
ꢀ‑
12 2
ꢀ‑
2 1
ꢀ‑
1 0
ꢀ‑7ꢀ‑
9 6 1 0 0 0 0}
[0607]
{55
ꢀ‑
46
ꢀ‑
1 6
ꢀ‑
2 1
ꢀ‑
1 0
ꢀ‑
22 7 17
ꢀ‑
7 2
ꢀ‑
1 1 0}
[0608]
{6 57
ꢀ‑
34 0
ꢀ‑
2 0
ꢀ‑
1 0 34
ꢀ‑
48
ꢀ‑
2 14
ꢀ‑
4 3
ꢀ‑
1 1}
[0609]
{-55 24 26
ꢀ‑
5 2
ꢀ‑
1 1 0 15 46
ꢀ‑
40
ꢀ‑1ꢀ‑
1 0
ꢀ‑
1 0}
[0610]
{36
ꢀ‑
5 41
ꢀ‑
20 3
ꢀ‑
3 1
ꢀ‑1ꢀ‑
30 26
ꢀ‑
32
ꢀ‑
3 7
ꢀ‑
2 2
ꢀ‑
1}
[0611]
{40 4
ꢀ‑4ꢀ‑9ꢀ‑3ꢀ‑2ꢀ‑1ꢀ‑
1 27
ꢀ‑
31
ꢀ‑
43 19
ꢀ‑
2 3
ꢀ‑
1 1}
[0612]
{-35
ꢀ‑
17
ꢀ‑
3 26
ꢀ‑
6 5
ꢀ‑
2 2 56 3 18
ꢀ‑
25
ꢀ‑1ꢀ‑2ꢀ‑1ꢀ‑
1}
[0613]
{33 32
ꢀ‑
30 4
ꢀ‑3ꢀ‑1ꢀ‑
1 0
ꢀ‑
4 13
ꢀ‑
16
ꢀ‑
10 0
ꢀ‑
1 0 0}
[0614]
{-27 1
ꢀ‑
28
ꢀ‑
21 16
ꢀ‑
5 3
ꢀ‑2ꢀ‑
23 36
ꢀ‑
2 40
ꢀ‑
17 4
ꢀ‑
3 1}
[0615]
{-36
ꢀ‑
59
ꢀ‑
24 14 4 2 1 1
ꢀ‑
23
ꢀ‑
26 23 26
ꢀ‑
3 5 0 2}
[0616]
{-16 35
ꢀ‑
35 30
ꢀ‑
9 3
ꢀ‑
2 1
ꢀ‑
57
ꢀ‑
13 6 4
ꢀ‑
5 5
ꢀ‑
1 1}
[0617]
{38
ꢀ‑
1 0 25 6 2 1 1 47 20 35 1
ꢀ‑
27 1
ꢀ‑
5 0}
[0618]
{7 13 19 15
ꢀ‑
8 1
ꢀ‑
1 0 3 25 30
ꢀ‑
18 1
ꢀ‑
2 0
ꢀ‑
1}
[0619]
{-1
ꢀ‑
13
ꢀ‑
30 11
ꢀ‑
5 2
ꢀ‑
1 0
ꢀ‑5ꢀ‑8ꢀ‑
22
ꢀ‑
16 10 0 1 0}
[0620]
{13
ꢀ‑5ꢀ‑
28 6 18
ꢀ‑
4 3
ꢀ‑1ꢀ‑
26 27
ꢀ‑
14 6
ꢀ‑
20 0
ꢀ‑
2 0}
[0621]
{12
ꢀ‑
23
ꢀ‑
19 22 2 0 1 0 23 41
ꢀ‑
7 35
ꢀ‑
10 4
ꢀ‑
1 1}
[0622]
},
[0623]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0624]
lowfreqtransmatrixcol32to47=
[0625]
{
[0626]
{3 5
ꢀ‑1ꢀ‑2ꢀ‑2ꢀ‑2ꢀ‑
1 1 1 1 0 0
ꢀ‑1ꢀ‑
1 0 0}
[0627]
{9 5
ꢀ‑
12 1
ꢀ‑3ꢀ‑
4 4 2 4 1
ꢀ‑2ꢀ‑1ꢀ‑1ꢀ‑
1 1 0}
[0628]
{-10 7 21
ꢀ‑
10 6 1
ꢀ‑
11 0
ꢀ‑1ꢀ‑
1 4 2 3 0
ꢀ‑2ꢀ‑
1}
[0629]
{17
ꢀ‑
38 1 17
ꢀ‑
3 11 15
ꢀ‑
11 3
ꢀ‑1ꢀ‑
10 1 0 1 3 2}
[0630]
{15
ꢀ‑
8 1 17
ꢀ‑1ꢀ‑
2 4
ꢀ‑
8 2 0
ꢀ‑
1 3 0 0 0
ꢀ‑
1}
[0631]
{7
ꢀ‑
49 52 10
ꢀ‑
11 22 7
ꢀ‑
26
ꢀ‑1ꢀ‑6ꢀ‑
9 6
ꢀ‑
2 2 4
ꢀ‑
2}
[0632]
{-15
ꢀ‑
13
ꢀ‑
27 9 9
ꢀ‑
6 20 5
ꢀ‑
3 2
ꢀ‑6ꢀ‑
9 3
ꢀ‑
3 1 5}
[0633]
{24
ꢀ‑
26
ꢀ‑
37 33 5
ꢀ‑
32 55
ꢀ‑5ꢀ‑
7 22
ꢀ‑
14
ꢀ‑
22 1
ꢀ‑9ꢀ‑
3 13}
[0634]
{ 43
ꢀ‑
13 4
ꢀ‑
41
ꢀ‑
19
ꢀ‑2ꢀ‑
24 17 11
ꢀ‑
4 8 4
ꢀ‑3ꢀ‑3ꢀ‑3ꢀ‑
3}
[0635]
{10
ꢀ‑
26 38 7
ꢀ‑
12 11 42
ꢀ‑
22
ꢀ‑
5 20
ꢀ‑
14
ꢀ‑
15
ꢀ‑1ꢀ‑
2 1 6}
[0636]
{28 10 4 7 0
ꢀ‑
15 7
ꢀ‑
10
ꢀ‑
1 7
ꢀ‑
2 2 1
ꢀ‑
3 0 0}
[0637]
{37
ꢀ‑
37
ꢀ‑9ꢀ‑
47
ꢀ‑
28 5 0 18 8 6 0
ꢀ‑8ꢀ‑4ꢀ‑3ꢀ‑
3 1}
[0638]
{11 24 22
ꢀ‑
11
ꢀ‑
3 37
ꢀ‑
13
ꢀ‑
58
ꢀ‑
5 12
ꢀ‑
63 26 9
ꢀ‑
15 11 8}
[0639]
{0
ꢀ‑
29
ꢀ‑
27 6
ꢀ‑
27
ꢀ‑
10
ꢀ‑
30 9
ꢀ‑3ꢀ‑
10
ꢀ‑
7 77 9
ꢀ‑
13 45
ꢀ‑
8}
[0640]
{-76
ꢀ‑
26
ꢀ‑4ꢀ‑
7 12 51 5 24 7
ꢀ‑
17
ꢀ‑
16
ꢀ‑
12
ꢀ‑
5 4 2 13}
[0641]
{5 7 23 5 69
ꢀ‑
38
ꢀ‑8ꢀ‑
32
ꢀ‑
15
ꢀ‑
31 24 11 2 18 11
ꢀ‑
15}
[0642]
},
[0643]-否则,如果ntrs等于48,lfnsttrsetidx等于2,且lfnstidx等于1,则以下适用:
[0644]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0645]
lowfreqtransmatrixcol0to15=
[0646]
{
[0647]
{-121 33 4 4 1 2 0 1
ꢀ‑1ꢀ‑
1 1 0 0 0 0 0}
[0648]
{0
ꢀ‑
2 0 0 0 0 0 0 121
ꢀ‑
23
ꢀ‑7ꢀ‑3ꢀ‑2ꢀ‑1ꢀ‑
1 0}
[0649]
{-20 19
ꢀ‑
5 2
ꢀ‑
1 1 0 0 16 3
ꢀ‑
2 0 0 0 0 0}
[0650]
{32 108
ꢀ‑
43 10
ꢀ‑
9 3
ꢀ‑
3 1 4 19
ꢀ‑
7 1
ꢀ‑
1 0 0 0}
[0651]
{-3 0
ꢀ‑
1 0 0 0 0 0
ꢀ‑
29 11
ꢀ‑
2 1 0 0 0 0}
[0652]
{-4
ꢀ‑
12
ꢀ‑
3 1
ꢀ‑
1 0 0 0 19 105
ꢀ‑
31 7
ꢀ‑
6 1
ꢀ‑
2 0}
[0653]
{7 1 2 0 0 0 0 0 4 3
ꢀ‑
2 0 0 0 0 0}
[0654]
{-8
ꢀ‑
31 14
ꢀ‑
4 3
ꢀ‑
1 1 0 9 43 0 1
ꢀ‑
1 0 0 0}
[0655]
{-15
ꢀ‑
43
ꢀ‑
100 23
ꢀ‑
12 6
ꢀ‑
4 2
ꢀ‑6ꢀ‑
17
ꢀ‑
48 10
ꢀ‑
5 2
ꢀ‑
1 1}
[0656]
{-3 1 2 0 0 0 0 0
ꢀ‑
6 3 1 0 0 0 0 0}
[0657]
{-1
ꢀ‑6ꢀ‑
3 2
ꢀ‑
1 0 0 0
ꢀ‑6ꢀ‑
35 9 0 2 0 0 0}
[0658]
{-5
ꢀ‑
14
ꢀ‑
48 2
ꢀ‑
5 1
ꢀ‑
2 0 10 24 99
ꢀ‑
17 10
ꢀ‑
4 3
ꢀ‑
1}
[0659]
{-2 0 2 0 0 0 0 0
ꢀ‑
2 0 1 0 0 0 0 0}
[0660]
{-2
ꢀ‑
10
ꢀ‑
4 0 0 0 0 0 3 11
ꢀ‑1ꢀ‑
1 0 0 0 0}
[0661]
{-2
ꢀ‑3ꢀ‑
25
ꢀ‑2ꢀ‑
3 0
ꢀ‑
1 0
ꢀ‑1ꢀ‑3ꢀ‑
1 4
ꢀ‑
2 2 0 1}
[0662]
{4
ꢀ‑
4 28 103
ꢀ‑
42 24
ꢀ‑
9 7 1 2 4 0 3
ꢀ‑
1 0 0}
[0663]
},
[0664]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0665]
lowfreqtransmatrixcol16to31=
[0666]
{
[0667]
{24
ꢀ‑5ꢀ‑1ꢀ‑
1 0 0 0 0 5
ꢀ‑
1 0 0 0 0 0 0}
[0668]
{17 1
ꢀ‑
2 0 0 0 0 0
ꢀ‑
27 4 2 0 0 0 0 0}
[0669]
{-120 14 8 1 3 1 1 0
ꢀ‑
18
ꢀ‑
2 3 01 0 0 0}
[0670]
{11
ꢀ‑
30 9
ꢀ‑
2 1
ꢀ‑
1 0 0 0
ꢀ‑
8 2 0 0 0 0 0}
[0671]
{12 7
ꢀ‑
1 0 0 0 0 0-117 12 9 1 3 0 1 0}
[0672]
{9 46
ꢀ‑
6 0 0 0 0 0 8
ꢀ‑
29 9
ꢀ‑
3 1 0 0 0}
[0673]
{22
ꢀ‑
8 1
ꢀ‑
1 0 0 0 0
ꢀ‑
28
ꢀ‑
9 4 0 1 0 0 0}
[0674]
{-13
ꢀ‑
105 17
ꢀ‑
2 2 0 0 0
ꢀ‑8ꢀ‑
25
ꢀ‑
3 0 0 0 0 0}
[0675]
{1
ꢀ‑
5 19
ꢀ‑
6 3
ꢀ‑
1 1 0 2 7 15
ꢀ‑
3 1
ꢀ‑
1 0 0}
[0676]
{0 3
ꢀ‑
2 0 0 0 0 0
ꢀ‑
20 8
ꢀ‑
2 0 0 0 0 0}
[0677]
{1
ꢀ‑
6 11
ꢀ‑
2 2 0 1 0
ꢀ‑9ꢀ‑
100 17
ꢀ‑
1 1 0 0 0}
[0678]
{4 14 32 0 2 0 1 0
ꢀ‑
4 0
ꢀ‑
39 6
ꢀ‑
4 1
ꢀ‑
1 0}
[0679]
{-1
ꢀ‑
1 1
ꢀ‑
1 0 0 0 0
ꢀ‑1ꢀ‑
4 2 0 0 0 0 0}
[0680]
{-6
ꢀ‑
40
ꢀ‑
15 6
ꢀ‑
2 1 0 0 5 57
ꢀ‑
6 2 0 0 0 0}
[0681]
{-7
ꢀ‑8ꢀ‑
97 17
ꢀ‑
9 3
ꢀ‑
3 1
ꢀ‑8ꢀ‑
26
ꢀ‑
61
ꢀ‑1ꢀ‑3ꢀ‑1ꢀ‑1ꢀ‑
1}
[0682]
{-1 0
ꢀ‑9ꢀ‑
42 17
ꢀ‑
9 3
ꢀ‑2ꢀ‑
1 1
ꢀ‑
14 6
ꢀ‑
4 2
ꢀ‑
1 0}
[0683]
},
[0684]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0685]
lowfreqtransmatrixcol32to47=
[0686]
{
[0687]
{3
ꢀ‑
1 0 0 2
ꢀ‑
1 0 0 2
ꢀ‑
1 0 0 1 0 0 0}
[0688]
{-12 2 1 0
ꢀ‑
5 1 0 0
ꢀ‑
1 0 0 0
ꢀ‑
2 0 0 0}
[0689]
{17
ꢀ‑3ꢀ‑
1 0 6
ꢀ‑1ꢀ‑
1 0 2 0 0 0 2 0 0 0}
[0690]
{-7
ꢀ‑
1 2 0
ꢀ‑3ꢀ‑
1 1 0
ꢀ‑2ꢀ‑
2 1 0 0 0 0 0}
[0691]
{-32
ꢀ‑
3 3 0 12
ꢀ‑2ꢀ‑
1 0 7 0 0 0 1 0 0 0}
[0692]
{-3
ꢀ‑
19 3 0
ꢀ‑4ꢀ‑
6 1 0 0 0 0 0 0-1 0 0}
[0693]
{117
ꢀ‑
10
ꢀ‑
8 0 32 1
ꢀ‑
4 0 3 1
ꢀ‑
1 0
ꢀ‑
3 1 0 0}
[0694]
{-7 32
ꢀ‑
5 1
ꢀ‑
1 4 0 0 2
ꢀ‑
1 0 0 1 0-1 0}
[0695]
{4 10 5-1 0 3 1 0-2 1 2 0
ꢀ‑
1 1 1 0}
[0696]
{30 13
ꢀ‑
3 0
ꢀ‑
116 6 10 0
ꢀ‑
35
ꢀ‑
5 4 0
ꢀ‑3ꢀ‑
1 0 0}
[0697]
{-10
ꢀ‑
63 1 2-17 3
ꢀ‑
4 0
ꢀ‑
1 9
ꢀ‑
1 0 3 4
ꢀ‑
1 0}
[0698]
{2
ꢀ‑3ꢀ‑
4 0 2
ꢀ‑2ꢀ‑
2 0 0 0
ꢀ‑
1 0 0
ꢀ‑1ꢀ‑
1 0}
[0699]
{-8
ꢀ‑2ꢀ‑
1 1 30 4
ꢀ‑
4 1-102 4 8
ꢀ‑1ꢀ‑
69
ꢀ‑
2 6
ꢀ‑
1}
[0700]
{1
ꢀ‑
95 18
ꢀ‑6ꢀ‑
10
ꢀ‑
34
ꢀ‑
2 0
ꢀ‑
4 17
ꢀ‑
2 0 0 2 1 0}
[0701]
{2 10 24
ꢀ‑
7 5 9 19
ꢀ‑
1 0 1 4 0
ꢀ‑
2 0 1 0}
[0702]
{-1
ꢀ‑2ꢀ‑
4 4 0 3 1
ꢀ‑
1 0 2 0
ꢀ‑
2 2 0 0 0}
[0703]
},
[0704]-否则,如果ntrs等于48,lfnsttrsetidx等于2,且lfnstidx等于2,则以下适用:
[0705]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0706]
lowfreqtransmatrixcol0to15=
[0707]
{
[0708]
{87
ꢀ‑
41 3
ꢀ‑
4 1
ꢀ‑
1 0
ꢀ‑1ꢀ‑
73 28 2 1 1 1 0 0}
[0709]
{-75 4 7 0 2 0 1 0
ꢀ‑
41 36
ꢀ‑
7 3
ꢀ‑
1 1 0 0}
[0710]
{26
ꢀ‑
44 22
ꢀ‑
6 4
ꢀ‑
2 1
ꢀ‑
1 77 24
ꢀ‑
22 2
ꢀ‑
4 0
ꢀ‑
1 0}
[0711]
{-39
ꢀ‑
68 37
ꢀ‑
7 6
ꢀ‑
2 2 0
ꢀ‑
9 56
ꢀ‑
21 1
ꢀ‑
2 0
ꢀ‑
1 0}
[0712]
{10
ꢀ‑
20 2 0 1 0 0 0 50
ꢀ‑
1 8
ꢀ‑
5 1
ꢀ‑
1 0 0}
[0713]
{-21
ꢀ‑
45 8
ꢀ‑
2 3
ꢀ‑
1 1 0
ꢀ‑7ꢀ‑
30 26
ꢀ‑
8 3
ꢀ‑
1 1
ꢀ‑
1}
[0714]
{-4
ꢀ‑2ꢀ‑
55 28
ꢀ‑
8 5
ꢀ‑
3 2
ꢀ‑
2 37 43
ꢀ‑
19 1
ꢀ‑
2 1
ꢀ‑
1}
[0715]
{2 19 47
ꢀ‑
23 6
ꢀ‑
4 2
ꢀ‑1ꢀ‑
23
ꢀ‑
22
ꢀ‑
44 17
ꢀ‑
2 2
ꢀ‑
1 0}
[0716]
{-19
ꢀ‑
62
ꢀ‑
9 3 0 0 0 0
ꢀ‑
12
ꢀ‑
56 27
ꢀ‑
7 3
ꢀ‑
1 1 0}
[0717]
{1 9
ꢀ‑
5 0
ꢀ‑
1 0 0 0 0 22
ꢀ‑
1 2 0 1 0 0}
[0718]
{5 17
ꢀ‑
9 0
ꢀ‑
2 10 0 13 54
ꢀ‑
2 7
ꢀ‑
1 1 0 0}
[0719]
{7 27 56
ꢀ‑
2 10
ꢀ‑
3 3
ꢀ‑1ꢀ‑2ꢀ‑
6 8
ꢀ‑
28 3
ꢀ‑
4 1
ꢀ‑
1}
[0720]
{0 0 19
ꢀ‑
4 3
ꢀ‑
2 2
ꢀ‑1ꢀ‑3ꢀ‑
13 10
ꢀ‑
4 1 0 0 0}
[0721]
{-3 0
ꢀ‑
27
ꢀ‑
80 40
ꢀ‑
16 6
ꢀ‑
4 4 3 31 61
ꢀ‑
22 7
ꢀ‑
1 1}
[0722]
{1 2
ꢀ‑
8 6
ꢀ‑
1 1 0 0 2 8
ꢀ‑5ꢀ‑
1 0 0 0 0}
[0723]
{-4
ꢀ‑
18
ꢀ‑
57 8
ꢀ‑
8 1
ꢀ‑
3 0
ꢀ‑5ꢀ‑
20
ꢀ‑
69 7
ꢀ‑
6 2
ꢀ‑
2 1}
[0724]
},
[0725]
lowfreqtransmatrix[m][n]=
[0726]
lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0727]
lowfreqtransmatrixcol16to31=
[0728]
{
[0729]
{30
ꢀ‑5ꢀ‑
6 1
ꢀ‑
1 0 0 0
ꢀ‑8ꢀ‑
3 3 0 0 0 0 0}
[0730]
{72
ꢀ‑
29
ꢀ‑
2 0
ꢀ‑
1 0
ꢀ‑
1 0
ꢀ‑
37 6 7
ꢀ‑
2 1 0 0 0}
[0731]
{7
ꢀ‑
38 10 0 1 0 0 0
ꢀ‑
51 27 4
ꢀ‑
3 2
ꢀ‑
1 1 0}
[0732]
{-45 4
ꢀ‑
3 6
ꢀ‑
1 2 0 1 49
ꢀ‑
13 3
ꢀ‑3ꢀ‑
1 0 0 0 0}
[0733]
{66 17
ꢀ‑
24 4
ꢀ‑
3 1
ꢀ‑
1 0 13
ꢀ‑
49 15 1 0 0 0 0}
[0734]
{-9 69
ꢀ‑
33 5
ꢀ‑
2 0
ꢀ‑
1 0
ꢀ‑
44
ꢀ‑
31 10 7
ꢀ‑
2 2 0 1}
[0735]
{-47
ꢀ‑
34
ꢀ‑
27 5 4
ꢀ‑
1 1 0
ꢀ‑
39
ꢀ‑
2 27 4
ꢀ‑
2 1 0 0}
[0736]
{-33 3 22
ꢀ‑2ꢀ‑
4 1
ꢀ‑
1 0
ꢀ‑
58
ꢀ‑
17 6
ꢀ‑
6 7
ꢀ‑
1 1 0}
[0737]
{7
ꢀ‑
8 16
ꢀ‑
6 4
ꢀ‑
2 1
ꢀ‑1ꢀ‑
15 54
ꢀ‑
23 2
ꢀ‑
1 0 0 0}
[0738]
{-13 17 0
ꢀ‑
2 0
ꢀ‑
1 0 0
ꢀ‑
46
ꢀ‑
10
ꢀ‑
10 4
ꢀ‑
1 1 0 0}
[0739]
{4 51
ꢀ‑3ꢀ‑6ꢀ‑1ꢀ‑
1 0 0
ꢀ‑
20 6
ꢀ‑
34 9
ꢀ‑
2 2
ꢀ‑
1 0}
[0740]
{-1
ꢀ‑4ꢀ‑
68 35
ꢀ‑
5 5
ꢀ‑
2 1 0 35 43
ꢀ‑4ꢀ‑
6 1
ꢀ‑
1 0}
[0741]
{-6
ꢀ‑
37
ꢀ‑
18
ꢀ‑
5 2
ꢀ‑
2 1
ꢀ‑
1 6
ꢀ‑6ꢀ‑
7 25
ꢀ‑
6 4
ꢀ‑
1 1}
[0742]
{-4
ꢀ‑7ꢀ‑
26
ꢀ‑6ꢀ‑
10 6
ꢀ‑
4 1 3 8 14
ꢀ‑
18 15
ꢀ‑
5 2
ꢀ‑
1}
[0743]
{1 24 3 5
ꢀ‑
1 1 0 0
ꢀ‑
3 12 6
ꢀ‑
10 1
ꢀ‑
1 0 0}
[0744]
{1 4 0 33
ꢀ‑
7 5
ꢀ‑
2 1 0
ꢀ‑
9 53
ꢀ‑
22 3
ꢀ‑
1 0 0}
[0745]
},
[0746]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixco132to47[m-32][n],其中m=32..47、n=0..15
[0747]
lowfreqtransmatrixcol32to47=
[0748]
{
[0749]
{3 2
ꢀ‑
1 0
ꢀ‑2ꢀ‑
1 0 0 1 1 0 0
ꢀ‑
1 0 0 0}
[0750]
{12 3
ꢀ‑
4 0
ꢀ‑3ꢀ‑
2 1 0 4 0 0 0
ꢀ‑
1 0 0 0}
[0751]
{31
ꢀ‑5ꢀ‑
8 3
ꢀ‑
14 0 5
ꢀ‑
1 6 1
ꢀ‑
3 0
ꢀ‑4ꢀ‑
1 1 0}
[0752]
{-19 2 0 0 5 1 1 0
ꢀ‑
2 0
ꢀ‑
1 0 1 0 0 0}
[0753]
{-53 34 6
ꢀ‑
5 30
ꢀ‑7ꢀ‑
11 3
ꢀ‑
11
ꢀ‑
2 5 1 4 2
ꢀ‑1ꢀ‑
1}
[0754]
{49 7 2
ꢀ‑6ꢀ‑
23
ꢀ‑3ꢀ‑
2 2 9 4 0 0
ꢀ‑2ꢀ‑1ꢀ‑
1 0}
[0755]
{-11 32
ꢀ‑8ꢀ‑
7 27
ꢀ‑
12
ꢀ‑
6 6
ꢀ‑
13 0 4
ꢀ‑
3 3
ꢀ‑1ꢀ‑
2 1}
[0756]
{-23 40
ꢀ‑
2 5 43
ꢀ‑
11
ꢀ‑8ꢀ‑1ꢀ‑
18
ꢀ‑
4 5 2 4 3 0
ꢀ‑
1}
[0757]
{-42
ꢀ‑
25 4 6 34 8 2
ꢀ‑2ꢀ‑
15
ꢀ‑
1 0
ꢀ‑
1 3 2 0 1}
[0758]
{-80
ꢀ‑
27 20
ꢀ‑4ꢀ‑
66 23
ꢀ‑2ꢀ‑
2 20
ꢀ‑3ꢀ‑
2 3
ꢀ‑
14 2 3
ꢀ‑
1}
[0759]
{16
ꢀ‑
52 28 1 59 15
ꢀ‑8ꢀ‑5ꢀ‑
28
ꢀ‑
7 2 2 10 3 0
ꢀ‑
1}
[0760]
{-14
ꢀ‑
38
ꢀ‑
12
ꢀ‑
10 9 5 7 6
ꢀ‑
9 7
ꢀ‑4ꢀ‑
3 4
ꢀ‑
4 0 3}
[0761]
{16 10 55
ꢀ‑
24 15 46
ꢀ‑
52 1 35
ꢀ‑
43 10 12
ꢀ‑
23 13 5
ꢀ‑
8}
[0762]
{-2
ꢀ‑4ꢀ‑
1 13 0 2
ꢀ‑4ꢀ‑
3 3
ꢀ‑
1 2 1
ꢀ‑
2 0
ꢀ‑2ꢀ‑
1}
[0763]
{-9
ꢀ‑1ꢀ‑
25 10 45
ꢀ‑
11 18 2 86 1
ꢀ‑
13
ꢀ‑4ꢀ‑
65
ꢀ‑
6 7 2}
[0764]
{4
ꢀ‑
27
ꢀ‑2ꢀ‑
9 5 36
ꢀ‑
13 5
ꢀ‑7ꢀ‑
17 1 2 4 6 4
ꢀ‑
1}
[0765]
},
[0766]-否则,如果ntrs等于48,lfnsttrsetidx等于3,且lfnstidx等于1,则以下适用:
[0767]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m=0..15、n=0..15
[0768]
lowfreqtransmatrixcol0to15=
[0769]
{
[0770]
{-115 37 9 2 2 1 1 0 10
ꢀ‑
29 8 0 1 0 1 0}
[0771]
{15 51
ꢀ‑
18 0
ꢀ‑
3 0
ꢀ‑
1 0-95 7 34
ꢀ‑
3 5
ꢀ‑
1 2 0}
[0772]
{29
ꢀ‑
22 16
ꢀ‑
6 3
ꢀ‑
2 1
ꢀ‑1ꢀ‑4ꢀ‑
80 12 15 0 3 0 1}
[0773]
{-36
ꢀ‑
98 25 5 4 1 2 1
ꢀ‑
59 11
ꢀ‑
17 1 1 1 0 0}
[0774]
{-6 18 3
ꢀ‑3ꢀ‑
1 0 0 0
ꢀ‑
50
ꢀ‑5ꢀ‑
38 12 0 2 0 1}
[0775]
{4 15 52
ꢀ‑
13 5
ꢀ‑
3 2
ꢀ‑1ꢀ‑
17
ꢀ‑
45 16 24
ꢀ‑
2 4
ꢀ‑
1 2}
[0776]
{-20
ꢀ‑7ꢀ‑
43 4 0 1
ꢀ‑
1 1
ꢀ‑
7 35 0 12
ꢀ‑
4 1
ꢀ‑
1 0}
[0777]
{4 29 1 26
ꢀ‑
5 4
ꢀ‑
2 1
ꢀ‑
17
ꢀ‑7ꢀ‑
73 6 6 2 1 1}
[0778]
{12 13 10 2
ꢀ‑
1 3
ꢀ‑
1 1 17
ꢀ‑2ꢀ‑
46 12 7 0 2 0}
[0779]
{5 20 90
ꢀ‑
17 4
ꢀ‑
3 2
ꢀ‑
1 6 66 8 28
ꢀ‑
7 3
ꢀ‑
1 1}
[0780]
{-3
ꢀ‑4ꢀ‑
34
ꢀ‑
12 2
ꢀ‑1ꢀ‑
1 0 5 25 11 43
ꢀ‑
10 4
ꢀ‑
2 1}
[0781]
{-1
ꢀ‑
3 2 19
ꢀ‑
2 4
ꢀ‑
1 2 9 3
ꢀ‑
35 22 11 1 2 0}
[0782]
{10
ꢀ‑4ꢀ‑
6 12 5 1 1 0 11
ꢀ‑9ꢀ‑
12
ꢀ‑2ꢀ‑
7 0-1 0}
[0783]
{4 6 14 53
ꢀ‑
4 4 0 2 0
ꢀ‑1ꢀ‑
20
ꢀ‑
13 3 2
ꢀ‑
1 1}
[0784]
{2 9 13 37 19 6 2 2
ꢀ‑9ꢀ‑3ꢀ‑9ꢀ‑
28
ꢀ‑
20
ꢀ‑4ꢀ‑3ꢀ‑
1}
[0785]
{3
ꢀ‑
3 12 84
ꢀ‑
12 8
ꢀ‑
2 3 6 13 50
ꢀ‑
1 45 1 7 0}
[0786]
},
[0787]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0788]
lowfreqtransmatrixcol16to31=
[0789]
{
[0790]
{23
ꢀ‑8ꢀ‑
8 1
ꢀ‑
1 0 0 0 3 3
ꢀ‑2ꢀ‑
1 0 0 0 0}
[0791]
{23
ꢀ‑
47 1 6 0 1 0 1 8 5
ꢀ‑
12 0-1 0 0 0}
[0792]
{45 7
ꢀ‑
59 7
ꢀ‑
2 1
ꢀ‑
1 0
ꢀ‑
15 41
ꢀ‑3ꢀ‑
16 2
ꢀ‑
3 0
ꢀ‑
1}
[0793]
{6
ꢀ‑
13 7
ꢀ‑
3 0 0 0 0 14
ꢀ‑4ꢀ‑
14 3
ꢀ‑
1 0 0 0}
[0794]
{3 67
ꢀ‑7ꢀ‑
40 3
ꢀ‑
6 1
ꢀ‑3ꢀ‑
12
ꢀ‑
13 65
ꢀ‑3ꢀ‑
10 0
ꢀ‑
1 0}
[0795]
{-87
ꢀ‑8ꢀ‑
14 7 8 1 2 0 23
ꢀ‑
35
ꢀ‑6ꢀ‑
3 1 1 0 0}
[0796]
{-51
ꢀ‑2ꢀ‑
57 5 15 0 4 0 7 39 5
ꢀ‑
55 1
ꢀ‑
7 1
ꢀ‑
3}
[0797]
{-5 21
ꢀ‑
3 5
ꢀ‑1ꢀ‑
3 0
ꢀ‑1ꢀ‑
11 2
ꢀ‑
52
ꢀ‑
3 27
ꢀ‑
2 5 0}
[0798]
{16
ꢀ‑
45
ꢀ‑9ꢀ‑
53 6 1 1 0 70 16 8
ꢀ‑4ꢀ‑
37 1
ꢀ‑
7 0}
[0799]
{29 5
ꢀ‑
19 12 9
ꢀ‑
1 1 0
ꢀ‑
10 14
ꢀ‑1ꢀ‑
13 7 0 1 0}
[0800]
{23 20
ꢀ‑
40 12 21
ꢀ‑
3 4
ꢀ‑
1 25
ꢀ‑
28
ꢀ‑
10 5 8 6 0 2}
[0801]
{-7
ꢀ‑
65
ꢀ‑
19
ꢀ‑
22 11 4 2 1
ꢀ‑
75
ꢀ‑
18 3
ꢀ‑1ꢀ‑
10 2 0 1}
[0802]
{33-10-41818-44-128-721-4915221}
[0803]
{-31-535-16-6-1-24629132137-54-1}
[0804]
{11892824622-20-5-25-33-369-22}
[0805]
{-218-22-37-1314031-12-32-15-81-1}
[0806]
},
[0807]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0808]
lowfreqtransmatrixcol32to47=
[0809]
{
[0810]
{400-1110020000000}
[0811]
{3-31-121-201-10011-10}
[0812]
{107-2-361-20010-120-1}
[0813]
{28-3-52000030-11000}
[0814]
{9-20-522-200-12-3-23-1010}
[0815]
{25-1703-1-1-501-40100-2}
[0816]
{1-104124-3-23-1-2711-1-10}
[0817]
{0278-582-5253030-50-270}
[0818]
{-1229321405-1-34142010}
[0819]
{0-613-40-4150-1-110-100}
[0820]
{-421-64-8-51910-483-110-3043-6}
[0821]
{2-35-27418-17-19303-602-1-2}
[0822]
{56-2322-14-1-152664-10002-32}
[0823]
{-10-53-188912-41-25-2213-1641-51}
[0824]
{-1342157-22-2-25-285619-12-5-3-24}
[0825]
{1914-4-12-451782-4-44-2210}
[0826]
},
[0827]-否则,如果ntrs等于48,lfnsttrsetidx等于3,且lfnstidx等于2,则以下适用:
[0828]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol0to15[m][n],其中m==0..15、n=0..15
[0829]
lowfreqtransmatrixcol0to15=
[0830]
{
[0831]
{109-26-8-3-2-1-10-5028210000}
[0832]
{-3931-52-1100-9561804010}
[0833]
{29-3-2-200000-41902010}
[0834]
{1896-232-51-20-10610-21-110}
[0835]
{-29-6016-23-110-529-175-21-11}
[0836]
{-23-5-155-21-11279-13-4-2-1-10}
[0837]
{-7-312-33-110-31-62870201}
[0838]
{1-2650101024-343-64-21-1}
[0839]
{11 14 6
ꢀ‑
3 1
ꢀ‑
1 1 0 10
ꢀ‑7ꢀ‑
9 3
ꢀ‑
2 1
ꢀ‑
1 0}
[0840]
{-10
ꢀ‑
11
ꢀ‑
47 3
ꢀ‑
4 1
ꢀ‑
1 0 5 28 11
ꢀ‑2ꢀ‑
1 0 0 0}
[0841]
{-8
ꢀ‑
24
ꢀ‑
99 11
ꢀ‑
10 3
ꢀ‑
4 1
ꢀ‑5ꢀ‑
3619
ꢀ‑
26 4
ꢀ‑
5 1
ꢀ‑
2}
[0842]
{-5 1
ꢀ‑
1 0 1 0 0 0
ꢀ‑
10
ꢀ‑
14
ꢀ‑
6 8 0 1 0 0}
[0843]
{1 12
ꢀ‑
20 21
ꢀ‑
4 5
ꢀ‑
2 2
ꢀ‑5ꢀ‑2ꢀ‑
75 9
ꢀ‑
1 2
ꢀ‑
1 1}
[0844]
{2
ꢀ‑9ꢀ‑
18 8
ꢀ‑
3 3
ꢀ‑
1 1 3
ꢀ‑
25
ꢀ‑
62
ꢀ‑
6 0
ꢀ‑
2 0
ꢀ‑
1}
[0845]
{4 9 39 18 0 20 1
ꢀ‑6ꢀ‑
16
ꢀ‑
22
ꢀ‑
37 5
ꢀ‑
5 1
ꢀ‑
2}
[0846]
{-7
ꢀ‑
2 15
ꢀ‑
6 1
ꢀ‑
1 1
ꢀ‑1ꢀ‑
11
ꢀ‑
3 22
ꢀ‑
14 0
ꢀ‑
2 1
ꢀ‑
1}
[0847]
},
[0848]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol16to31[m-16][n],其中m=16..31、n=0..15
[0849]
lowfreqtransmatrixcol16to31=
[0850]
{
[0851]
{-18
ꢀ‑
8 6 0 1 0 1 0 6
ꢀ‑2ꢀ‑
3 0 0 0 0 0}
[0852]
{32
ꢀ‑
49 5 1 1 0 0 0 27
ꢀ‑1ꢀ‑
14 2
ꢀ‑
2 1
ꢀ‑
1 0}
[0853]
{86 4
ꢀ‑
33 2
ꢀ‑
6 1
ꢀ‑
2 0
ꢀ‑
32 58 1
ꢀ‑
7 0
ꢀ‑
2 0
ꢀ‑
1}
[0854]
{-14 26 2
ꢀ‑
4 1
ꢀ‑
1 0 0
ꢀ‑
43
ꢀ‑
9 35
ꢀ‑
2 4
ꢀ‑
1 1 0}
[0855]
{13 56
ꢀ‑2ꢀ‑
9 0
ꢀ‑
2 0
ꢀ‑1ꢀ‑
34
ꢀ‑
18 41 0 3 0 1 0}
[0856]
{-9 1 5-1 1 0 0 0
ꢀ‑
4 49 2
ꢀ‑
14 1
ꢀ‑
3 0
ꢀ‑
1}
[0857]
{-75 9
ꢀ‑
45 5
ꢀ‑
1 1
ꢀ‑
1 0 14 35 0
ꢀ‑
23 2
ꢀ‑
5 1
ꢀ‑
2}
[0858]
{-7
ꢀ‑
64 9 14 0 3 0 1
ꢀ‑
12
ꢀ‑
4 5 3
ꢀ‑
1 1 0 0}
[0859]
{22 21 1
ꢀ‑
21 2
ꢀ‑
4 1
ꢀ‑
2 92 1 53 0
ꢀ‑
9 1
ꢀ‑
2 0}
[0860]
{-12
ꢀ‑2ꢀ‑
38 2 0 1 0 0 16 38 11
ꢀ‑
16
ꢀ‑1ꢀ‑
3 0
ꢀ‑
2}
[0861]
{0 25 41 5
ꢀ‑
3 1 0 0 10
ꢀ‑5ꢀ‑
7 12 2 1 0 0}
[0862]
{-17
ꢀ‑
2 7
ꢀ‑
5 3
ꢀ‑
1 0 0-16 13 3 31
ꢀ‑
1 6 0 2}
[0863]
{-1
ꢀ‑2ꢀ‑
16
ꢀ‑
4 0
ꢀ‑
1 0 0
ꢀ‑
7 7
ꢀ‑
31 0 3 0 0 0}
[0864]
{-6
ꢀ‑
61 14
ꢀ‑
51 2
ꢀ‑
6 0
ꢀ‑2ꢀ‑
19 0 40
ꢀ‑7ꢀ‑
17 0
ꢀ‑
3 0}
[0865]
{-5 15 63 9
ꢀ‑
16 0
ꢀ‑
3 0 18 42
ꢀ‑
18 27 15 1 3 1}
[0866]
{-18
ꢀ‑
7 30
ꢀ‑9ꢀ‑
4 0
ꢀ‑
1 0
ꢀ‑
35 23 23 10
ꢀ‑
17 1
ꢀ‑
3 0}
[0867]
},
[0868]
lowfreqtransmatrix[m][n]=lowfreqtransmatrixcol32to47[m-32][n],其中m=32..47、n=0..15
[0869]
lowfreqtransmatrixcol32to47=
[0870]
{
[0871]
{-3 2 1
ꢀ‑
1 0 0 0 0
ꢀ‑
2 0 0 0 0 0 0 0}
[0872]
{3 5
ꢀ‑3ꢀ‑
2 4 1
ꢀ‑1ꢀ‑
1 2 0 0 0 2 0 0 0}
[0873]
{-14
ꢀ‑
8 20 0
ꢀ‑2ꢀ‑
3 0 4
ꢀ‑1ꢀ‑
1 0 0
ꢀ‑
1 1 0 0}
[0874]
{14
ꢀ‑
40 1 10 2 1
ꢀ‑
10 1 2
ꢀ‑4ꢀ‑1ꢀ‑
1 0 0
ꢀ‑
1 0}
[0875]
{19
ꢀ‑
36
ꢀ‑
10 13 3 6
ꢀ‑
14
ꢀ‑
1 3 1
ꢀ‑1ꢀ‑
3 1 1
ꢀ‑1ꢀ‑
1}
[0876]
{-31
ꢀ‑
14 56
ꢀ‑
1 13
ꢀ‑
37
ꢀ‑
4 20
ꢀ‑
2 2
ꢀ‑
10 0 2
ꢀ‑
4 0
ꢀ‑
1}
[0877]
{1
ꢀ‑
8 32
ꢀ‑
1 7
ꢀ‑
12
ꢀ‑
4 10 0 2
ꢀ‑6ꢀ‑
1 2 0 0
ꢀ‑
2}
[0878]
{8
ꢀ‑
59
ꢀ‑
3 26 14 6
ꢀ‑
58 6
ꢀ‑
5 17
ꢀ‑7ꢀ‑
18 3 3
ꢀ‑1ꢀ‑
5}
[0879]
{-21
ꢀ‑
11 1 40
ꢀ‑5ꢀ‑4ꢀ‑
24 5
ꢀ‑
4 5
ꢀ‑6ꢀ‑
5 0 0 0
ꢀ‑
3}
[0880]
{12
ꢀ‑9ꢀ‑
22 7
ꢀ‑
8 60 4
ꢀ‑
36
ꢀ‑6ꢀ‑
15 54 7 3
ꢀ‑7ꢀ‑
8 14}
[0881]
{-1 1 9
ꢀ‑3ꢀ‑3ꢀ‑
14
ꢀ‑
3 12 2 4
ꢀ‑
13
ꢀ‑2ꢀ‑
1 3 2
ꢀ‑
4}
[0882]
{-93
ꢀ‑
15
ꢀ‑
46
ꢀ‑
3 23
ꢀ‑
19 0
ꢀ‑
47 8 4 8 3 2 3 0 0}
[0883]
{4 11
ꢀ‑
12 4
ꢀ‑
12 14
ꢀ‑
50
ꢀ‑1ꢀ‑
8 32
ꢀ‑4ꢀ‑
54 2 0 30
ꢀ‑
15}
[0884]
{13
ꢀ‑
4 11 9 17 0 24 5 1
ꢀ‑
12 4 28 0 0
ꢀ‑
15 8}
[0885]
{12
ꢀ‑
34 9
ꢀ‑
24 4 28
ꢀ‑
2 4
ꢀ‑
11
ꢀ‑
4 30 2 5
ꢀ‑
13
ꢀ‑
4 18}
[0886]
{-19 53 6 48
ꢀ‑
65 12
ꢀ‑
12 11
ꢀ‑8ꢀ‑
16 10
ꢀ‑
21
ꢀ‑2ꢀ‑
12 6 2}
[0887]
},
[0888]
8.7.4.4变换过程
[0889]
该过程的输入是:
[0890]-变量ntb s,指定变换样点的水平样点尺寸,
[0891]-变量nonzero s,指定非零缩放变换系数的水平样点尺寸,
[0892]-缩放变换系数的列表x[j],其中j=0..nonzeros-1,
[0893]-变换核类型变量trtype。
[0894]
该过程的输出是变换样点的列表y[i],其中i=0..ntbs-1。
[0895]
使用以下调用如节8.7.4.5指定的变换矩阵导出过程:变换尺寸ntbs和变换核类型trtype作为输入,以及变换矩阵transmatrix作为输出。
[0896]
取决于trtype的值,以下适用:变换样点的列表y[i],其中i=0..ntbs-1,导出如下:
[0897]-如果trtype等于0,则以下变换矩阵乘法适用:
[0898]
其中i=0..ntbs-1(8-983)
[0899]-否则(trtype等于1or trtype等于2),则以下变换矩阵乘法适用:
[0900]
其中i=0..ntbs-1(8-984)
[0901]
8.7.4.5变换矩阵导出过程
[0902]
该过程的输入是:
[0903]-变量ntbs,指定缩放变换系数的水平样点尺寸,
[0904]-变换核类型trtype。
[0905]
该过程的输出是变换矩阵transmatrix。
[0906]
基于trtype和ntbs,变换矩阵transmatrix导出如下:
[0907]-如果trtype等于0,则以下适用:
[0908]
transmatrix[m][n]=transmatrixcol0to15[m][n],其中m=0..15、n=0..63(8-985)
[0909]
transmatrixcol0to15=(8-986)
[0910]
{
[0911]
{64646464646464646464646464646464}
[0912]
{91909090888786848381797773716965}
[0913]
{9090888582787367615446383122134}
[0914]
{908884797162524128152-11-24-37-48-59}
[0915]
{908780705743259-9-25-43-57-70-80-87-90}
[0916]
{908473594120-2-24-44-62-77-86-90-90-83-71}
[0917]
{9082674622-4-31-54-73-85-90-88-78-61-38-13}
[0918]
{907959332-28-56-77-88-90-81-62-37-72452}
[0919]
{89755018-18-50-75-89-89-75-50-1818507589}
[0920]
{8871412-37-69-87-90-73-44-73365869077}
[0921]
{886731-13-54-82-90-78-46-4387390856122}
[0922]
{876220-28-69-90-84-56-1137739081482-44}
[0923]
{87579-43-80-90-70-252570908043-9-57-87}
[0924]
{8652-2-56-87-84-48759888344-11-62-90-81}
[0925]
{8546-13-67-90-73-2238828854-4-61-90-78-31}
[0926]
{8441-24-77-90-56765916911-52-88-79-2837}
[0927]
{8336-36-83-83-3636838336-36-83-83-363683}
[0928]
{8328-44-88-73-11599162-7-71-90-48248184}
[0929]
{8222-54-90-6113788531-46-90-674738838}
[0930]
{8115-62-90-44378869-7-77-84-24569152-28}
[0931]
{809-70-87-25579043-43-90-57258770-9-80}
[0932]
{792-77-81-7738311-71-84-15698620-65-87}
[0933]
{78-4-82-73138567-22-88-61319054-38-90-46}
[0934]
{77-11-86-62339044-52-90-2469832-81-7120}
[0935]
{75-18-89-50508918-75-75188950-50-89-1875}
[0936]
{73-24-90-376581-11-88-4856862-84-594490}
[0937]
{73-31-90-227867-38-90-138261-46-88-48554}
[0938]
{71-37-90-78648-62-79249120-81-595284-11}
[0939]
{70-43-8799025-80-575780-25-90-98743-70}
[0940]
{69-48-8324902-90-288152-65-714484-20-90}
[0941]
{67-54-783885-22-9049013-88-318246-73-61}
[0942]
{65-59-715277-44-813784-28-872090-11-902}
[0943]
{64-64-646464-64-646464-64-646464-64-6464}
[0944]
{62-69-567348-79-418333-86-248815-90-791}
[0945]
{61-73-468231-88-1390-4-902285-38-785467}
[0946]
{59-77-378711-911586-41-736256-79-33887}
[0947]
{57-80-2590-9-874370-70-43879-902580-57}
[0948]
{56-83-1590-28-776544-87-288-41-697333-90}
[0949]
{54
ꢀ‑
85
ꢀ‑
4 88
ꢀ‑
46
ꢀ‑
61 82 13
ꢀ‑
90 38 67
ꢀ‑
78
ꢀ‑
22 90
ꢀ‑
31
ꢀ‑
73}
[0950]
{52
ꢀ‑
87 7 83
ꢀ‑
62
ꢀ‑
41 90
ꢀ‑
20
ꢀ‑
77 71 28
ꢀ‑
91 33 69
ꢀ‑
79
ꢀ‑
15}
[0951]
{50
ꢀ‑
89 18 75
ꢀ‑
75
ꢀ‑
18 89
ꢀ‑
50
ꢀ‑
50 89
ꢀ‑
18
ꢀ‑
75 75 18
ꢀ‑
89 50}
[0952]
{48
ꢀ‑
90 28 65
ꢀ‑
84 7 79
ꢀ‑
73
ꢀ‑
15 87
ꢀ‑
59
ꢀ‑
37 91
ꢀ‑
41
ꢀ‑
56 88}
[0953]
{46
ꢀ‑
90 38 54
ꢀ‑
90 31 61
ꢀ‑
88 22 67
ꢀ‑
85 13 73
ꢀ‑
82 4 78}
[0954]
{44
ꢀ‑
91 48 41
ꢀ‑
90 52 37
ꢀ‑
90 56 33
ꢀ‑
90 59 28
ꢀ‑
88 62 24}
[0955]
{43
ꢀ‑
90 57 25
ꢀ‑
87 70 9
ꢀ‑
80 80
ꢀ‑9ꢀ‑
70 87
ꢀ‑
25
ꢀ‑
57 90
ꢀ‑
43}
[0956]
{41
ꢀ‑
90 65 11
ꢀ‑
79 83
ꢀ‑
20
ꢀ‑
59 90
ꢀ‑
48
ꢀ‑
33 87
ꢀ‑
71
ꢀ‑
2 73
ꢀ‑
86}
[0957]
{38
ꢀ‑
88 73
ꢀ‑4ꢀ‑
67 90
ꢀ‑
46
ꢀ‑
31 85
ꢀ‑
78 13 61
ꢀ‑
90 54 22
ꢀ‑
82}
[0958]
{37
ꢀ‑
86 79
ꢀ‑
20
ꢀ‑
52 90
ꢀ‑
69 2 65
ꢀ‑
90 56 15
ꢀ‑
77 87
ꢀ‑
41
ꢀ‑
33}
[0959]
{36
ꢀ‑
83 83
ꢀ‑
36
ꢀ‑
36 83
ꢀ‑
83 36 36
ꢀ‑
83 83
ꢀ‑
36
ꢀ‑
36 83
ꢀ‑
83 36}
[0960]
{33
ꢀ‑
81 87
ꢀ‑
48
ꢀ‑
15 71
ꢀ‑
90 62
ꢀ‑2ꢀ‑
59 90
ꢀ‑
73 20 44
ꢀ‑
86 83}
[0961]
{31
ꢀ‑
78 90
ꢀ‑
61 4 54
ꢀ‑
88 82
ꢀ‑
38
ꢀ‑
22 73
ꢀ‑
90 67
ꢀ‑
13
ꢀ‑
46 85}
[0962]
{28
ꢀ‑
73 91
ꢀ‑
71 24 33
ꢀ‑
77 90
ꢀ‑
69 20 37
ꢀ‑
79 90
ꢀ‑
65 15 41}
[0963]
{25
ꢀ‑
70 90
ꢀ‑
80 43 9
ꢀ‑
57 87
ꢀ‑
87 57
ꢀ‑9ꢀ‑
43 80
ꢀ‑
90 70
ꢀ‑
25}
[0964]
{24
ꢀ‑
65 88
ꢀ‑
86 59
ꢀ‑
15
ꢀ‑
33 71
ꢀ‑
90 83
ꢀ‑
52 7 41
ꢀ‑
77 91
ꢀ‑
79}
[0965]
{22
ꢀ‑
61 85
ꢀ‑
90 73
ꢀ‑
38
ꢀ‑
4 46
ꢀ‑
78 90
ꢀ‑
82 54
ꢀ‑
13
ꢀ‑
31 67
ꢀ‑
88}
[0966]
{20
ꢀ‑
56 81
ꢀ‑
91 83
ꢀ‑
59 24 15
ꢀ‑
52 79
ꢀ‑
90 84
ꢀ‑
62 28 11
ꢀ‑
48}
[0967]
{18
ꢀ‑
50 75-89 89
ꢀ‑
75 50
ꢀ‑
18
ꢀ‑
18 50-75 89
ꢀ‑
89 75
ꢀ‑
50 18}
[0968]
{15
ꢀ‑
44 69
ꢀ‑
84 91
ꢀ‑
86 71
ꢀ‑
48 20 11
ꢀ‑
41 65
ꢀ‑
83 90
ꢀ‑
87 73}
[0969]
{13
ꢀ‑
38 61
ꢀ‑
78 88
ꢀ‑
90 85
ꢀ‑
73 54
ꢀ‑
31 4 22
ꢀ‑
46 67
ꢀ‑
82 90}
[0970]
{11
ꢀ‑
33 52
ꢀ‑
69 81
ꢀ‑
88 91
ꢀ‑
87 79
ꢀ‑
65 48
ꢀ‑
28 7 15
ꢀ‑
37 56}
[0971]
{9
ꢀ‑
25 43
ꢀ‑
57 70
ꢀ‑
80 87
ꢀ‑
90 90
ꢀ‑
87 80
ꢀ‑
70 57
ꢀ‑
43 25
ꢀ‑
9}
[0972]
{7
ꢀ‑
20 33
ꢀ‑
44 56
ꢀ‑
65 73
ꢀ‑
81 86
ꢀ‑
90 91
ꢀ‑
90 87
ꢀ‑
83 77
ꢀ‑
69}
[0973]
{4
ꢀ‑
13 22
ꢀ‑
31 38
ꢀ‑
46 54
ꢀ‑
61 67
ꢀ‑
73 78
ꢀ‑
82 85
ꢀ‑
88 90
ꢀ‑
90}
[0974]
{2
ꢀ‑
7 11
ꢀ‑
15 20
ꢀ‑
24 28
ꢀ‑
33 37
ꢀ‑
41 44
ꢀ‑
48 52
ꢀ‑
56 59
ꢀ‑
62}
[0975]
},
[0976]
transmatrix[m][n]=transmatrixcol16to31[m-16][n],其中m=16..31、n=0..63(8-987)
[0977]
transmatrixcol16to31=(8-988)
[0978]
{
[0979]
{64 64 64 64 64 64 64 64 64 64 64 64 64 64 64 64}
[0980]
{62 59 56 52 48 44 41 37 33 28 24 20 15 11 7 2}
[0981]
{-4
ꢀ‑
13
ꢀ‑
22
ꢀ‑
31
ꢀ‑
38
ꢀ‑
46
ꢀ‑
54
ꢀ‑
61
ꢀ‑
67
ꢀ‑
73
ꢀ‑
78
ꢀ‑
82
ꢀ‑
85
ꢀ‑
88
ꢀ‑
90
ꢀ‑
90}
[0982]
{-69
ꢀ‑
77
ꢀ‑
83
ꢀ‑
87
ꢀ‑
90
ꢀ‑
91
ꢀ‑
90
ꢀ‑
86
ꢀ‑
81
ꢀ‑
73
ꢀ‑
65
ꢀ‑
56
ꢀ‑
44
ꢀ‑
33
ꢀ‑
20
ꢀ‑
7}
[0983]
{-90
ꢀ‑
87
ꢀ‑
80
ꢀ‑
70
ꢀ‑
57
ꢀ‑
43
ꢀ‑
25
ꢀ‑
9 9 25 43 57 70 80 87 90}
[0984]
{-56
ꢀ‑
37
ꢀ‑
15 7 28 48 65 79 87 91 88 81 69 52 33 11}
[0985]
{13 38 61 78 88 90 85 73 54 31 4
ꢀ‑
22
ꢀ‑
46
ꢀ‑
67
ꢀ‑
82
ꢀ‑
90}
[0986]
{73 87 90 83 65 41 11
ꢀ‑
20
ꢀ‑
48
ꢀ‑
71
ꢀ‑
86
ꢀ‑
91
ꢀ‑
84
ꢀ‑
69
ꢀ‑
44
ꢀ‑
15}
[0987]
{89 75 50 18
ꢀ‑
18
ꢀ‑
50
ꢀ‑
75
ꢀ‑
89
ꢀ‑
89
ꢀ‑
75
ꢀ‑
50
ꢀ‑
18 18 50 75 89}
[0988]
{48 11
ꢀ‑
28
ꢀ‑
62
ꢀ‑
84
ꢀ‑
90
ꢀ‑
79
ꢀ‑
52
ꢀ‑
15 24 59 83 91 81 56 20}
[0989]
{-22
ꢀ‑
61
ꢀ‑
85
ꢀ‑
90
ꢀ‑
73
ꢀ‑
38 4 46 78 90 82 54 13
ꢀ‑
31
ꢀ‑
67
ꢀ‑
88}
[0990]
{-79
ꢀ‑
91
ꢀ‑
77
ꢀ‑
41 7 52 83 90 71 33
ꢀ‑
15
ꢀ‑
59
ꢀ‑
86
ꢀ‑
88
ꢀ‑
65
ꢀ‑
24}
[0991]
{-87
ꢀ‑
57
ꢀ‑
9 43 80 90 70 25
ꢀ‑
25
ꢀ‑
70
ꢀ‑
90
ꢀ‑
80
ꢀ‑
43 9 57 87}
[0992]
{-41 15 65 90 79 37
ꢀ‑
20
ꢀ‑
69
ꢀ‑
90
ꢀ‑
77
ꢀ‑
33 24 71 91 73 28}
[0993]
{31 78 90 61 4
ꢀ‑
54
ꢀ‑
88
ꢀ‑
82
ꢀ‑
38 22 73 90 67 13
ꢀ‑
46
ꢀ‑
85}
[0994]
{83 86 44
ꢀ‑
20
ꢀ‑
73
ꢀ‑
90
ꢀ‑
59 2 62 90 71 15
ꢀ‑
48
ꢀ‑
87
ꢀ‑
81
ꢀ‑
33}
[0995]
{83 36
ꢀ‑
36
ꢀ‑
83
ꢀ‑
83
ꢀ‑
36 36 83 83 36
ꢀ‑
36
ꢀ‑
83
ꢀ‑
83
ꢀ‑
36 36 83}
[0996]
{33
ꢀ‑
41
ꢀ‑
87
ꢀ‑
77
ꢀ‑
15 56 90 65
ꢀ‑2ꢀ‑
69
ꢀ‑
90
ꢀ‑
52 20 79 86 37}
[0997]
{-38
ꢀ‑
88
ꢀ‑
73
ꢀ‑
4 67 90 46
ꢀ‑
31
ꢀ‑
85
ꢀ‑
78
ꢀ‑
13 61 90 54
ꢀ‑
22
ꢀ‑
82}
[0998]
{-86
ꢀ‑
73
ꢀ‑
2 71 87 33
ꢀ‑
48
ꢀ‑
90
ꢀ‑
59 20 83 79 11
ꢀ‑
65
ꢀ‑
90
ꢀ‑
41}
[0999]
{-80
ꢀ‑
9 70 87 25
ꢀ‑
57
ꢀ‑
90
ꢀ‑
43 43 90 57
ꢀ‑
25
ꢀ‑
87
ꢀ‑
70 9 80}
[1000]
{-24 62 88 28
ꢀ‑
59
ꢀ‑
90
ꢀ‑
33 56 90 37
ꢀ‑
52
ꢀ‑
90
ꢀ‑
41 48 91 44}
[1001]
{46 90 38
ꢀ‑
54
ꢀ‑
90
ꢀ‑
31 61 88 22
ꢀ‑
67
ꢀ‑
85
ꢀ‑
13 73 82 4
ꢀ‑
78}
[1002]
{88 56
ꢀ‑
41
ꢀ‑
91
ꢀ‑
37 59 87 15
ꢀ‑
73
ꢀ‑
79 7 84 65
ꢀ‑
28
ꢀ‑
90
ꢀ‑
48}
[1003]
{75
ꢀ‑
18
ꢀ‑
89
ꢀ‑
50 50 89 18
ꢀ‑
75
ꢀ‑
75 18 89 50
ꢀ‑
50
ꢀ‑
89
ꢀ‑
18 75}
[1004]
{15
ꢀ‑
79
ꢀ‑
69 33 91 28
ꢀ‑
71
ꢀ‑
77 20 90 41
ꢀ‑
62
ꢀ‑
83 7 87 52}
[1005]
{-54
ꢀ‑
85 4 88 46
ꢀ‑
61
ꢀ‑
82 13 90 38
ꢀ‑
67
ꢀ‑
78 22 90 31
ꢀ‑
73}
[1006]
{-90
ꢀ‑
33 73 69
ꢀ‑
41
ꢀ‑
88
ꢀ‑
2 87 44
ꢀ‑
65
ꢀ‑
77 28 90 15
ꢀ‑
83
ꢀ‑
56}
[1007]
{-70 43 87
ꢀ‑9ꢀ‑
90
ꢀ‑
25 80 57
ꢀ‑
57
ꢀ‑
80 25 90 9
ꢀ‑
87
ꢀ‑
43 70}
[1008]
{-7 88 33
ꢀ‑
79
ꢀ‑
56 62 73
ꢀ‑
41
ꢀ‑
86 15 91 11
ꢀ‑
87
ꢀ‑
37 77 59}
[1009]
{61 73
ꢀ‑
46
ꢀ‑
82 31 88
ꢀ‑
13
ꢀ‑
90
ꢀ‑
4 90 22
ꢀ‑
85
ꢀ‑
38 78 54
ꢀ‑
67}
[1010]
{91 7
ꢀ‑
90
ꢀ‑
15 88 24
ꢀ‑
86
ꢀ‑
33 83 41
ꢀ‑
79
ꢀ‑
48 73 56
ꢀ‑
69
ꢀ‑
62}
[1011]
{64
ꢀ‑
64
ꢀ‑
64 64 64
ꢀ‑
64
ꢀ‑
64 64 64
ꢀ‑
64
ꢀ‑
64 64 64
ꢀ‑
64
ꢀ‑
64 64}
[1012]
{-2
ꢀ‑
90 11 90
ꢀ‑
20
ꢀ‑
87 28 84
ꢀ‑
37
ꢀ‑
81 44 77
ꢀ‑
52
ꢀ‑
71 59 65}
[1013]
{-67
ꢀ‑
54 78 38
ꢀ‑
85
ꢀ‑
22 90 4
ꢀ‑
90 13 88
ꢀ‑
31
ꢀ‑
82 46 73
ꢀ‑
61}
[1014]
{-90 20 84
ꢀ‑
44
ꢀ‑
71 65 52
ꢀ‑
81
ꢀ‑
28 90 2
ꢀ‑
90 24 83
ꢀ‑
48
ꢀ‑
69}
[1015]
{-57 80 25
ꢀ‑
90 9 87
ꢀ‑
43
ꢀ‑
70 70 43
ꢀ‑
87
ꢀ‑
9 90
ꢀ‑
25
ꢀ‑
80 57}
[1016]
{11 84
ꢀ‑
52
ꢀ‑
59 81 20
ꢀ‑
91 24 79
ꢀ‑
62
ꢀ‑
48 86 7
ꢀ‑
90 37 71}
[1017]
{73 31
ꢀ‑
90 22 78
ꢀ‑
67
ꢀ‑
38 90
ꢀ‑
13
ꢀ‑
82 61 46
ꢀ‑
88 4 85
ꢀ‑
54}
[1018]
{90
ꢀ‑
44
ꢀ‑
59 84 2
ꢀ‑
86 56 48
ꢀ‑
88 11 81
ꢀ‑
65
ꢀ‑
37 90
ꢀ‑
24
ꢀ‑
73}
[1019]
{50
ꢀ‑
89 18 75
ꢀ‑
75
ꢀ‑
18 89
ꢀ‑
50
ꢀ‑
50 89
ꢀ‑
18
ꢀ‑
75 75 18
ꢀ‑
89 50}
[1020]
{-20
ꢀ‑
71 81 2
ꢀ‑
83 69 24
ꢀ‑
90 52 44
ꢀ‑
90 33 62
ꢀ‑
86 11 77}
[1021]
{-78
ꢀ‑
4 82
ꢀ‑
73
ꢀ‑
13 85
ꢀ‑
67
ꢀ‑
22 88
ꢀ‑
61
ꢀ‑
31 90
ꢀ‑
54
ꢀ‑
38 90
ꢀ‑
46}
[1022]
{-87 65 20
ꢀ‑
86 69 15
ꢀ‑
84 71 11
ꢀ‑
83 73 7
ꢀ‑
81 77 2
ꢀ‑
79}
[1023]
{-43 90
ꢀ‑
57
ꢀ‑
25 87
ꢀ‑
70
ꢀ‑
9 80
ꢀ‑
80 9 70
ꢀ‑
87 25 57
ꢀ‑
90 43}
[1024]
{28 52
ꢀ‑
91 56 24
ꢀ‑
84 77
ꢀ‑7ꢀ‑
69 88
ꢀ‑
37
ꢀ‑
44 90
ꢀ‑
62
ꢀ‑
15 81}
[1025]
{82
ꢀ‑
22
ꢀ‑
54 90
ꢀ‑
61
ꢀ‑
13 78
ꢀ‑
85 31 46
ꢀ‑
90 67 4
ꢀ‑
73 88
ꢀ‑
38}
[1026]
{84
ꢀ‑
81 24 48
ꢀ‑
90 71
ꢀ‑7ꢀ‑
62 91
ꢀ‑
59
ꢀ‑
11 73
ꢀ‑
88 44 28
ꢀ‑
83}
[1027]
{36
ꢀ‑
83 83
ꢀ‑
36
ꢀ‑
36 83
ꢀ‑
83 36 36
ꢀ‑
83 83
ꢀ‑
36
ꢀ‑
36 83
ꢀ‑
83 36}
[1028]
{-37
ꢀ‑
28 79
ꢀ‑
88 52 11
ꢀ‑
69 91
ꢀ‑
65 7 56
ꢀ‑
90 77
ꢀ‑
24
ꢀ‑
41 84}
[1029]
{-85 46 13
ꢀ‑
67 90
ꢀ‑
73 22 38
ꢀ‑
82 88
ꢀ‑
54
ꢀ‑
4 61
ꢀ‑
90 78
ꢀ‑
31}
[1030]
{-81 90
ꢀ‑
62 11 44
ꢀ‑
83 88
ꢀ‑
59 7 48
ꢀ‑
84 87
ꢀ‑
56 2 52
ꢀ‑
86}
[1031]
{-25 70
ꢀ‑
90 80
ꢀ‑
43
ꢀ‑
9 57
ꢀ‑
87 87
ꢀ‑
57 9 43
ꢀ‑
80 90
ꢀ‑
70 25}
[1032]
{44 2
ꢀ‑
48 81
ꢀ‑
90 73
ꢀ‑
37
ꢀ‑
11 56
ꢀ‑
84 90
ꢀ‑
69 28 20
ꢀ‑
62 87}
[1033]
{88
ꢀ‑
67 31 13
ꢀ‑
54 82
ꢀ‑
90 78
ꢀ‑
46 4 38
ꢀ‑
73 90
ꢀ‑
85 61
ꢀ‑
22}
[1034]
{77
ꢀ‑
90 86
ꢀ‑
65 33 7
ꢀ‑
44 73
ꢀ‑
90 87
ꢀ‑
69 37 2-41 71
ꢀ‑
88}
[1035]
{18
ꢀ‑
50 75
ꢀ‑
89 89
ꢀ‑
75 50
ꢀ‑
18
ꢀ‑
18 50
ꢀ‑
75 89
ꢀ‑
89 75
ꢀ‑
50 18}
[1036]
{-52 24 7
ꢀ‑
37 62
ꢀ‑
81 90
ꢀ‑
88 77
ꢀ‑
56 28 2
ꢀ‑
33 59
ꢀ‑
79 90}
[1037]
{-90 82
ꢀ‑
67 46
ꢀ‑
22
ꢀ‑
4 31
ꢀ‑
54 73
ꢀ‑
85 90
ꢀ‑
88 78
ꢀ‑
61 38
ꢀ‑
13}
[1038]
{-71 83
ꢀ‑
90 90
ꢀ‑
86 77
ꢀ‑
62 44
ꢀ‑
24 2 20
ꢀ‑
41 59
ꢀ‑
73 84
ꢀ‑
90}
[1039]
{-9 25
ꢀ‑
43 57
ꢀ‑
70 80
ꢀ‑
87 90
ꢀ‑
90 87
ꢀ‑
80 70
ꢀ‑
57 43
ꢀ‑
25 9}
[1040]
{59
ꢀ‑
48 37-24 11 2
ꢀ‑
15 28
ꢀ‑
41 52
ꢀ‑
62 71
ꢀ‑
79 84
ꢀ‑
88 90}
[1041]
{90
ꢀ‑
90 88
ꢀ‑
85 82
ꢀ‑
78 73
ꢀ‑
67 61
ꢀ‑
54 46
ꢀ‑
38 31
ꢀ‑
22 13
ꢀ‑
4}
[1042]
{65
ꢀ‑
69 71
ꢀ‑
73 77
ꢀ‑
79 81
ꢀ‑
83 84
ꢀ‑
86
[1043]
87
ꢀ‑
88 90
ꢀ‑
90 90
ꢀ‑
91}
[1044]
},
[1045]
transmatrix[m][n]=(n&1?-1:1)*transmatrixcol16to31[47-m][n](8-989)
[1046]
其中m=32..47、n=0..63
[1047]
transmatrix[m][n]=(n&1?-1:1)*transmatrixcol0to15[63-m][n](8-990)
[1048]
其中m=48..63、n=0..63
[1049]-否则,如果trtype等于1且ntbs等于4,则以下适用:
[1050]
transmatrix[m][n]=(8-991)
[1051]
{
[1052]
{29 55 74 84}
[1053]
{74 74 0
ꢀ‑
74}
[1054]
{84
ꢀ‑
29
ꢀ‑
74 55}
[1055]
{55
ꢀ‑
84 74
ꢀ‑
29}
[1056]
},
[1057]-否则,如果trtype等于1且ntbs等于8,则以下适用:
[1058]
transmatrix[m][n]=(8-992)
[1059]
{
[1060]
{17 32 46 60 71 78 85 86}
[1061]
{46 78 86 71 32
ꢀ‑
17
ꢀ‑
60
ꢀ‑
85}
[1062]
{71 85 32
ꢀ‑
46
ꢀ‑
86
ꢀ‑
60 17 78}
[1063]
{85 46
ꢀ‑
60
ꢀ‑
78 17 86 32
ꢀ‑
71}
[1064]
{86
ꢀ‑
17
ꢀ‑
85 32 78
ꢀ‑
46
ꢀ‑
71 60}
[1065]
{78
ꢀ‑
71
ꢀ‑
17 85
ꢀ‑
60
ꢀ‑
32 86
ꢀ‑
46}
[1066]
{60
ꢀ‑
86 71
ꢀ‑
17
ꢀ‑
46 85
ꢀ‑
78 32}
[1067]
{32
ꢀ‑
60 78
ꢀ‑
86 85
ꢀ‑
71 46
ꢀ‑
17}
[1068]
},-否则,如果trtype等于1且ntbs等于16,则以下适用:
[1069]
transmatrix[m][n]=(8-993)
[1070]
{
[1071]
{8 17 25 33 40 48 55 62 68 73 77 81 85 87 88 88}
[1072]
{25 48 68 81 88 88 81 68 48 25 0
ꢀ‑
25
ꢀ‑
48
ꢀ‑
68
ꢀ‑
81
ꢀ‑
88}
[1073]
{40 73 88 85 62 25
ꢀ‑
17
ꢀ‑
55
ꢀ‑
81
ꢀ‑
88
ꢀ‑
77
ꢀ‑
48
ꢀ‑
8 33 68 87}
[1074]
{55 87 81 40
ꢀ‑
17
ꢀ‑
68
ꢀ‑
88
ꢀ‑
73
ꢀ‑
25 33 77 88 62 8
ꢀ‑
48
ꢀ‑
85}
[1075]
{68 88 48
ꢀ‑
25
ꢀ‑
81
ꢀ‑
81
ꢀ‑
25 48 88 68 0
ꢀ‑
68
ꢀ‑
88
ꢀ‑
48 25 81}
[1076]
{77 77 0
ꢀ‑
77
ꢀ‑
77 0 77 77 0
ꢀ‑
77
ꢀ‑
77 0 77 77 0
ꢀ‑
77}
[1077]
{85 55
ꢀ‑
48
ꢀ‑
87
ꢀ‑
8 81 62
ꢀ‑
40
ꢀ‑
88
ꢀ‑
17 77 68
ꢀ‑
33
ꢀ‑
88
ꢀ‑
25 73}
[1078]
{88 25
ꢀ‑
81
ꢀ‑
48 68 68
ꢀ‑
48
ꢀ‑
81 25 88 0
ꢀ‑
88
ꢀ‑
25 81 48
ꢀ‑
68}
[1079]
{88
ꢀ‑8ꢀ‑
88 17 87
ꢀ‑
25
ꢀ‑
85 33 81
ꢀ‑
40
ꢀ‑
77 48 73
ꢀ‑
55
ꢀ‑
68 62}
[1080]
{87
ꢀ‑
40
ꢀ‑
68 73 33
ꢀ‑
88 8 85
ꢀ‑
48
ꢀ‑
62 77 25
ꢀ‑
88 17 81
ꢀ‑
55}
[1081]
{81
ꢀ‑
68
ꢀ‑
25 88
ꢀ‑
48
ꢀ‑
48 88
ꢀ‑
25
ꢀ‑
68 81 0
ꢀ‑
81 68 25
ꢀ‑
88 48}
[1082]
{73
ꢀ‑
85 25 55
ꢀ‑
88 48 33
ꢀ‑
87 68 8
ꢀ‑
77 81
ꢀ‑
17
ꢀ‑
62 88
ꢀ‑
40}
[1083]
{62
ꢀ‑
88 68
ꢀ‑8ꢀ‑
55 88
ꢀ‑
73 17 48
ꢀ‑
87 77
ꢀ‑
25
ꢀ‑
40 85
ꢀ‑
81 33}
[1084]
{48
ꢀ‑
81 88
ꢀ‑
68 25 25
ꢀ‑
68 88
ꢀ‑
81 48 0
ꢀ‑
48 81
ꢀ‑
88 68
ꢀ‑
25}
[1085]
{33
ꢀ‑
62 81
ꢀ‑
88 85
ꢀ‑
68 40
ꢀ‑8ꢀ‑
25 55
ꢀ‑
77 88
ꢀ‑
87 73
ꢀ‑
48 17}
[1086]
{17
ꢀ‑
33 48
ꢀ‑
62 73
ꢀ‑
81 87
ꢀ‑
88 88
ꢀ‑
85 77
ꢀ‑
68 55
ꢀ‑
40 25
ꢀ‑
8}
[1087]
},-否则,如果trtype等于1且ntbs等于32,则以下适用:
[1088]
transmatrix[m][n]=transmatrixcol0to15[m][n],其中m=0..15、n=0..15(8-994)
[1089]
transmatrixcol0to15=(8-995)
[1090]
{
[1091]
{4 9 13 17 21 26 30 34 38 42 46 50 53 56 60 63}
[1092]
{13 26 38 50 60 68 77 82 86 89 90 88 85 80 74 66}
[1093]
{21 42 60 74 84 89 89 84 74 60 42 21 0
ꢀ‑
21
ꢀ‑
42
ꢀ‑
60}
[1094]
{30 56 77 87 89 80 63 38 9
ꢀ‑
21
ꢀ‑
50
ꢀ‑
72
ꢀ‑
85
ꢀ‑
90
ꢀ‑
84
ꢀ‑
68}
[1095]
{38 68 86 88 74 46 9
ꢀ‑
30
ꢀ‑
63
ꢀ‑
84
ꢀ‑
90
ꢀ‑
78
ꢀ‑
53
ꢀ‑
17 21 56}
[1096]
{46 78 90 77 42
ꢀ‑4ꢀ‑
50
ꢀ‑
80
ꢀ‑
90
ꢀ‑
74
ꢀ‑
38 9 53 82 89 72}
[1097]
{53 85 85 53 0
ꢀ‑
53
ꢀ‑
85
ꢀ‑
85
ꢀ‑
53 0 53 85 85 53 0
ꢀ‑
53}
[1098]
{60 89 74 21
ꢀ‑
42
ꢀ‑
84
ꢀ‑
84
ꢀ‑
42 21 74 89 60 0
ꢀ‑
60
ꢀ‑
89
ꢀ‑
74}
[1099]
{66 90 56
ꢀ‑
13
ꢀ‑
74
ꢀ‑
87
ꢀ‑
46 26 80 84 34
ꢀ‑
38
ꢀ‑
85
ꢀ‑
78
ꢀ‑
21 50}
[1100]
{72 86 34
ꢀ‑
46
ꢀ‑
89
ꢀ‑
63 13 78 82 21
ꢀ‑
56
ꢀ‑
90
ꢀ‑
53 26 84 77}
[1101]
{77 80 9
ꢀ‑
72
ꢀ‑
84
ꢀ‑
17 66 86 26
ꢀ‑
60
ꢀ‑
88
ꢀ‑
34 53 90 42
ꢀ‑
46}
[1102]
{80 72
ꢀ‑
17
ꢀ‑
86
ꢀ‑
60 34 90 46
ꢀ‑
50
ꢀ‑
89
ꢀ‑
30 63 85 13
ꢀ‑
74
ꢀ‑
78}
[1103]
{84 60
ꢀ‑
42
ꢀ‑
89
ꢀ‑
21 74 74
ꢀ‑
21
ꢀ‑
89
ꢀ‑
42 60 84 0
ꢀ‑
84
ꢀ‑
60 42}
[1104]
{86 46
ꢀ‑
63
ꢀ‑
78 21 90 26
ꢀ‑
77
ꢀ‑
66 42 87 4
ꢀ‑
85
ꢀ‑
50 60 80}
[1105]
{88 30
ꢀ‑
78
ꢀ‑
56 60 77
ꢀ‑
34
ꢀ‑
87 4 89 26
ꢀ‑
80
ꢀ‑
53 63 74
ꢀ‑
38}
[1106]
{90 13
ꢀ‑
87
ꢀ‑
26 84 38
ꢀ‑
78
ꢀ‑
50 72 60
ꢀ‑
63
ꢀ‑
68 53 77
ꢀ‑
42
ꢀ‑
82}
[1107]
},
[1108]
transmatrix[m][n]=transmatrixcol16to31[m-16][n],其中m=16..31、n=0..15(8-996)
[1109]
transmatrixcol16to31=(8-997)
[1110]
{
[1111]
{66 68 72 74 77 78 80 82 84 85 86 87 88 89 90 90}
[1112]
{56 46 34 21 9
ꢀ‑4ꢀ‑
17
ꢀ‑
30
ꢀ‑
42
ꢀ‑
53
ꢀ‑
63
ꢀ‑
72
ꢀ‑
78
ꢀ‑
84
ꢀ‑
87
ꢀ‑
90}
[1113]
{-74
ꢀ‑
84
ꢀ‑
89
ꢀ‑
89
ꢀ‑
84
ꢀ‑
74
ꢀ‑
60
ꢀ‑
42
ꢀ‑
21 0 21 42 60 74 84 89}
[1114]
{-46
ꢀ‑
17 13 4266 82 90 86 74 53 26
ꢀ‑4ꢀ‑
34
ꢀ‑
60
ꢀ‑
78
ꢀ‑
88}
[1115]
{80 90 82 60 26
ꢀ‑
13
ꢀ‑
50
ꢀ‑
77
ꢀ‑
89
ꢀ‑
85
ꢀ‑
66
ꢀ‑
34 4 42 72 87}
[1116]
{34
ꢀ‑
13
ꢀ‑
56
ꢀ‑
84
ꢀ‑
88
ꢀ‑
68
ꢀ‑
30 17 60 85 87 66 26
ꢀ‑
21
ꢀ‑
63
ꢀ‑
86}
[1117]
{-85
ꢀ‑
85
ꢀ‑
53 0 53 85 85 53 0
ꢀ‑
53
ꢀ‑
85
ꢀ‑
85
ꢀ‑
53 0 53 85}
[1118]
{-21 42 84 84 42
ꢀ‑
21
ꢀ‑
74
ꢀ‑
89
ꢀ‑
60 0 60 89 74 21
ꢀ‑
42
ꢀ‑
84}
[1119]
{88 72 9
ꢀ‑
60
ꢀ‑
90
ꢀ‑
63 4 68 89 53
ꢀ‑
17
ꢀ‑
77
ꢀ‑
86
ꢀ‑
42 30 82}
[1120]
{9
ꢀ‑
66
ꢀ‑
88
ꢀ‑
42 38 87 68
ꢀ‑4ꢀ‑
74
ꢀ‑
85
ꢀ‑
30 50 90 60
ꢀ‑
17
ꢀ‑
80}
[1121]
{-90
ꢀ‑
50 38 89 56
ꢀ‑
30
ꢀ‑
87
ꢀ‑
63 21 85 68
ꢀ‑
13
ꢀ‑
82
ꢀ‑
74 4 78}
[1122]
{4 82 68
ꢀ‑
21
ꢀ‑
87
ꢀ‑
56 38 90 42
ꢀ‑
53
ꢀ‑
88
ꢀ‑
26 66 84 9
ꢀ‑
77}
[1123]
{89 21
ꢀ‑
74
ꢀ‑
74 21 89 42
ꢀ‑
60
ꢀ‑
84 0 84 60
ꢀ‑
42
ꢀ‑
89
ꢀ‑
21 74}
[1124]
{-17
ꢀ‑
90
ꢀ‑
30 74 68
ꢀ‑
38
ꢀ‑
88
ꢀ‑
9 84 53
ꢀ‑
56
ꢀ‑
82 13 89 34
ꢀ‑
72}
[1125]
{-86 9 90 21
ꢀ‑
82
ꢀ‑
50 66 72
ꢀ‑
42
ꢀ‑
85 13 90 17
ꢀ‑
84
ꢀ‑
46 68}
[1126]
{30 86
ꢀ‑
17
ꢀ‑
89 4 90 9
ꢀ‑
88
ꢀ‑
21 85 34
ꢀ‑
80
ꢀ‑
46 74 56
ꢀ‑
66}
[1127]
},
[1128]-否则,如果trtype等于2且ntbs等于4,则以下适用:
[1129]
transmatrix[m][n]=(8-998)
[1130]
{
[1131]
{84 74 55 29}
[1132]
{74 0
ꢀ‑
74
ꢀ‑
74}
[1133]
{55
ꢀ‑
74
ꢀ‑
29 84}
[1134]
{29
ꢀ‑
74 84
ꢀ‑
55}
[1135]
},-否则,如果trtype等于2且ntbs等于8,则以下适用:
[1136]
transmatrix[m][n]=(8-999)
[1137]
{
[1138]
{86 85 78 71 60 46 32 17}
[1139]
{85 60 17
ꢀ‑
32
ꢀ‑
71
ꢀ‑
86
ꢀ‑
78
ꢀ‑
46}
[1140]
{78 17
ꢀ‑
60
ꢀ‑
86
ꢀ‑
46 32 85 71}
[1141]
{71
ꢀ‑
32
ꢀ‑
86
ꢀ‑
17 78 60
ꢀ‑
46
ꢀ‑
85}
[1142]
{60
ꢀ‑
71
ꢀ‑
46 78 32
ꢀ‑
85
ꢀ‑
17 86}
[1143]
{46
ꢀ‑
86 32 60
ꢀ‑
85 17 71
ꢀ‑
78}
[1144]
{32
ꢀ‑
78 85
ꢀ‑
46
ꢀ‑
17 71
ꢀ‑
86 60}
[1145]
{17
ꢀ‑
46 71
ꢀ‑
85 86
ꢀ‑
78 60
ꢀ‑
32}
[1146]
},-否则,如果trtype等于2且ntbs等于16,则以下适用:
[1147]
transmatrix[m][n]=(8-1000)
[1148]
{
[1149]
{88 88 87 85 81 77 73 68 62 55 48 40 33 25 17 8}
[1150]
{88 81 68 48 25 0
ꢀ‑
25
ꢀ‑
48
ꢀ‑
68
ꢀ‑
81
ꢀ‑
88
ꢀ‑
88
ꢀ‑
81
ꢀ‑
68
ꢀ‑
48
ꢀ‑
25}
[1151]
{87 68 33
ꢀ‑8ꢀ‑
48
ꢀ‑
77
ꢀ‑
88
ꢀ‑
81
ꢀ‑
55
ꢀ‑
17 25 62 85 88 73 40}
[1152]
{85 48
ꢀ‑8ꢀ‑
62
ꢀ‑
88
ꢀ‑
77
ꢀ‑
33 25 73 88 68 17
ꢀ‑
40
ꢀ‑
81
ꢀ‑
87
ꢀ‑
55}
[1153]
{81 25
ꢀ‑
48
ꢀ‑
88
ꢀ‑
68 0 68 88 48
ꢀ‑
25
ꢀ‑
81
ꢀ‑
81
ꢀ‑
25 48 88 68}
[1154]
{77 0
ꢀ‑
77
ꢀ‑
77 0 77 77 0
ꢀ‑
77
ꢀ‑
77 0 77 77 0
ꢀ‑
77
ꢀ‑
77}
[1155]
{73
ꢀ‑
25
ꢀ‑
88
ꢀ‑
33 68 77
ꢀ‑
17
ꢀ‑
88
ꢀ‑
40 62 81
ꢀ‑8ꢀ‑
87
ꢀ‑
48 55 85}
[1156]
{68
ꢀ‑
48
ꢀ‑
81 25 88 0
ꢀ‑
88
ꢀ‑
25 81 48
ꢀ‑
68
ꢀ‑
68 48 81
ꢀ‑
25
ꢀ‑
88}
[1157]
{62
ꢀ‑
68
ꢀ‑
55 73 48
ꢀ‑
77
ꢀ‑
40 81 33
ꢀ‑
85
ꢀ‑
25 87 17
ꢀ‑
88
ꢀ‑
8 88}
[1158]
{55
ꢀ‑
81
ꢀ‑
17 88
ꢀ‑
25
ꢀ‑
77 62 48
ꢀ‑
85
ꢀ‑
8 88
ꢀ‑
33
ꢀ‑
73 68 40
ꢀ‑
87}
[1159]
{48
ꢀ‑
88 25 68
ꢀ‑
81 0 81
ꢀ‑
68
ꢀ‑
25 88
ꢀ‑
48
ꢀ‑
48 88
ꢀ‑
25
ꢀ‑
68 81}
[1160]
{40
ꢀ‑
88 62 17
ꢀ‑
81 77
ꢀ‑8ꢀ‑
68 87
ꢀ‑
33
ꢀ‑
48 88
ꢀ‑
55
ꢀ‑
25 85
ꢀ‑
73}
[1161]
{33
ꢀ‑
81 85
ꢀ‑
40
ꢀ‑
25 77
ꢀ‑
87 48 17
ꢀ‑
73 88
ꢀ‑
55
ꢀ‑
8 68
ꢀ‑
88 62}
[1162]
{25
ꢀ‑
68 88
ꢀ‑
81 48 0
ꢀ‑
48 81
ꢀ‑
88 68
ꢀ‑
25
ꢀ‑
25 68
ꢀ‑
88 81
ꢀ‑
48}
[1163]
{17
ꢀ‑
48 73
ꢀ‑
87 88
ꢀ‑
77 55
ꢀ‑
25
ꢀ‑
8 40
ꢀ‑
68 85
ꢀ‑
88 81
ꢀ‑
62 33}
[1164]
{8
ꢀ‑
25 40
ꢀ‑
55 68
ꢀ‑
77 85
ꢀ‑
88 88
ꢀ‑
87 81
ꢀ‑
73 62
ꢀ‑
48 33
ꢀ‑
17}
[1165]
},
[1166]-否则,如果trtype等于2且ntbs等于32,则以下适用:
[1167]
transmatrix[m][n]=transmatrixcol0to15[m][n],其中m=0..15、n=0..15(8-1001)
[1168]
transmatrixcol0to15=(8-1002)
[1169]
{
[1170]
{90 90 89 88 87 86 85 84 82 80 78 77 74 72 68 66}
[1171]
{90 8784 78 72 63 53 42 30 17 4
ꢀ‑9ꢀ‑
21
ꢀ‑
34
ꢀ‑
46
ꢀ‑
56}
[1172]
{89 84 74 60 42 21 0
ꢀ‑
21
ꢀ‑
42
ꢀ‑
60
ꢀ‑
74
ꢀ‑
84
ꢀ‑
89
ꢀ‑
89
ꢀ‑
84
ꢀ‑
74}
[1173]
{88 78 60 34 4
ꢀ‑
26
ꢀ‑
53
ꢀ‑
74
ꢀ‑
86
ꢀ‑
90
ꢀ‑
82
ꢀ‑
66
ꢀ‑
42
ꢀ‑
13 17 46}
[1174]
{87 72 42 4
ꢀ‑
34
ꢀ‑
66
ꢀ‑
85
ꢀ‑
89
ꢀ‑
77
ꢀ‑
50
ꢀ‑
13 26 60 82 90 80}
[1175]
{86 63 21
ꢀ‑
26
ꢀ‑
66
ꢀ‑
87
ꢀ‑
85
ꢀ‑
60
ꢀ‑
17 30 68 88 84 56 13
ꢀ‑
34}
[1176]
{85 53 0
ꢀ‑
53
ꢀ‑
85
ꢀ‑
85
ꢀ‑
53 0 53 85 85 53 0
ꢀ‑
53
ꢀ‑
85
ꢀ‑
85}
[1177]
{84 42
ꢀ‑
21
ꢀ‑
74
ꢀ‑
89
ꢀ‑
60 0 60 89 74 21
ꢀ‑
42
ꢀ‑
84
ꢀ‑
84
ꢀ‑
42 21}
[1178]
{82 30
ꢀ‑
42
ꢀ‑
86
ꢀ‑
77
ꢀ‑
17 53 89 68 4
ꢀ‑
63
ꢀ‑
90
ꢀ‑
60 9 72 88}
[1179]
{80 17
ꢀ‑
60
ꢀ‑
90
ꢀ‑
50 30 85 74 4
ꢀ‑
68
ꢀ‑
87
ꢀ‑
38 42 88 66
ꢀ‑
9}
[1180]
{78 4
ꢀ‑
74
ꢀ‑
82
ꢀ‑
13 68 85 21
ꢀ‑
63
ꢀ‑
87
ꢀ‑
30 56 89 38
ꢀ‑
50
ꢀ‑
90}
[1181]
{77
ꢀ‑9ꢀ‑
84
ꢀ‑
66 26 88 53
ꢀ‑
42
ꢀ‑
90
ꢀ‑
38 56 87 21
ꢀ‑
68
ꢀ‑
82
ꢀ‑
4}
[1182]
{74
ꢀ‑
21
ꢀ‑
89
ꢀ‑
42 60 84 0
ꢀ‑
84
ꢀ‑
60 42 89 21
ꢀ‑
74
ꢀ‑
74 21 89}
[1183]
{72
ꢀ‑
34
ꢀ‑
89
ꢀ‑
13 82 56
ꢀ‑
53
ꢀ‑
84 9 88 38
ꢀ‑
68
ꢀ‑
74 30 90 17}
[1184]
{68
ꢀ‑
46
ꢀ‑
84 17 90 13
ꢀ‑
85
ꢀ‑
42 72 66
ꢀ‑
50
ꢀ‑
82 21 90 9
ꢀ‑
86}
[1185]
{66
ꢀ‑
56
ꢀ‑
74 46 80
ꢀ‑
34
ꢀ‑
85 21 88
ꢀ‑9ꢀ‑
90
ꢀ‑
4 89 17
ꢀ‑
86
ꢀ‑
30}
[1186]
},
[1187]
transmatrix[m][n]=transmatrixcol16to31[m-16][n],其中m=16..31、n=0..15(8-1003)
[1188]
transmatrixcol16to31=(8-1004)
[1189]
{
[1190]
{63 60 56 53 50 46 42 38 34 30 26 21 17 13 9 4}
[1191]
{-66
ꢀ‑
74
ꢀ‑
80
ꢀ‑
85
ꢀ‑
88
ꢀ‑
90
ꢀ‑
89
ꢀ‑
86
ꢀ‑
82
ꢀ‑
77
ꢀ‑
68
ꢀ‑
60
ꢀ‑
50
ꢀ‑
38
ꢀ‑
26
ꢀ‑
13}
[1192]
{-60
ꢀ‑
42
ꢀ‑
21 0 21 42 60 74 84 89 89 84 74 60 42 21}
[1193]
{68 84 90 85 72 50 21
ꢀ‑9ꢀ‑
38
ꢀ‑
63
ꢀ‑
80
ꢀ‑
89
ꢀ‑
87
ꢀ‑
77
ꢀ‑
56
ꢀ‑
30}
[1194]
{56 21
ꢀ‑
17
ꢀ‑
53
ꢀ‑
78
ꢀ‑
90
ꢀ‑
84
ꢀ‑
63
ꢀ‑
30 9 46 74 88 86 68 38}
[1195]
{-72
ꢀ‑
89
ꢀ‑
82
ꢀ‑
53
ꢀ‑
9 38 74 90 80 50 4
ꢀ‑
42
ꢀ‑
77
ꢀ‑
90
ꢀ‑
78
ꢀ‑
46}
[1196]
{-53 0 53 85 85 53 0
ꢀ‑
53
ꢀ‑
85
ꢀ‑
85
ꢀ‑
53 0 53 85 85 53}
[1197]
{74 89 60 0
ꢀ‑
60
ꢀ‑
89
ꢀ‑
74
ꢀ‑
21 42 84 84 42
ꢀ‑
21
ꢀ‑
74
ꢀ‑
89
ꢀ‑
60}
[1198]
{50
ꢀ‑
21
ꢀ‑
78
ꢀ‑
85
ꢀ‑
38 34 84 80 26
ꢀ‑
46
ꢀ‑
87
ꢀ‑
74
ꢀ‑
13 56 90 66}
[1199]
{-77
ꢀ‑
84
ꢀ‑
26 53 90 56
ꢀ‑
21
ꢀ‑
82
ꢀ‑
78
ꢀ‑
13 63 89 46
ꢀ‑
34
ꢀ‑
86
ꢀ‑
72}
[1200]
{-46 42 90 53
ꢀ‑
34
ꢀ‑
88
ꢀ‑
60 26 86 66
ꢀ‑
17
ꢀ‑
84
ꢀ‑
72 9 80 77}
[1201]
{78 74
ꢀ‑
13
ꢀ‑
85
ꢀ‑
63 30 89 50
ꢀ‑
46
ꢀ‑
90
ꢀ‑
34 60 86 17
ꢀ‑
72-80}
[1202]
{42
ꢀ‑
60
ꢀ‑
84 0 84 60
ꢀ‑
42
ꢀ‑
89
ꢀ‑
21 74 74
ꢀ‑
21
ꢀ‑
89
ꢀ‑
42 60 84}
[1203]
{-80
ꢀ‑
60 50 85
ꢀ‑4ꢀ‑
87
ꢀ‑
42 66 77
ꢀ‑
26
ꢀ‑
90
ꢀ‑
21 78 63
ꢀ‑
46
ꢀ‑
86}
[1204]
{-38 74 63
ꢀ‑
53
ꢀ‑
80 26 89 4
ꢀ‑
87
ꢀ‑
34 77 60
ꢀ‑
56
ꢀ‑
78 30 88}
[1205]
{82 42
ꢀ‑
77
ꢀ‑
53 68 63
ꢀ‑
60
ꢀ‑
72 50 78
ꢀ‑
38
ꢀ‑
84 26 87
ꢀ‑
13
ꢀ‑
90}
[1206]
},
[1207]
3由一些公开的技术方案解决的技术问题
[1208]
1.当前vvc设计使用变换块的宽度和高度来在变换和逆向变换期间确定比特移位的数目,这可能降低处理精度。
[1209]
2.当前vvc设计使用变换块的宽度和高度来在量化和去量化期间确定比特移位的数目,这可能降低处理精度。
[1210]
3.当前vvc量化设计可能导致量化残差超出一些块尺寸的16比特动态范围,这由于之后裁剪至16比特而降低编解码效率。
[1211]
4.当前,将左移位应用于变换跳过以将能量与变换块配准,这可能是不必要的。
[1212]
4实施例示例和技术的列表
[1213]
下面列表应作为示例考虑以解释总体构思。这些实施例不应以狭义方式来解释。
此外,这些项目可以以任何方式组合。
[1214]
在以下描述中,变换跳过块可以表示不应用变换(非恒等变换)或仅应用恒等变换的块,诸如具有变换跳过模式的块; 具有bdpcm模式的块,具有变换和量化旁路模式的块,具有调色板模式的块。
[1215]
1.对于变换跳过块,在解码系数到残差(例如,tsshift)的转换中所使用的缩放因子可以与块尺寸无关。
[1216]
a.在一个示例中,缩放因子是常数
[1217]
i.在一个示例中,缩放因子可以设置为1。
[1218]
b.在一个示例中,缩放因子可以取决于内比特深度
[1219]
i.在一个示例中,缩放因子可以设置为(15-internal_bit_depth)
[1220]
c.在一个示例中,不调用缩放变换系数的变换过程,并且变换系数的缩放过程的输出是生成中间残差样点的输入,即,没有比特移位。
[1221]
2.对于变换块,去量化的比特移位的数目可以取决于实际变换尺寸(例如,
[1222]
不考虑归零区域的尺寸)。
[1223]
a.在一个示例中,去量化的比特移位的数目可以取决于实际变换的高度,即2.1.3中描述的nonzeroh。
[1224]
3.对于变换块,逆向变换的比特移位的数目可以取决于变换块尺寸和实际变换尺寸。
[1225]
a.在一个示例中,逆向变换的比特移位的数目可以取决于变换块尺寸。
[1226]
b.在一个示例中,逆向变换的比特移位的数目可以取决于变换块的高度。
[1227]
c.在一个示例中,逆向变换的比特移位的数目可以取决于实际变换的高度。
[1228]
d.在一个示例中,逆向变换的比特移位的数目可以取决于实际变换尺寸。
[1229]
e.在一个示例中,对变换块尺寸不同于实际变换尺寸的块,逆向变换的比特移位的数目可以不同于变换块尺寸等于实际变换尺寸的那些块。
[1230]
f.在一个示例中,对变换块高度不同于实际变换高度的块,逆向变换的比特移位的数目可以不同于变换块高度等于实际变换高度的那些块。
[1231]
4.对于变换块,去量化的比特移位的数目可以取决于有上限的(capped)变换块尺寸。
[1232]
a.在一个示例中,当变换块尺寸等于或大于32x32时,去量化的比特移位的数目可以是根据16x16块尺寸。
[1233]
b.在一个示例中,是否和/或如何应用有上限的变换块尺寸可以取决于量化参数。
[1234]
c.在一个示例中,是否和/或如何应用有上限的变换块尺寸可以取决于块宽度是否为块高度的偶数倍。
[1235]
d.在一个示例中,是否和/或如何应用有上限的变换块尺寸可以取决于块高度是否为块宽度的偶数倍。
[1236]
5.如果使用无损编解码,则可以在没有比特移位的情况下应用变换和/或量化过程。
[1237]
a.在一个示例中,可以将序列/图片/子图片/条带/片组/片/砖/ctu行/ctu/cu/pu/tu/子块级标志添加到比特流中以指示当前视频单元是否通过无损编解码来编解码。
[1238]
i.在一个示例中,如果使用无损编解码,则当前视频单元的对应的无损标志可以设置为等于1。
[1239]
b.在一个示例中,如果使用无损编解码,可以应用可逆变换,使得编码帧是具有原始帧的比特精确。
[1240]
i.在一个示例中,无损编解码块的变换尺寸可以固定为mxn(诸如m=n=4)。
[1241]
ii.在一个示例中,无损编解码块的变换核心可以是walsh hadamard变换。
[1242]
iii.在一个示例中,变换跳过可以用于无损编解码块。
[1243]
c.在一个示例中,如果无损编解码用于当前视频块,在解码系数到残差(例如,tsshift)的转换中使用的缩放因子可以设置为1(例如,没有缩放)。
[1244]
d.在一个示例中,如果无损编解码用于当前视频块,逆向变换的比特移位的数目可以等于0(例如,没有比特移位)。
[1245]
e.在一个示例中,如果无损编解码用于当前视频块,量化参数可以设置为n(诸如n=4,例如,没有量化)。
[1246]
f.在一个示例中,如果无损编解码用于当前视频块,去量化的比特移位的数目可以等于0(例如,没有比特移位)。
[1247]
5实施例
[1248]
用粗斜体标记的以下改变并且在括号{{}}中包括的删除是基于jvet-o2001-ve。
[1249]
5.1实施例#1
[1250]
该实施例反映了使变换跳过块的缩放因子与块尺寸无关的改变。
[1251]
8.7.2缩放和变换过程
[1252]
该过程的输入是:
[1253]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[1254]-变量cidx,指定当前块的色彩分量,
[1255]-变量ntbw,指定变换块宽度,
[1256]-变量ntbh,指定变换块高度。
[1257]
该过程的输出为残差样点ressamples[x][y]的(ntbw)x(ntbh)矩阵,其中x=0..ntbw-1、y=0..ntbh-1。
[1258]
变量bitdepth、bdshift和tsshift导出如下:
[1259]
bitdepth=(cidx==0)?bitdepthy:bitdepthc(8-942)
[1260]
bdshift=max(20-bitdepth,0)(8-943)
[1261]
tsshift=5+((log2(ntbw)+log2(ntbh))/2)(8-944)
[1262]
变量codedcidx导出如下:
[1263]-如果cidx等于0或tucresmode[xtby][ytby]等于0,则codedcidx设置为等于cidx。
[1264]-否则,如果tucresmode[xtby][ytby]等于1或2,则codedcidx设置为等于1。
[1265]-否则,codedcidx设置为等于2。
[1266]
变量csign设置为等于(1-2*slice_joint_cbcr_sign_flag)。
[1267]
残差样点ressamples的(ntbw)x(ntbh)矩阵导出如下:
[1268]
1.使用以下调用如节8.7.3中指定的变换系数的缩放过程:变换块位置(xtby,ytby)、变换块宽度ntbw和变换块高度ntbh、设置为等于codedcidx的色彩分量变量cidx以及当前色彩分量的比特深度bitdepth作为输入,并且输出是缩放变换系数的(ntbw)x(ntbh)矩阵d。
[1269]
2.残差样点的(ntbw)x(ntbh)矩阵r导出如下:
[1270]-如果transform_skip_flag[xtby][ytby]等于1和cidx等于0,则残差样点矩阵值r[x][y],其中x=0..ntbw-1、y=0..ntbh-1,导出如下:
[1271][1272]-否则(transform_skip_flag[xtby][ytby]等于0或和cidx不等于0),使用以下调用如节8.7.4.1中指定的缩放变换系数的变换过程:变换块位置(xtby,ytby)、变换块宽度ntbw和变换块高度ntbh,色彩分量变量cidx和缩放变换系数的(ntbw)x(ntbh)矩阵d作为输入,并且输出是残差样点的(ntbw)x(ntbh)矩阵r。
[1273]
8.7.3变换系数的缩放过程
[1274]

[1275]
变量bdshift、rectnorm和bdoffset导出如下:
[1276][1277][1278]
bdshift=bitdepth+((rectnontsflag?1∶0)+(8-956)
[1279]
(log2(ntbw)+log2(ntbh))/2)-5+dep_quant_enabled_flag-bdoffset=(1<<bdshift)>>1(8-957)
[1280]
5.2实施例#2
[1281]
该实施例反映了使缩放过程基于实际变换尺寸而不是变换块尺寸的改变。
[1282]
8.7.3变换系数的缩放过程
[1283]
该过程的输入是:
[1284]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[1285]-变量ntbw,指定变换块宽度,
[1286]-变量ntbh,指定变换块高度,
[1287]-变量cidx,指定当前块的色彩分量,
[1288]-变量bitdepth,指定当前色彩分量的比特深度。
[1289]
该过程的输出是具有元素d[x][y]的缩放变换系数的(ntbw)x(ntbh)矩阵d。
[1290]
[1291][1292]
量化参数qp导出如下:
[1293]-如果cidx等于0并且transform_skip_flag[xtby][ytby]等于0,则以下适用:
[1294]
qp=qp
′y(8-950)
[1295]-否则,如果cidx等于0(并且transform_skip_flag[xtby][ytby]等于1),则以下适用:
[1296]
qp=max(qpprimetsmin,qp
′y)(8-951)
[1297]-否则,如果tucresmode[xtby][ytby]等于2,则以下适用:
[1298]
qp=qp

cbcr
(8-952)
[1299]-否则,如果cidx等于1,以下适用:
[1300]
qp=qp

cb
(8-953)
[1301]-否则(cidx等于2),以下适用:
[1302]
qp=qp

cr
(8-954)
[1303]
变量rectnontsflag导出如下:
[1304]
rectnontsflag=(((log2(ntbw)+log2(ntbh))&1)==1&&(8-955)
[1305]
transform_skip_flag[xtby][ytby]==0)
[1306]
变量bdshift、rectnorm和bdoffset导出如下:
[1307]
bdshift=bitdepth+((rectnontsflag?1:0)+(8-956)
[1308][1309]
bled_flag
[1310]
bdoffset=(1<<bdshift)>>1(8-957)
[1311]
列表levelscale[][]被指定为levelscale[j][k]={{40,45,51,57,64,72},{57,64,72,80,90,102}},其中j=0..1,k=0..5。
[1312]
(ntbw)x(ntbh)矩阵dz设置为等于(ntbw)x(ntbh)矩阵transcoefflevel[xtby][ytby][cidx]。
[1313]
为了导出缩放变换系数d[x][y],其中x=0..ntbw-1,y=0..ntbh-1,以下适用:
[1314]-中间缩放因子m[x][y]导出如下:
[1315]-如果以下条件中的一个或多个为真,则m[x][y]设置为等于16:
[1316]-sps_scaling_list_enabled_flag等于0。
[1317]-transform_skip_flag[xtby][ytby]等于1。
[1318]-否则,以下适用:
[1319]
m[x][y]=scalingfactor[log2(ntbw)][log2(ntbh)][matrixid][x][y],
[1320]
其中matrixid如表7-5中指定(8-958)
[1321]-缩放因子1s[x][y]导出如下:
[1322]-如果dep_quant_enabled_flag等于1,则以下适用:
[1323]
ls[x][y]=(m[x][y]*levelscale[rectnontsflag][(qp+1)%6])<<((qp+1)/6)(8-959)
[1324]-否则(dep_quant_enabled_flag等于0),以下适用:
[1325]
ls[x][y]=(m[x][y]*levelscale[rectnontsflag][qp%6])<<(qp/6)(8-960)
[1326]-当bdpcmflag[xtby][yyby]等于1时,dz[x][y]修改如下:
[1327]-如果bdpcmdir[xtby][yyby]等于0且x大于0,则以下适用:
[1328]
dz[x][y]=clip3(coeffmin,coeffmax,dz[x-1][y]+dz[x][y])(8-961)
[1329]-否则,如果bdpcmdir[xtby][yyby]等于1且y大于0,则以下适用:
[1330]
dz[x][y]=clip3(coeffmin,coeffmax,dz[x][y-1]+dz[x][y])(8-962)
[1331]-值dnc[x][y]导出如下:
[1332]
dnc[x][y]=(dz[x][y]*ls[x][y]+bdoffset)>>bdshift(8-963)
[1333]-缩放变换系数d[x][y]导出如下:
[1334]
d[x][y]=clip3(coeffmin,coeffmax,dnc[x][y])(8-964)
[1335]
5.3实施例#3
[1336]
该实施例反映了使逆向变换移位取决于实际变换尺寸和变换块尺寸的改变。
[1337]
8.7.4缩放变换系数的变换过程
[1338]
8.7.4.1一般性
[1339]
该过程的输入是:
[1340]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[1341]-变量ntbw,指定当前变换块的宽度,
[1342]-变量ntbh,指定当前变换块的高度,
[1343]-变量cidx,指定当前块的色彩分量,
[1344]-缩放变换系数的(ntbw)x(ntbh)矩阵d[x][y],其中x=0..ntbw-1、y=0..ntbh-1。
[1345]
此过程的输出是残差样点的(ntbw)x(ntbh)矩阵r[x][y],其中x=0..ntbw-1、y=o..ntbh-1。
[1346]
当lfnst_idx[xtby][ytby]不等于0并且ntbw和ntbh两者都大于或等于4时,以下适用:
[1347]-变量predmodeintra、nlfnstoutsize、log2lfnstsize、nlfnstsize、和nonzerosize导出如下:
[1348]
predmodeintra=(cidx==0)?intrapredmodey[xtby][ytby]:intrapredmodec[xtby][ytby](8-965)
[1349]
nlfnstoutsize=(ntbw>=8&&ntbh>=8)?48:16(8-966)
[1350]
log2lfnstsize=(ntbw>=8&&ntbh>=8)?3:2(8-967)
[1351]
nlfnstsize=1<<log2lfnstsize(8-968)
[1352]
nonzerosize=((ntbw==4&&ntbh==4)||(ntbw==8&&ntbh==8))?8∶16(8-969)
[1353]-当intra_mip_flag[xtbcomp][ytbcomp]等于1并且cidx等于0时,predmodeintra设置为等于intra_planar。
[1354]-当predmodeintra等于intra_lt_cclm、intra_l_cclm或intra_t_cclm时,predmodeintra设置为等于intrapredmodey[xtby+ntbw/2][ytby+ntbh/2]。
[1355]-使用以下调用如节8.4.5.2.6中指定的宽角度帧内预测模式映射过程:predmodeintra、ntbw、ntbh和cidx作为输入,以及修改的predmodeintra作为输出。
[1356]-列表u[x]的值,其中x=0..nonzerosize-1,导出如下:
[1357]
xc=diagscanorder[2][2][x][0](8-970)
[1358]
yc=diagscanorder[2][2][x][1](8-971)
[1359]
u[x]=d[xc][yc](8-972)
[1360]-使用以下调用如节8.7.4.2中指定的一维低频不可分变换过程:缩放变换系数的输入长度nonzerosize、设置为等于nlfnstoutsize的变换输出长度ntrs、缩放非零变换系数的列表u[x],其中x=0..nonzerosize-1、lfnst集合选择的帧内预测模式predmodeintra、和在选择的lfnst集合中变换选择的lfnst索引lfnst_idx[xtby][ytby]作
为输入,以及列表v[x],其中x=0..nlfnstoutsize-1作为输出。
[1361]-矩阵d[x][y],其中x=0..nlfnstsize-1,y=0..nlfnstsize-1导出如下:
[1362]-如果predmodeintra小于或等于34,则以下适用:
[1363]
d[x][y]=(y<4)?v[x+(y<<log2lfnstsize)]:(8-973)
[1364]
((x<4)?v[32+x+((y-4)<<2)]:d[x][y])
[1365]-否则,以下适用:
[1366]
d[x][y]=(x<4)?v[y+(x<<log2lfnstsize)]:(8-974)
[1367]
((y<4)?v[32+y+((x-4)<<2)]:d[x][y])
[1368]
变量implicitmtsenabled导出如下:
[1369]-如果sps_mts_enabled_flag等于1并且以下条件中的一个为真,则implicitmtsenabled设置为等于1:
[1370]-intrasubpartitionssplittype不等于isp_nosplit
[1371]-cu_sbt_flag等于1并且max(ntbw,ntbh)小于或等于32
[1372]-sps_explicit_mts_intraenabled_flag等于0且cupredmode[0][xtby][ytby]等于mode_intra且lfnst_idx[x0][y0]等于0和intra_mip_flag[x0][y0]等于0
[1373]-否则,implicitmtsenabled设置为等于0。
[1374]
指定水平变换核的变量trtypehor和指定垂直变换核的变量trtypever导出如下:
[1375]-如果cidx大于0,则trtypehor和trtypever设置为等于0。
[1376]-否则,如果implicitmtsenabled等于1,则以下适用:
[1377]-如果intrasubpartitionssplittype不等于isp_no_split或sps_explicit_mts_intra_enabled_flag等于0且cupredmode[0][xtby][ytby]等于mode_intra,则trtypehor和trtypever导出如下:
[1378]
trtypehor=(ntbw>=4&&ntbw<=16)?1:0(8-975)
[1379]
trtypever=(ntbh>=4&&ntbh<=16)?1:0(8-976)
[1380]-否则(cu_sbt_flag等于1),指定在表8-15中的trtypehor和trtypever取决于cu_sbt_horizontal_flag和cu_sbt_pos_flag。
[1381]-否则,指定在表8-14中的trtypehor和trtypever取决于tu_mts_idx[xtby][ytby]。
[1382]
变量nonzerow和nonzeroh导出如下:
[1383]-如果lfnst_idx[xtby][ytby]不等于0且ntbw大于或等于4且ntbh大于或等于4,则以下适用:
[1384]
nonzerow=(ntbw==4||ntbh==4)?4:8(8-977)
[1385]
nonzeroh=(ntbw==4||ntbh==4)?4:8(8-978)
[1386]-否则,以下适用:
[1387]
nonzerow=min(ntbw,(trtypehor>0)?16:32)(8-979)
[1388]
nonzeroh=min(ntbh,(trtypever>0)?16:32)(8-980)
[1389]
残差样点的(ntbw)x(ntbh)矩阵r导出如下:
[1390]
5.当ntbh大于1时,通过使用以下调用节8.7.4.4指定的一维变换过程缩放变换系数d[x][y](其中x=0..nonzerow-1、y=0..nonzeroh-1)的将每一(垂直)列变换为e[x][y]
(其中x=0..nonzerow-1、y=0..ntbh-1):对于每一列x=0..nonzerow-1,变换块的高度ntbh、缩放变换系数的非零高度nonzeroh、列表d[x][y],其中y=0..nonzeroh-1以及设置为等于trtypever的变换类型变量trtype作为输入,并且输出是列表e[x][y],其中y=0..ntbh-1。
[1391]
6.当ntbh和ntbw都大于1时,中间样点值g[x][y],其中x=0..nonzerow-1、y=0..ntbh-1导出如下:
[1392][1393]
7.当ntbw大于1时,通过使用以下调用节8.7.4.4定的一维变换过程将得到的矩阵g[x][y](其中x=0..nonzerow-1、y=0...ntbh-1)的每一(水平)行变换为r[x][y](其中x=0...ntbw-1、y=0..ntbh-1):对于每一行y=0...ntbh-1,变换块的宽度ntbw、得到的矩阵g[x][y]的非零宽度nonzerow、列表g[x][y],其中x=0..nonzerow-1以及设置为等于trtypehor的变换类型变量trtype作为输入,并且输出是列表r[x][y],其中y=0..ntbw-1。
[1394]
8.当ntbw等于1时,r[x][y]设置为等于e[x][y],其中x=0..ntbw-1、y=0..ntbh-1.
[1395]
8.7.2缩放和变换过程
[1396]
该过程的输入是:
[1397]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[1398]-变量cidx,指定当前块的色彩分量,
[1399]-变量ntbw,指定变换块宽度,
[1400]-变量ntbh,指定变换块高度。
[1401]
该过程的输出为残差样点ressamples[x][y]的(ntbw)x(ntbh)矩阵,其中x=0..ntbw-1、y=0..ntbh-1。
[1402]
变量bitdepth、bdshift和tsshift导出如下:
[1403]
bitdepth=(cidx==0)?bitdepthy:bitdepthc(8-942)
[1404][1405]
5.4实施例#4
[1406]
该实施例反映了使量化残差在16比特的范围内的改变。
[1407]
8.7.3变换系数的缩放过程
[1408]
该过程的输入是:
[1409]-指定相对于当前图片的左上亮度样点的当前亮度变换块的左上样点的亮度位置(xtby,ytby),
[1410]-变量ntbw,指定变换块宽度,
[1411]-变量ntbh,指定变换块高度,-变量cidx,指定当前块的色彩分量,
[1412]-变量bitdepth,指定当前色彩分量的比特深度。
[1413]
该过程的输出是具有元素d[x][y]的缩放变换系数的(ntbw)x(ntbh)矩阵d。
[1414]
量化参数qp导出如下:
[1415]-如果cidx等于0并且transform_skip_flag[xtby][ytby]等于0,则以下适用:
[1416]
qp=qp
′y(8-950)
[1417]-否则,如果cidx等于0(并且transform_skip_flag[xtby][ytby]等于1),则以下适用:
[1418]
qp=max(qpprimetsmin,qp
′y)(8-951)
[1419]-否则,如果tucresmode[xtby][ytby]等于2,则以下适用:
[1420]
qp=qp

cbcr
(8-952)
[1421]-否则,如果cidx等于1,以下适用:
[1422]
qp=qp

cb
(8-953)
[1423]-否则(cidx等于2),以下适用:
[1424]
qp=qp

cr
(8-954)
[1425]
变量rectnontsflag导出如下:
[1426]
rectnontsflag=(((log2(ntbw)+log2(ntbh))&1)==1&&(8-955)
[1427]
transform_skip_flag[xtby][ytby]==0)
[1428]
变量bdshift、rectnorm和bdoffset导出如下:
[1429][1430]
bdoffset=(1<<bdshift)>>1(8-957)
[1431]
图5是可实现的本文中所公开的各种技术的示例视频处理系统500的框图。各种实现方式可以包括系统500中的一些或全部组件。系统500可以包括接收视频内容的输入502。视频内容可以以原始或未压缩的格式(例如8或10比特多分量像素值)接收,或者可以以压缩或编码的格式接收。输入502可以表示网络接口、外围总线接口或存储接口。网络接口的示例包括有线接口(诸如以太网、无源光网络(pon)等)和无线接口(诸如wi-fi或蜂窝接口)。
[1432]
系统500可以包括可以实现本文档中描述的各种编解码或编码方法的编解码组件504。编解码组件504可以减少从输入502到编解码组件504的输出的视频的平均比特率,以产生视频的编解码表示。因此,编解码技术有时称为视频压缩或视频转码技术。编解码组件504的输出可以被存储或经由所连接的通信来发送,如组件506所表示的。在输入502处接收的视频的存储或通信的比特流(或编解码)表示可以由组件508使用,以生成被发送到显示接口510的像素值或可显示视频。从比特流表示中生成用户可见的视频的过程有时称为视频解压缩。此外,尽管某些视频处理操作被称为

编解码

操作或工具,但是应当理解,在编码器处使用编解码工具或操作,并且将由解码器执行反向编解码结果的对应解码工具或操
作。
[1433]
外围总线接口或显示接口的示例可以包括通用串行总线(usb)或高清晰度多媒体接口(hdmi)或显示端口(displayport)等。存储接口的示例包括sata(串行高级技术附件)、pci、ide接口等。本文档中描述的技术可以实施在各种电子设备中,诸如移动电话、膝上型计算机、智能电话或其它能够执行数字数据处理和/或视频显示的设备。
[1434]
图6是视频处理设备600的框图。设备600可以用于实现文中所述的方法中的一个或多个。设备600可以实施为智能电话、平板计算机、计算机、物联网(iot)接收器等。设备600可以包括一个或多个处理器602、一个或多个存储器604和视频处理硬件606。(一个或多个)处理器602可以配置为实现本文档中所述的一个或多个方法。(一个或多个)存储器604可以用于存储数据和代码,该代码用于实现本文所描述的的方法和技术。视频处理硬件606可以用于在硬件电路中实现本文档中所描述的一些技术。在一些实现方式中,硬件606可以至少部分地或完整地在处理器602内,例如图形联合处理器内。
[1435]
图7是视频处理的示例方法700的流程图。方法700包括,在操作710处,根据规则执行视频的当前块与视频的比特流表示之间的转换,规则指定应用于当前块的变换编解码模式的缩放操作配置为与当前块的尺寸无关。
[1436]
图8是视频处理的示例方法800的流程图。方法800包括,在操作810处,根据规则执行视频的当前块与视频的比特流表示之间的转换,规则指定应用于当前块的变换编解码模式的去量化过程或缩放操作配置为与变换编解码模式无关。
[1437]
图9是视频处理的示例方法900的流程图。方法900包括,在操作910处,为包括当前块的视频与视频的比特流表示之间的转换,确定该转换包括对当前块的变换的应用。
[1438]
方法900包括,在操作920处,基于确定来执行转换,使得与变换相关联的变换系数的缩放过程的比特移位操作是基于当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
[1439]
图10是视频处理的示例方法1000的流程图。方法1000包括,在操作1010处,执行包括当前块的视频与视频的比特流表示之间的转换,使得当在当前块的残差系数值与当前块的编解码系数之间进行转换时所使用的变换移位是基于当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
[1440]
图11是视频处理的示例方法1100的流程图。方法1100包括,在操作1110处,为包括当前块的视频与视频的比特流表示之间的转换,确定当前块是使用基于块的差分脉冲编解码调制(bdpcm)模式来编解码的。
[1441]
方法1100包括,在操作1120处,基于确定来执行转换,使得与bdpcm模式相关联的缩放列表被禁用。
[1442]
图12是视频处理的示例方法1200的流程图。方法1200包括,在操作1210处,为包括当前块的视频与视频的比特流表示之间的转换,确定该转换是通过禁用对当前块的变换的应用来执行的。
[1443]
方法1200包括,在操作1220处,基于确定来执行转换,使得转换包括去量化过程,并且在去量化过程之后解码系数被约束至具有最小值和最大值的范围。
[1444]
图13是视频处理的示例方法1300的流程图。方法1300包括,在操作1310处,为包括当前块的视频与视频的比特流表示之间的转换,确定当前块是使用基于块的差分脉冲编解
码调制模式来编解码的。
[1445]
方法1300包括,在操作1320处,基于确定来执行转换,使得转换包括去量化过程,并且在去量化过程之后解码系数被约束至具有最小值和最大值的第一范围。
[1446]
以下技术方案可以实现为在一些实施例中的优选方案。
[1447]
1.一种视频处理的方法,包括:根据规则执行视频的当前块与所述视频的比特流表示之间的转换,其中规则指定应用于所述当前块的变换编解码模式的缩放操作配置为与所述当前块的尺寸无关。
[1448]
2.如方案1的方法,其中,所述变换编解码模式包括变换跳过模式,并且其中,所述缩放操作包括与所述变换编解码模式相关联的所述变换系数的缩放过程。
[1449]
3.如方案2的方法,其中,所述缩放过程包括比特移位操作,并且其中,所述比特移位操作与所述当前块的尺寸无关。
[1450]
4.如方案1的方法,其中,所述变换编解码模式包括基于块的差分脉冲编解码调制(bdpcm)模式,并且其中,所述缩放操作包括用于在所述当前块的残差系数值与所述当前块的编解码系数之间的转换的缩放因子。
[1451]
5.如方案4的方法,其中,所述缩放因子是预定义的常数。
[1452]
6.如方案5的方法,其中,所述缩放因子为一。
[1453]
7.如方案4的方法,其中,所述缩放因子是基于内比特深度(ibd)。
[1454]
8.如方案7的方法,其中,所述缩放因子为(15-ibd)。
[1455]
9.如方案4的方法,其中,缩放变换系数的变换过程被禁用,并且其中,所述变换系数的缩放过程的输出用作生成中间残差样点的输入。
[1456]
10.如方案1的方法,其中,所述变换编解码模式包括基于块的差分脉冲编解码调制(bdpcm)模式,并且其中,所述缩放操作包括与所述bdpcm模式相关联的所述变换系数的缩放过程。
[1457]
11.如方案10的方法,其中,所述缩放过程包括比特移位操作,并且其中,所述比特移位操作与所述当前块的尺寸无关。
[1458]
12.一种视频处理的方法,包括:根据规则执行视频的当前块与所述视频的比特流表示之间的转换,其中所述规则指定应用于所述当前块的变换编解码模式的去量化过程或缩放操作配置为与所述变换编解码模式无关。
[1459]
13.如方案12的方法,其中,所述变换编解码模式包括变换跳过模式,并且其中,所述去量化过程的去量化因子与所述变换编解码模式无关。
[1460]
14.如方案12的方法,其中,所述变换编解码模式包括基于块的差分脉冲编解码调制(bdpcm)模式,并且其中,所述去量化的去量化因子与所述变换编解码模式无关。
[1461]
15.如方案13或14的方法,其中,所述去量化因子表示为levelscale。
[1462]
16.如方案12的方法,其中,所述变换编解码模式包括变换跳过模式,其中,所述当前块的高度不等于所述当前块的宽度,其中,所述缩放操作包括变换系数的缩放操作,并且其中,所述缩放过程所使用的比特移位操作与变换编解码模式无关。
[1463]
17.如方案12的方法,其中,所述变换编解码模式包括基于块的差分脉冲编解码调制(bdpcm)模式,其中,所述当前块的高度不等于所述当前块的宽度,其中,所述缩放操作包括变换系数的缩放操作,并且其中,所述缩放过程所使用的比特移位操作与变换编解码模
式无关。
[1464]
18.一种视频处理的方法,包括:为包括当前块的视频与所述视频的比特流表示之间的转换,确定所述转换包括对所述当前块的变换的应用,并且基于所述确定来执行所述转换,其中与所述变换相关联的变换系数的缩放过程的比特移位操作是基于所述当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
[1465]
19.如方案18的方法,其中,当所述当前块用所述bdpcm模式来编解码时,所述当前块的比特移位操作与用变换跳过模式编解码的视频块的比特移位操作一致。
[1466]
20.一种视频处理的方法,包括:执行包括当前块的视频与所述视频的比特流表示之间的转换,其中当在所述当前块的残差系数值与所述当前块的编解码系数之间进行转换时所使用的变换移位是基于所述当前块是否用基于块的差分脉冲编解码调制(bdpcm)模式来编解码。
[1467]
21.如方案20的方法,其中,当所述当前块用所述bdpcm模式来编解码时,所述当前块的变换移位与用变换跳过模式编解码的视频块的变换移位一致。
[1468]
22.一种视频处理的方法,包括:为包括当前块的视频与所述视频的比特流表示之间的转换,确定所述当前块是使用基于块的差分脉冲编解码调制(bdpcm)模式来编解码的,并且基于确定来执行转换,其中,与所述bdpcm模式相关联的缩放列表被禁用。
[1469]
23.如方案22的方法,其中,在所述缩放列表中每个条目是预定义的常数。
[1470]
24.如方案23的方法,其中,所述预定义的常数为16。
[1471]
25.一种视频处理的方法,包括:为包括当前块的视频与所述视频的比特流表示之间的转换,确定所述转换是通过禁用对所述当前块的变换的应用来执行的,并且基于所述确定来执行所述转换,其中,所述转换包括去量化过程,并且其中,在所述去量化过程之后解码系数被约束至具有最小值(txmin)和最大值(tsmax)的范围。
[1472]
26.一种视频处理的方法,包括:为包括当前块的视频与所述视频的比特流表示之间的转换,确定所述当前块是使用基于块的差分脉冲编解码调制(bdpcm)模式来编解码的,并且基于所述确定来执行所述转换,其中,所述转换包括去量化过程,且其中在所述去量化过程之后解码系数被约束至具有最小值(bdpcmmin)和最大值(bdpcmmax)的第一范围。
[1473]
27.如方案25或26的方法,其中,变换系数约束为具有最小值(coeffmin)和最大值(coeffmax)的第二范围。
[1474]
28.如方案25或26的方法,其中,所述最小值为-(1<<bitdepth),并且其中,bitdepth是已经应用变换跳过模式的所述视频的色彩分量的比特深度。
[1475]
29.如方案25或26的方法,其中,所述最大值为[(1<<bitdepth)-1],并且其中,bitdepth已经应用变换跳过模式的所述视频的色彩分量的比特深度。
[1476]
30.如方案25或26的方法,其中,所述最小值为-(1<<min(bitdepth,15)),并且其中,bitdepth是已经应用变换跳过模式的所述视频的色彩分量的比特深度。
[1477]
31.如方案25或26的方法,其中,所述最大值为[(1<<min(bitdepth,15))-1],并且其中,bitdepth是已经应用变换跳过模式的所述视频的色彩分量的比特深度。
[1478]
32.如方案1至31中任一项的方法,其中,执行所述转换包括从所述当前块生成所述比特流表示。
[1479]
33.如方案1至31中任一项的方法,其中,执行所述转换包括从所述比特流表示生
成所述当前块。
[1480]
34.一种视频系统中的设备,包括处理器和其上具有指令的非暂时性存储器,其中,所述指令在由所述处理器执行时使得所述处理器实现方案1至33中任一项的方法。
[1481]
35.一种非暂时性计算机可读介质上存储的计算机程序产品,所述计算机程序产品包括用于实行方案1至33中任一项的方法的程序代码。
[1482]
36.一种计算机可读介质,存储根据方案1至33中的任何一种方法生成的所述比特流表示。
[1483]
37.一种计算机可读介质,存储根据权利要求1至33中的任何一种方案生成的编解码表示或比特流表示。
[1484]
在上述方案中,执行转换包括在编码或解码操作期间使用先前决定步骤的结果(例如,使用或不使用某些编解码或解码步骤)来达到转换结果。在上述方案中,视频处理可以包括视频编解码或编码或压缩或转码(从一个格式或比特率改变为另一个格式或比特率)、解码或解压缩。此外,这些方案可以应用于诸如图像的其他视觉数据。
[1485]
本文档中描述的公开的其他方案、示例、实施例、模块和功能操作可以在数字电子电路中或者在计算机软件、固件或硬件,包括在本文档中公开的结构以及其结构的等同,或者其一个或多个的组合中实现。所公开的和其它的实施例可以实现为一个或多个计算机程序产品,例如,在计算机可读介质上编码的一个或多个计算机程序指令模块,用于由数据处理装置执行或控制数据处理装置的操作。该计算机可读介质可以是机器可读存储装置、机器可读存储基板、存储器装置、影响机器可读可传播信号的复合物、或其一个或多个的组合。术语

数据处理装置

涵盖用于处理数据的所有装置、设备和机器,包括例如可编程处理器、计算机或多个处理器或计算机。除了硬件之外,该装置还可以包括为所讨论的计算机程序创建执行环境的代码,例如,构成处理器固件、协议栈、数据库管理系统、操作系统、或者它们中的一个或多个的组合的代码。传播信号是人工生成的信号,例如机器生成的电信号、光信号或电磁信号,其被生成以对信息进行编码以便传输到合适的接收器装置。
[1486]
计算机程序(也称为程序、软件、软件应用、脚本或代码)可以用任何形式的编程语言编写,包括编译或解释语言,并且可以以任何形式来部署计算机程序,包括独立程序或适合在计算环境中使用的模块、组件、子例程或其它单元。计算机程序不必须对应于文件系统中的文件。程序可以存储在保存其他程序或数据的文件的部分中(例如,在标记语言文档中存储的一个或多个脚本)、在专用于所讨论的程序的单个文件中、或在多个协同文件中(例如存储一个或多个模块、子程序或代码部分的文件)。计算机程序可以部署为在一个计算机上或者在多个计算机上执行,该多个计算机位于一个站点处或者分布跨越多个站点并由通信网络互连。
[1487]
可以由执行一个或多个计算机程序的一个或多个可编程处理器来进行在本文档中所描述的过程和逻辑流,以通过在输入数据上操作并且产生输出来进行功能。也可以由专用逻辑电路(例如fpga(现场可编程门矩阵)或asic(专用集成电路))进行过程和逻辑流,并且设备可以实现为专用逻辑电路(例如fpga(现场可编程门矩阵)或asic(专用集成电路))。
[1488]
适合于计算机程序的执行的处理器包括例如通用和专用微处理器两者,以及任何类型的数字计算机的任何一个或多个处理器。通常,处理器将从只读存储器或随机存取存
储器或者该两者接收指令和数据。计算机的基本元件是用于进行指令的处理器和用于存储指令和数据的一个或多个存储装置。通常,计算机还将包括用于存储数据的一个或多个海量存储装置(例如磁、磁光盘或光盘),或者可操作地耦合以从海量存储装置(例如磁、磁光盘或光盘)接收数据或者将数据传输到海量存储装置(例如磁、磁光盘或光盘),或者以上两者。但是,计算机不必具有这样的装置。适用于储存计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、介质和存储器装置,作为示例包括半导体存储器装置(例如eprom、eeprom和闪速存储装置)、磁盘(例如内部硬盘或可移除磁盘)、磁光盘以及cd rom和dvd-rom磁盘。处理器和存储器可以由专用逻辑电路补充,或者合并在专用逻辑电路中。
[1489]
虽然本专利文档包括许多细节,但这些细节不应被解释为对任何主题或可要求保护的范围的限制,而是作为特定于特定技术的特定实施例的特征的描述。在本专利文档中,在单独的实施例的上下文中描述的某些特征也可以在单个实施例中组合实现。相反地,在单个实施例的上下文中所描述的各种特征还可以分别在多个实施例中来实现或者以各种合适的子组合来实现。此外,尽管特征可以如上文描述为以某些组合起作用并且甚至最初同样地要求,但是在某些情况下来自所要求保护的组合的一个或多个特征可以从组合中去除,并且所要求保护的组合可以针对子组合或子组合的变化。
[1490]
类似地,尽管在附图中以特定次序描绘了操作,但这不应当理解为要求按所示的特定次序或顺序次序进行这样的操作或者进行所有示出的操作,以实现期望的结果。此外,在本专利文档中描述的实施例中的各种系统组件的分开不应被理解为在所有实施例中都要求这种分开。
[1491]
仅描述了几个实现方式和示例,并且可以基于本专利文档中描述和示出的内容来作出其它实现方式、增强和变型。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1