数据处理方法、装置及相关产品与流程

文档序号:22739355发布日期:2020-10-31 09:21阅读:120来源:国知局
数据处理方法、装置及相关产品与流程

本公开涉及计算机技术领域,尤其涉及一种数据处理方法、装置及相关产品。



背景技术:

循环神经网络(recurrentneuralnetwork,rnn)是一类以序列(sequence)数据为输入,在序列的演进方向进行递归(recursion)且所有节点(循环单元)按链式连接的递归神经网络(recursiveneuralnetwork)。循环神经网络是神经网络算法中常见的网络,给定循环神经网络一组或多组输入,并给定循环结束条件,经过循环执行循环神经网络中若干计算操作后,若确定满足循环结束条件后,结束循环,得到对应的一组或多组输出。相关技术中,可供神经网络开发工具执行的循环神经网络只有固定的几种,不能满足用户对循环神经网络不同需求,且相关技术中的循环神经网络是固定的,用户不能根据自身的需求进行自定义设置。



技术实现要素:

有鉴于此,本公开提出了一种数据处理方法、装置及相关产品。

根据本公开的一方面,提供了一种数据处理方法,所述方法应用于人工智能处理器,所述方法包括:

对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,所述子算子关联内容包括与待创建的循环子算子相对应的运算步骤;

根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;

根据至少一个循环子算子,创建循环神经网络算子;

根据所述循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

根据本公开的另一方面,提供了一种数据处理装置,所述装置应用于人工智能处理器,所述装置包括:

结构解析模块,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,所述子算子关联内容包括与待创建的循环子算子相对应的运算步骤;

子算子创建模块,根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;

算子创建模块,根据至少一个循环子算子,创建循环神经网络算子;

模型创建模块,根据所述循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

根据本公开的另一方面,提供了一种人工智能处理器,所述人工智能处理器包括如上所述的数据处理装置。

根据本公开的另一方面,提供了一种电子设备,所述电子设备包括如上所述的人工智能处理器。

根据本公开的另一方面,提供了一种板卡,所述板卡包括:存储器件、接口装置和控制器件以及如上所述的人工智能处理器;

其中,所述人工智能处理器与所述存储器件、所述控制器件以及所述接口装置分别连接;

所述存储器件,用于存储数据;

所述接口装置,用于实现所述人工智能处理器与外部设备之间的数据传输;

所述控制器件,用于对所述人工智能处理器的状态进行监控。

本公开实施例所提供的数据处理方法、装置及相关产品,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,子算子关联内容包括与待创建的循环子算子相对应的运算步骤;根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;根据至少一个循环子算子,创建循环神经网络算子;根据循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。可以根据用户设置的循环神经网络模型的网络结构,创建满足用户需求的循环神经网络模型,实现了循环神经网络模型中算子的自定义设置,扩大了循环神经网络的应用范围。

根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。

附图说明

包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。

图1示出根据本公开一实施例的数据处理方法的流程图。

图2a、图2b示出根据本公开一实施例的数据处理方法的应用场景的示意图。

图3示出根据本公开一实施例的数据处理装置的框图。

图4示出根据本公开实施例的板卡的结构框图。

具体实施方式

以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。

在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。

另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。

相关技术中,在利用循环神经网络进行计算时,循环神经网络所能进行的循环计算都是固定的,用户仅能选择是否使用该循环神经网络,并不能根据自身的循环计算需求对循环神经网络具体所进行的循环计算进行设置,限制了用户对循环神经网络的使用。

图1示出根据本公开一实施例的数据处理方法的流程图。如图1所示,该方法可以应用于人工智能处理器。该方法包括步骤s11至步骤s14。

在步骤s11中,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,子算子关联内容包括与待创建的循环子算子相对应的运算步骤。

在步骤s12中,根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子。

在步骤s13中,根据至少一个循环子算子,创建循环神经网络算子。

在步骤s14中,根据循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

在本实施例中,用户可以自行设置循环神经网络模型的网络结构,包括进行循环运算处理所涉及到的运算步骤、当前运算步骤的运算结果与下一运算步骤的运算之间的关联关系(如当前运算步骤的运算结果为下一运算步骤的运算输入、权值等)、实现运算步骤的运算过程所需应用的计算公式等能够表征循环运算处理的过程的数据,本公开对此不作限制。用户可以灵活设置循环神经网络模型的网络结构,可以通过循环神经网络模型的网络结构来表征自身对循环运算处理的运算需求。

在本实施例中,可以根据循环神经网络模型的网络结构,将其对应的计算过程拆分为一个或多个运算步骤,本公开对此不作限制。

在本实施例中,子算子参数可以包括与对应的循环子算子所进行的运算所需的常数、对应的公式等参数,对应的运算逻辑可以用于指示循环子算子所进行的运算的类型。

在本实施例中,根据至少一个循环子算子,创建循环神经网络算子,可以包括:仅根据新创建的至少一个循环子算子创建循环神经网络算子,所得到的循环神经网络算子为用户全新自定义的;根据新创建的至少一个循环子算子以及已有的循环子算子(无需用户自定义建立的子算子),创建循环神经网络算子,所得到的循环神经网络算子为用户对已有循环神经网络进行改造得到的。根据至少一个循环子算子,创建循环神经网络算子,还可以包括根据至少一个循环子算子以及循环结束条件(循环结束条件可以是用户设置的,也可以是已有的、无需用户设置的),创建循环神经网络算子。本领域技术人员可以根据需要对创建循环神经网络算子的方式进行设置,本公开对此不作限制。

在一种可能的实现方式中,输入输出规模可以包括输入数据的规模和输出数据的规模中的至少一项。

在该实现方式中,输入输出规模可以用于限定输入数据和/或输出数据的形状、尺寸、大小等,例如,输入数据为矩阵,可以设置其对应的规模为10×20,则输入的矩阵需处于“规模10×20”的限定范围内。输入输出规模可以是所接收到的用户所输入的,也可以是根据用户从待选输入输出规模中选择确定的输入输出规模,也可以是预先设置的默认的输入输出规模,本公开对此不作限制。

本公开实施例所提供的数据处理方法,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,子算子关联内容包括与待创建的循环子算子相对应的运算步骤;根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;根据至少一个循环子算子,创建循环神经网络算子;根据循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。可以根据用户设置的循环神经网络模型的网络结构,创建满足用户需求的循环神经网络模型,实现了循环神经网络模型中算子的自定义设置,扩大了循环神经网络的应用范围。

在一种可能的实现方式中,在循环子算子包括多个时,子算子关联内容还可以包括与子算子执行顺序。其中,步骤s11可以包括:对确定的循环神经网络模型的网络结构进行解析,确定与多个循环子算子所对应的子算子执行顺序。其中,步骤s13可以包括:根据子算子执行顺序和多个循环子算子,创建循环神经网络算子。

在该实现方式中,子算子执行顺序可以根据网络结构中的运算步骤、当前运算步骤的运算结果与下一运算步骤的运算之间的关联关系、实现运算步骤的运算过程所需应用的计算公式等进行确定。

在一种可能的实现方式中,该方法还可以包括:根据每个运算步骤所对应的子算子标识,从预设的循环子算子库中获取与子算子标识相对应的循环子算子。其中,子算子标识用于指示对应的循环子算子所对应的运算步骤。循环子算子库中存储有多个预先创建的带有子算子标识的循环子算子。

在该实现方式中,可以预先设置循环子算子并为其添加子算子标识,进而存储在循环子算子库中,子算子标识可以指示对应的循环子算子所对应的计算操作。循环子算子库中的带有子算子标识的循环子算子可以包括用户根据自身使用需求预先设置的、开发设计人员根据不同类型的用户的使用需求预先设置的,本公开对此不作限制。

在一种可能的实现方式中,该方法还可以包括:对循环神经网络模型进行编译,得到循环神经网络模型的离线文件。

在该实现方式中,可以根据人工智能处理器的需要或者用户的设置,采用二进制、十六进制等进位制对循环神经网络模型进行编译,得到循环神经网络模型的离线文件。以便于人工智能处理器能够执行离线文件。

在一种可能的实现方式中,该方法还可以包括:基于人工智能处理器运行循环神经网络模型。

在该实现方式中,可以实时生成循环神经网络模型,并基于人工智能处理器对实时生成的循环神经网络模型进行运行;也可以控制人工智能处理器调取预先生成的循环神经网络模型,本公开对此不作限制。

在一种可能的实现方式中,基于人工智能处理器运行循环神经网络模型,可以包括:基于循环神经网络模型,对输入数据进行循环运算处理,得到运算结果。

在该实现方式中,得到运算结果之后,将运算结果作为输出数据输出,以供用户使用。

在一种可能的实现方式中,基于循环神经网络模型,对输入数据进行循环运算处理,得到运算结果,可以包括:

将输入数据作为输入,按照子算子执行顺序依次执行循环神经网络算子中多个循环子算子,以对输入数据进行循环运算处理,得到运算结果。

在该实现方式中,在循环神经网络算子中包含一个循环子算子时,直接将输入数据作为该循环子算子的输入,进行循环运算处理,得到运算结果。当循环神经网络算子中包含多个循环子算子时,根据子算子执行顺序依次执行循环神经网络算子中多个循环子算子,并将多个循环子算子指定循环子算子的运算结果确定为对输入数据进行循环运算处理得到运算结果,也即将指定循环子算子的运算结果确定为输出数据。可以根据用户的设置确定指定循环子算子。例如,某循环神经网络模型包括三个循环子算子1、2、3,可以将用户设置的循环子算子2的运算结果作为输出数据,也可以将用户设置的循环子算子3的运算结果作为输出数据。

应用示例

以下结合“用户自定义循环神经网络模型”作为一个示例性应用场景,给出根据本公开实施例的应用示例,以便于理解数据处理方法的流程。本领域技术人员应理解,以下应用示例仅仅是出于便于理解本公开实施例的目的,不应视为对本公开实施例的限制。

图2a、图2b示出根据本公开一实施例的数据处理方法的应用场景的示意图。如图2a、图2b所示,用户自定义循环神经网络模型中的循环子算子,得到循环神经网络模型,并通过该模型进行循环运算的过程可以分为模型创建阶段和模型运行阶段。

如图2a所示,用户自行设定的循环神经网络模型的网络结构,为便于说明仅以网络结构中的a’部分为示例进行说明,a’部分所对应的计算操作公式为:

ht’=tanh(w1*xt+r1*ht-1+bias)

ht”=relu(w2*xt+r2*ht-1+bias)

ht=ht’+ht”

可以将a’部分拆分为多个运算步骤(每个运算步骤对应一个循环子算子)如下:

createmlpop(&mlpop1,input_tensor,filter_tensor,mlp1_output_tensor,bias_tensor,…);

createtanhop(&tanhop,mlp1_output_tensor,tanh_output_tensor);

createmlpop(&mlpop2,input_tensor,filter_tensor,mlp2_output_tensor,bias_tensor,…);

createreluop(&reluop,mlp2_output_tensor,relu_output_tensor);

createaddop(&addop,tanh_output_tensor,relu_output_tensor,add_output_tensor);

a’部分所对应的多个循环子算子如下:

rnnop->addopreation(mlpop1);

rnnop->addopreation(tanhop);

rnnop->addopreation(mlpop2);

rnnop->addopreation(reluop);

rnnop->addopreation(addop)。

其中,上文所提供的公式、拆分的运算步骤、所得到的循环子算子仅为一种表示示例,本公开对此不作限制。

如图2b所示,模型创建阶段:人工智能处理器可以对用户输入的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容(包括待创建的循环子算子相对应的运算步骤和/或子算子执行顺序);根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子,或者根据运算步骤所对应的子算子标识从循环子算子库中获取对应的循环子算子;根据至少一个循环子算子,创建循环神经网络算子;根据循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。根据用户输入的二进制(编译所用的进位制)对循环神经网络模型进行编译,得到循环神经网络模型的离线文件。

如图2b所示,模型运行阶段:人工智能处理器在接收到用户的输入数据之后,基于循环神经网络模型的离线文件,对输入数据进行循环运算处理,并在循环结束后,得到输出数据。

详细过程参照上文数据处理方法部分的相关描述,此处不再赘述。

这样,可以根据用户设置的循环神经网络模型的网络结构,创建满足用户需求的循环神经网络模型,实现了循环神经网络模型中算子的自定义设置,扩大了循环神经网络的应用范围。

需要说明的是,尽管以上述实施例作为示例介绍了数据处理方法如上,但本领域技术人员能够理解,本公开应不限于此。事实上,用户完全可根据个人喜好和/或实际应用场景灵活设定各步骤,只要符合本公开的技术方案即可。

图3示出根据本公开一实施例的数据处理装置的框图。如图3所示,该装置可以应用于人工智能处理器。该装置包括结构解析模块41、子算子创建模块42、算子创建模块43和模型创建模块44。

结构解析模块41,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,子算子关联内容包括与待创建的循环子算子相对应的运算步骤。

子算子创建模块42,根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子。

算子创建模块43,根据至少一个循环子算子,创建循环神经网络算子。

模型创建模块44,根据循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

在一种可能的实现方式中,在循环子算子包括多个时,子算子关联内容还可以包括与子算子执行顺序。

其中,结构解析模块可以包括:对确定的循环神经网络模型的网络结构进行解析,确定与多个循环子算子所对应的子算子执行顺序。

其中,算子创建模块,可以包括:根据子算子执行顺序和多个循环子算子,创建循环神经网络算子。

在一种可能的实现方式中,该装置还可以包括:

子算子获取模块,根据每个运算步骤所对应的子算子标识,从预设的循环子算子库中获取与子算子标识相对应的循环子算子,

其中,子算子标识用于指示对应的循环子算子所对应的运算步骤,

循环子算子库中存储有多个预先创建的带有子算子标识的循环子算子。

在一种可能的实现方式中,该装置还可以包括:模型运行模块,基于人工智能处理器运行循环神经网络模型。

在一种可能的实现方式中,模型运行模块,可以包括:

运算处理子模块,基于循环神经网络模型,对输入数据进行循环运算处理,得到运算结果。

在一种可能的实现方式中,运算处理子模块,可以包括:

处理子模块,将输入数据作为输入,按照子算子执行顺序依次执行循环神经网络算子中多个循环子算子,以对输入数据进行循环运算处理,得到运算结果。

在一种可能的实现方式中,该装置还可以包括:编译模块,对循环神经网络模型进行编译,得到循环神经网络模型的离线文件。

在一种可能的实现方式中,输入输出规模可以包括输入数据的规模和输出数据的规模中的至少一项。

上述各模块的详细实现过程参见上文方法部分的相关描述,此处不再赘述。

需要说明的是,尽管以上述实施例作为示例介绍了数据处理装置如上,但本领域技术人员能够理解,本公开应不限于此。事实上,用户完全可根据个人喜好和/或实际应用场景灵活设定各模块,只要符合本公开的技术方案即可。

本公开实施例所提供的数据处理装置,可以根据用户设置的循环神经网络模型的网络结构,创建满足用户需求的循环神经网络模型,实现了循环神经网络模型中算子的自定义设置,扩大了循环神经网络的应用范围。

本公开还提供一种人工智能处理器,该人工智能处理器包括上述数据处理装置。

本公开还提供一种电子设备,该电子设备包括上述人工智能处理器。

本公开还提供一种板卡,该板卡包括:存储器件、接口装置和控制器件以及上述人工智能处理器。其中,人工智能处理器与存储器件、控制器件以及接口装置分别连接;存储器件,用于存储数据;接口装置,用于实现人工智能处理器与外部设备之间的数据传输;控制器件,用于对人工智能处理器的状态进行监控。

图4示出根据本公开实施例的板卡的结构框图,参阅图4,上述板卡除了包括上述人工智能处理器389以外,还可以包括其他的配套部件,该配套部件包括但不限于:存储器件390、接口装置391和控制器件392;

所述存储器件390与人工智能处理器通过总线连接,用于存储数据。所述存储器件可以包括多组存储单元393。每一组所述存储单元与所述人工智能处理器通过总线连接。可以理解,每一组所述存储单元可以是ddrsdram(英文:doubledataratesdram,双倍速率同步动态随机存储器)。

ddr不需要提高时钟频率就能加倍提高sdram的速度。ddr允许在时钟脉冲的上升沿和下降沿读出数据。ddr的速度是标准sdram的两倍。在一个实施例中,所述存储装置可以包括4组所述存储单元。每一组所述存储单元可以包括多个ddr4颗粒(芯片)。在一个实施例中,所述人工智能处理器内部可以包括4个72位ddr4控制器,上述72位ddr4控制器中64bit用于传输数据,8bit用于ecc校验。可以理解,当每一组所述存储单元中采用ddr4-3200颗粒时,数据传输的理论带宽可达到25600mb/s。

在一个实施例中,每一组所述存储单元包括多个并联设置的双倍速率同步动态随机存储器。ddr在一个时钟周期内可以传输两次数据。在所述人工智能处理器中设置控制ddr的控制器,用于对每个所述存储单元的数据传输与数据存储的控制。

所述接口装置与所述人工智能处理器电连接。所述接口装置用于实现所述人工智能处理器与外部设备(例如服务器或计算机)之间的数据传输。例如在一个实施例中,所述接口装置可以为标准pcie接口。比如,待处理的数据由服务器通过标准pcie接口传递至所述人工智能处理器,实现数据转移。优选的,当采用pcie3.0x16接口传输时,理论带宽可达到16000mb/s。在另一个实施例中,所述接口装置还可以是其他的接口,本公开并不限制上述其他的接口的具体表现形式,所述接口单元能够实现转接功能即可。另外,所述处理器的计算结果仍由所述接口装置传送回外部设备(例如服务器)。

所述控制器件与所述人工智能处理器电连接。所述控制器件用于对所述人工智能处理器的状态进行监控。具体的,所述人工智能处理器与所述控制器件可以通过spi接口电连接。所述控制器件可以包括单片机(microcontrollerunit,mcu)。如所述人工智能处理器可以包括多个处理芯片、多个处理核或多个处理电路,可以带动多个负载。因此,所述人工智能处理器可以处于多负载和轻负载等不同的工作状态。通过所述控制装置可以实现对所述人工智能处理器中多个处理芯片、多个处理和或多个处理电路的工作状态的调控。

在一种可能的实现方式中,公开了一种电子设备,其包括了上述人工智能处理器。电子设备包括数据处理装置、机器人、电脑、打印机、扫描仪、平板电脑、智能终端、手机、行车记录仪、导航仪、传感器、摄像头、服务器、云端服务器、相机、摄像机、投影仪、手表、耳机、移动存储、可穿戴设备、交通工具、家用电器、和/或医疗设备。

所述交通工具包括飞机、轮船和/或车辆;所述家用电器包括电视、空调、微波炉、冰箱、电饭煲、加湿器、洗衣机、电灯、燃气灶、油烟机;所述医疗设备包括核磁共振仪、b超仪和/或心电图仪。

a1、一种数据处理方法,所述方法应用于人工智能处理器,所述方法包括:

对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,所述子算子关联内容包括与待创建的循环子算子相对应的运算步骤;

根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;

根据至少一个循环子算子,创建循环神经网络算子;

根据所述循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

a2、根据权利要求a1所述的方法,在循环子算子包括多个时,所述子算子关联内容还包括与子算子执行顺序,

其中,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,包括:

对确定的循环神经网络模型的网络结构进行解析,确定与多个循环子算子所对应的子算子执行顺序,

其中,根据所述至少一个循环子算子,创建循环神经网络算子,包括:

根据所述子算子执行顺序和多个循环子算子,创建所述循环神经网络算子。

a3、根据权利要求a1所述的方法,所述方法还包括:

根据每个运算步骤所对应的子算子标识,从预设的循环子算子库中获取与所述子算子标识相对应的循环子算子,

其中,子算子标识用于指示对应的循环子算子所对应的运算步骤,

所述循环子算子库中存储有多个预先创建的带有子算子标识的循环子算子。

a4、根据权利要求a1-a3任一项所述的方法,所述方法还包括:

基于人工智能处理器运行所述循环神经网络模型。

a5、根据权利要求a4所述的方法,基于人工智能处理器运行所述循环神经网络模型,包括:

基于所述循环神经网络模型,对输入数据进行循环运算处理,得到运算结果。

a6、根据权利要求a5所述的方法,基于所述循环神经网络模型,对输入数据进行循环运算处理,得到运算结果,包括:

将所述输入数据作为输入,按照所述子算子执行顺序依次执行循环神经网络算子中多个循环子算子,以对输入数据进行循环运算处理,得到运算结果。

a7、根据权利要求a1所述的方法,所述方法还包括:

对所述循环神经网络模型进行编译,得到所述循环神经网络模型的离线文件。

a8、根据权利要求a1所述的方法,所述输入输出规模包括输入数据的规模和输出数据的规模中的至少一项。

a9、一种数据处理装置,所述装置应用于人工智能处理器,所述装置包括:

结构解析模块,对确定的循环神经网络模型的网络结构进行解析,得到至少一个子算子关联内容,所述子算子关联内容包括与待创建的循环子算子相对应的运算步骤;

子算子创建模块,根据每个运算步骤中的子算子参数和对应的运算逻辑,创建对应的循环子算子;

算子创建模块,根据至少一个循环子算子,创建循环神经网络算子;

模型创建模块,根据所述循环神经网络算子和确定的输入输出规模,创建循环神经网络模型。

a10、根据权利要求a9所述的装置,在循环子算子包括多个时,所述子算子关联内容还包括与子算子执行顺序,

其中,所述结构解析模块,包括:

对确定的循环神经网络模型的网络结构进行解析,确定与多个循环子算子所对应的子算子执行顺序,

其中,所述算子创建模块,包括:

根据所述子算子执行顺序和多个循环子算子,创建所述循环神经网络算子。

a11、根据权利要求a9所述的装置,所述装置还包括:

子算子获取模块,根据每个运算步骤所对应的子算子标识,从预设的循环子算子库中获取与所述子算子标识相对应的循环子算子,

其中,子算子标识用于指示对应的循环子算子所对应的运算步骤,

所述循环子算子库中存储有多个预先创建的带有子算子标识的循环子算子。

a12、根据权利要求a9-a11任一项所述的装置,所述装置还包括:

模型运行模块,基于人工智能处理器运行所述循环神经网络模型。

a13、根据权利要求a12所述的装置,所述模型运行模块,包括:

运算处理子模块,基于所述循环神经网络模型,对输入数据进行循环运算处理,得到运算结果。

a14、根据权利要求a13所述的装置,所述运算处理子模块,包括:

处理子模块,将所述输入数据作为输入,按照所述子算子执行顺序依次执行循环神经网络算子中多个循环子算子,以对输入数据进行循环运算处理,得到运算结果。

a15、根据权利要求a9所述的装置,所述装置还包括:

编译模块,对所述循环神经网络模型进行编译,得到所述循环神经网络模型的离线文件。

a16、根据权利要求a9所述的装置,所述输入输出规模包括输入数据的规模和输出数据的规模中的至少一项。

a17、一种人工智能处理器,所述人工智能处理器包括如权利要求a9-a16任一项所述的数据处理装置。

a18、一种电子设备,所述电子设备包括如权利要求17所述的人工智能处理器。

a19、一种板卡,所述板卡包括:存储器件、接口装置和控制器件以及如权利要求a17所述的人工智能处理器;

其中,所述人工智能处理器与所述存储器件、所述控制器件以及所述接口装置分别连接;

所述存储器件,用于存储数据;

所述接口装置,用于实现所述人工智能处理器与外部设备之间的数据传输;

所述控制器件,用于对所述人工智能处理器的状态进行监控。

以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1