图像的理解方法和装置与流程

文档序号:32694352发布日期:2022-12-27 20:29阅读:25来源:国知局
1.本公开涉及人工智能领域,具体涉及深度学习和计算机视觉
技术领域
:,尤其涉及图像的理解方法和装置。
背景技术
::2.视觉文档理解指理解图像中文档的技术。在相关技术中,视觉文档理解通常采用光学字符识别(ocr)技术实现。3.具体地,光学字符识别是指电子设备(例如扫描仪或数码相机)检查纸上打印的字符,通过检测暗、亮的模式确定其形状,然后用字符识别方法将形状翻译成计算机文字的过程。该过程采用光学的方式将纸质文档中的文字转换成为黑白点阵的图像文件,并通过识别软件将图像中的文字转换成文本格式。技术实现要素:4.提供了一种图像的理解方法、装置、电子设备以及存储介质。5.根据第一方面,提供了一种图像的理解方法,包括:获取文档图像和文档图像对应的指示信息,其中,指示信息用于指示对文档图像中文档的理解需求;将文档图像和指示信息输入文档理解模型,得到从文档理解模型输出的文档理解结果,其中,文档理解结果符合理解需求,文档理解模型用于按照理解需求处理文档图像中的文档,文档理解模型包括编码器和解码器。6.根据第二方面,提供了一种图像的理解装置,包括:获取单元,被配置成获取文档图像和文档图像对应的指示信息,其中,指示信息用于指示对文档图像中文档的理解需求;输入单元,被配置成将文档图像和指示信息输入文档理解模型,得到从文档理解模型输出的文档理解结果,其中,文档理解结果符合理解需求,文档理解模型用于按照理解需求处理文档图像中的文档,文档理解模型包括编码器和解码器。7.根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行图像的理解方法中任一实施例的方法。8.根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行根据图像的理解方法中任一实施例的方法。9.根据第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现根据图像的理解方法中任一实施例的方法。10.根据本公开的方案,可以通过文档理解模型,实现端到端的文档理解过程,简化了文档理解过程。并且,本技术采用编码器和解码器,在不采用光学字符识别的情况下实现了文档理解,满足了对文档的理解需求。附图说明11.通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:12.图1是本公开一些实施例可以应用于其中的示例性系统架构图;13.图2是根据本公开的图像的理解方法的一个实施例的流程图;14.图3是根据本公开的图像的理解方法的又一个实施例的流程图;15.图4是根据本公开的图像的理解装置的一个实施例的结构示意图;16.图5是用来实现本公开实施例的图像的理解方法的电子设备的框图。具体实施方式17.以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。18.本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。19.需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。20.图1示出了可以应用本公开的图像的理解方法或图像的理解装置的实施例的示例性系统架构100。21.如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。22.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如视频类应用、直播应用、即时通信工具、邮箱客户端、社交平台软件等。23.这里的终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。24.服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对接收到的图像等数据进行分析等处理,并将处理结果(例如文档理解结果)反馈给终端设备。25.需要说明的是,本公开实施例所提供的图像的理解方法可以由服务器105或者终端设备101、102、103执行,相应地,图像的理解装置可以设置于服务器105或者终端设备101、102、103中。26.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。27.继续参考图2,示出了根据本公开的图像的理解方法的一个实施例的流程200。该图像的理解方法,包括以下步骤:28.步骤201,获取文档图像和文档图像对应的指示信息,其中,指示信息用于指示对文档图像中文档的理解需求。29.在本实施例中,图像的理解方法运行于其上的执行主体(例如图1所示的服务器或终端设备)可以获取包含文档的图像,还可以获取该图像的指示信息。该指示信息用于指示对于该文档的理解需求。理解需求可以采用各种语言形式表示,比如机器语言。30.步骤202,将文档图像和指示信息输入文档理解模型,得到从文档理解模型输出的文档理解结果,其中,文档理解结果符合理解需求,文档理解模型用于按照理解需求处理文档图像中的文档,文档理解模型包括编码器和解码器。31.在本实施例中,上述执行主体将上述文档图像和指示信息输入文档理解模型,得到该文档理解模型输出的文档理解结果。这里的文档理解模型用于理解文档图像中的文档,以得到相应的文档理解结果。文档理解结果符合理解需求指,该文档理解结果是基于对文档图像中文档的理解,处理文档所得到的。32.举例来说,该图像可以是包含商品价钱的文档图像,理解需求可以是,找到包含“元”字的行的位置。文档理解结果可以是文档中包括“元”字的行的位置信息。33.在本公开中,文档理解模型可以通过其中的编码器和解码器,对文档图像进行文档理解,从而得到文档理解结果。34.本公开的上述实施例提供的方法可以通过文档理解模型,实现端到端的文档理解过程,简化了文档理解过程。并且,本技术采用编码器和解码器,在不采用光学字符识别的情况下实现了文档理解,满足了对文档的理解需求。35.在本实施例的一些可选的实现方式中,上述步骤202,可以包括:将图像和指示信息输入编码器,得到编码信息,其中,编码信息包括图像的隐状态;将编码信息和指示信息输入解码器,得到从解码器输出的文档理解结果。36.在这些可选的实现方式中,上述执行主体可以将文档图像和指示信息输入编码器,编码器通过编码可以输出编码信息。在实践中,编码信息可以包括隐状态(hiddenstate)。这里的隐状态是按照指示信息对图像进行编码的结果,是图像的相关信息。在实践中编码器可以是各种各样的(比如swintransformer)。37.解码器可以对编码信息和指示信息进行解码处理,从解码器输出的结果,可以作为文档理解结果。文档理解结果可以指示对于图像进行理解的结果。比如,如果指示信息指示对文档进行分类,则文档理解结果为分类结果。在实践中解码器可以是各种各样的。本公开中的编码器和解码器的数量均为至少一个。38.这些实现方式可以依次通过编码和解码,实现对文档进行有效、准确的理解。39.在本实施例的一些可选的实现方式中,上述指示信息可以包括自然语言语句。40.在这些可选的实现方式中,指示信息可以采用自然语言来表示。比如指示信息可以为“按阅读顺序输出文本”,“输出被遮挡的内容”等。此外,指示信息也可以仅采用自然语言外的语言,或者不仅采用自然语言还采用其它语言。41.这些实现方式中可以采用自然语言语句作为指示信息,从而可以提高模型的理解能力和智能程度。42.进一步参考图3,其示出了文档理解模型的训练流程300。该流程300,包括以下步骤:43.步骤301,对待训练的文档理解模型执行存在至少一项文档识别任务的自监督训练步骤,得到预训练后的文档理解模型,其中,训练的样本包括样本图像,样本图像为文档图像。44.在本实施例中,图像的理解方法运行于其上的任意执行主体(例如图1所示的服务器或终端设备)可以首先进行训练过程上游的预训练步骤。具体地,预训练步骤主要执行文档的浅层理解也即初步识别。在预训练后,文档理解模型可以实现上述至少一项识别任务对应的至少一种文档识别功能。45.步骤302,对预训练后的文档理解模型执行存在至少一项文档解析任务的有监督训练步骤。46.在本实施例中,在预训练之后,上述执行主体还可以采用样本进行下游的训练。该样本可以不同于预训练采用的样本,或该样本中的样本图像与预训练采用的样本图像相同。具体地,下游训练的训练任务可以是初步识别后的深层理解也即解析任务。在实践中,文档解析任务需要对文档进行深度的分析。47.在预训练后,文档理解模型可以实现上述至少一项文档解析任务对应的至少一种文档解析功能。48.在本实施例的一些可选的实现方式中,若文档解析任务存在至少两项,则指示信息与其中一项文档解析任务相对应。49.如果训练时,让模型完成了至少两项任务,则该模型可以具有该至少两项任务对应的至少两项理解能力。在模型预测时,输入某一项任务对应的指示信息,则输出就是该项任务对应的文档理解任务。如果指示信息与其中一项文档解析任务相对应(比如一致或者相似度大于预设阈值),则文档理解结果就能够非常准确。50.这些实现方式可以通过与任务对应的指示信息,确保输出的文档理解结果更加准确。51.在本实施例的一些可选的实现方式中,文档识别任务可以包括以下的至少一项:布局及文本识别、阅读顺序识别、掩膜识别;文档解析任务可以包括以下的至少一项:文档分类、文档解析和文档问答,其中,文档分析任务的目标输出为结构化信息。52.在这些可选的实现方式中,文档识别任务具体可以包括以下的至少一项:输出图像中的文本和布局、文本阅读顺序预测,以及掩膜识别也即(随机)遮挡图像中预设比例的文本并预测被遮挡的文本。53.文档解析任务可以包括以下的至少一项:文档分类任务、预设文档解析任务、文档视觉问答任务。其中,文档分类任务可以是各种各样的设定任务。比如,分类可以是二分类或者多分类,比如类别可以包括商用文档和非商用文档。预设文档解析任务可以包括输出结构化信息(比如json字符串)。文档视觉问答任务为指示信息中包括问题,模型在文档图像的文档中找到答案并输出。比如,问题为找到包含“元”字的行的位置。答案可以是文档中包括“元”字的行的位置信息。54.结构化信息可以是各种各样的,比如可以是json字符串。55.这些实现方式中的文档理解模型可以在训练过程中,执行至少一项任务,从而可以让训练后的文档理解模型具备至少一种理解能力。56.在本实施例的一些可选的实现方式中,样本中样本图像的获取步骤包括:获取多个至少一种样本构成要素;将至少一种样本构成要素,与原始样本图像中的至少一种样本构成要素以外的样本构成要素合成为新样本图像,其中,样本构成要素包括背景、布局和文本。57.在这些可选的实现方式中,可以获取各种样本构成要素中的至少一种。将该至少一种样本构成要素与原始样本图像中的其它样本构成要素合成为新样本图像。也即,上述执行主体可以固定该其它样本构成要素,替换掉原始样本图像中的该至少一种样本构成要素。例如,可以固定背景和布局,替换掉文本。样本中可以包括样本图像,此外,还可以包括指示信息和文档理解结果。58.如果新样本图像用于有监督训练步骤,上述执行主体可以生成文档理解模型的目标输出,该文档理解模型的输入为新样本图像。在实践中,样本构成要素可以用于获得样本中的目标输出(该获得方式未采用文档理解模型)。59.在实践中,生成目标输出可以采用各种方式,比如,采用预设的公式、模型或算法。或者,还可以将样本构成要素发送给指定终端设备,并接收该终端设备反馈的目标输出。60.可选地,可以优先将这里生成的新样本图像用于预训练,有助于模型的拟合,让模型具有初步的理解能力。61.这些实现方式可以通过合成新样本中的样本图像,实现样本的扩充,从而能够利用更多的样本训练文档理解模型。62.在本实施例的一些可选的实现方式中,样本包括样本图像;样本的获取步骤包括:将预设格式的文档转换为所述预设格式的文档图像,将所述预设格式的文档图像作为新样本图像。63.在这些可选的实现方式中,上述执行主体可以直接获取预设格式的文档,并转换为文档图像,从而得到新样本图像。具体地,预设格式的文档可以是各种格式的文档,比如pdf(portabledocumentformat,可携带文档格式)文档、doc文档、docx文档、xml文档。以pdf文档为例,上述执行主体可以获取pdf文档的样本构成要素,也可以通过pdf文档解析器,来解析出样本构成要素。64.可选地,可以优先将由pdf文档生成的新样本图像用于预训练,有助于模型的拟合,让模型具有初步的理解能力。65.如果该新样本图像用于有监督训练步骤,上述执行主体可以获取pdf文档的样本构成要素,根据样本构成要素,生成输入新样本图像的文档理解模型的目标输出。66.本公开可以通过预设格式的文档,进行样本的扩充,从而丰富了样本的扩充途径。67.在本实施例的一些可选的实现方式中,文档理解模型为采用第一文档内容领域的文档的图像作为样本图像训练后的模型,文档理解模型用于处理第一文档内容领域的文档;以上述预训练后的文档理解模型训练得到领域迁移模型的训练步骤包括:采用第二文档内容领域的文档的图像作为样本图像,对预训练后的文档理解模型执行存在至少一项文档解析任务的有监督训练步骤,得到领域迁移模型,其中,该领域迁移模型用于处理第二文档内容领域的文档,文档理解模型和该领域迁移模型两者的文档理解结果的准确度均大于指定准确度阈值。68.在这些可选的实现方式中,本技术中的文档理解模型,在采用一个文档内容领域的数据进行预训练后,可以采用另一个文档领域的数据进行有监督训练步骤。得到的领域迁移模型可以实现该另一个领域的准确文档理解。在实践中,文档内容领域指文档的内容所涉及的领域。举例来说,文档内容领域可以是银行领域、医疗领域等等。69.这些实现方式中,因为本技术中预训练后的文档理解模型具有领域迁移性能,可以在初步理解一个领域的内容的情况下,通过另一个内容领域的数据的训练,让训练后的模型可以利用该另一个内容领域的训练结果生成准确的预测结果。70.进一步参考图4,作为对上述各图所示方法的实现,本公开提供了一种图像的理解装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征或效果。该装置具体可以应用于各种电子设备中。71.如图4所示,本实施例的图像的理解装置400包括获取单元401和输入单元402。其中,获取单元401,被配置成获取文档图像和文档图像对应的指示信息,其中,指示信息用于指示对文档图像中文档的理解需求;输入单元402,被配置成将文档图像和指示信息输入文档理解模型,得到从文档理解模型输出的文档理解结果,其中,文档理解结果符合理解需求,文档理解模型用于按照理解需求处理文档图像中的文档,文档理解模型包括编码器和解码器。72.在本实施例中,图像的理解装置400的获取单元401和输入单元402的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202的相关说明,在此不再赘述。73.在本实施例的一些可选的实现方式中,输入单元402进一步被配置成:将文档图像和指示信息输入编码器,得到编码信息,其中,编码信息包括图像的隐状态;将编码信息和指示信息输入解码器,得到从解码器输出的文档理解结果。74.在本实施例的一些可选的实现方式中,指示信息包括自然语言语句。75.在本实施例的一些可选的实现方式中,文档理解模型的训练步骤包括:对待训练的文档理解模型执行存在至少一项文档识别任务的自监督训练步骤,得到预训练后的文档理解模型,其中,训练的样本包括样本图像,样本图像为文档图像;对预训练后的文档理解模型执行存在至少一项文档解析任务的有监督训练步骤。76.在本实施例的一些可选的实现方式中,若文档解析任务存在至少两项,则指示信息与其中一项文档解析任务相对应。77.在本实施例的一些可选的实现方式中,文档识别任务包括以下的至少一项:布局及文本识别、阅读顺序识别、掩膜识别;文档解析任务包括以下的至少一项:文档分类、文档解析和文档问答,其中,文档分析任务的目标输出为结构化信息。78.在本实施例的一些可选的实现方式中,样本包括样本图像;样本图像的获取步骤包括:获取多个至少一种样本构成要素;将至少一种样本构成要素,与原始样本图像中的至少一种样本构成要素以外的样本构成要素合成为新样本图像,其中,样本构成要素包括背景、布局和文本。79.在本实施例的一些可选的实现方式中,样本包括样本图像;样本的获取步骤包括:将预设格式的文档转换为所述预设格式的文档图像,将所述预设格式的文档图像作为新样本图像。80.在本实施例的一些可选的实现方式中,预训练后的文档理解模型为采用第一文档内容领域的文档的图像作为样本图像训练后的模型,预训练后的文档理解模型用于处理第一文档内容领域的文档;以预训练后的文档理解模型训练得到领域迁移模型的训练步骤包括:采用第二文档内容领域的文档的图像作为样本图像,对预训练后的文档理解模型执行存在至少一项文档解析任务的有监督训练步骤,得到领域迁移模型,其中,领域迁移模型用于处理第二文档内容领域的文档,文档理解模型和领域迁移模型两者的文档理解结果的准确度均大于指定准确度阈值。81.根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。82.如图5所示,是根据本公开实施例的图像的理解方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。83.如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示gui的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。84.存储器502即为本公开所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本公开所提供的图像的理解方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的图像的理解方法。85.存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的图像的理解方法对应的程序指令/模块(例如,附图4所示的获取单元401和输入单元402)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像的理解方法。86.存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据图像的理解电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至图像的理解电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。87.图像的理解方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线连接为例。88.输入装置503可接收输入的数字或字符信息,以及产生与图像的理解电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,led)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(lcd)、发光二极管(led)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。89.此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用asic(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。90.这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(pld)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。91.为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。92.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。93.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与vps服务("virtualprivateserver",或简称"vps")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。94.附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。95.描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元401和输入单元402。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取文档图像和文档图像对应的指示信息的单元”。96.作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:获取文档图像和文档图像对应的指示信息,其中,指示信息用于指示对文档图像中文档的理解需求;将文档图像和指示信息输入文档理解模型,得到从文档理解模型输出的文档理解结果,其中,文档理解结果符合理解需求,文档理解模型用于按照理解需求处理文档图像中的文档,文档理解模型包括编码器和解码器。97.以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1