一种内容识别方法、装置、设备和计算机存储介质与流程

【技术领域】

本发明涉及计算机应用技术领域，特别涉及一种内容识别方法、装置、设备和计算机存储介质。

背景技术：

电视作为家庭最核心和覆盖程度最高的家电之一，是用户观看视频、听歌娱乐、获取信息最重要的渠道。用户在观看电视内容的同时，针对正在播放的内容会产生很多相关的问题。如，在电视画面里看到一个不认识的明星，用户想知道这个人是谁；在电视剧里听到一首好听的歌曲，用户想知道这是首什么歌。

目前在手机端出现了很多诸如听歌识曲等应用程序，但需要用户在手机上打开应用程序，然后通过手机麦克风外录周围音频后进行匹配识别。这种方式依赖于手机实现，且操作起来比较繁琐，有时候为了保证识别准确度需要用户走近电视机以保证外录足够质量和音量的音频。

技术实现要素：

有鉴于此，本发明提供了一种内容识别方法、装置、设备和计算机存储介质，以便于简化用户操作。

具体技术方案如下：

本发明提供了一种内容识别方法，该方法包括：

智能多媒体设备对语音指令进行语音识别和意图解析；

对该智能多媒体设备正在播放的多媒体内容进行内录；

将内录得到的媒体数据发送至服务器端，并获取服务器端针对所述媒体数据返回的内容识别结果。

根据本发明一具体实施方式，若所述意图解析出内容识别意图，则执行所述对该智能多媒体设备正在播放的多媒体内容进行内录。

根据本发明一具体实施方式，所述智能多媒体设备包括：智能电视、智能音箱或智能投影仪。

根据本发明一具体实施方式，所述智能多媒体设备对语音指令进行语音识别和意图解析包括：

所述智能多媒体设备将所述语音指令发送至服务器端，并获取服务器端对所述语音指令进行语音识别和意图解析后的结果。

根据本发明一具体实施方式，所述对该智能多媒体设备正在播放的多媒体内容进行内录包括：

从该智能多媒体设备的显卡采集视频帧；或者，

从该智能多媒体设备的声卡采集音频流。

根据本发明一具体实施方式，该方法还包括：

以语音形式展示所述内容识别结果；或者，

在显示屏上展示所述内容识别结果。

本发明还提供了一种内容识别装置，设置于智能多媒体设备，该装置包括：

语音处理模块，用于对语音指令进行语音识别和意图解析；

媒体内录模块，用于对该智能多媒体设备正在播放的多媒体内容进行内录；

内容识别模块，用于将所述媒体内录模块内录得到的媒体数据发送至服务器端，并获取服务器端针对所述媒体数据返回的内容识别结果。

根据本发明一具体实施方式，所述媒体内录模块在所述语音处理模块解析出内容识别意图时，执行所述对该智能多媒体设备正在播放的多媒体内容进行内录。

根据本发明一具体实施方式，所述智能多媒体设备包括：智能电视、智能音箱或智能投影仪。

根据本发明一具体实施方式，所述语音处理模块具体用于：将所述语音指令发送至服务器端，并获取服务器端对所述语音指令进行语音识别和意图解析后的结果。

根据本发明一具体实施方式，所述媒体内录模块具体用于：

从该智能多媒体设备的显卡采集视频帧；或者，

从该智能多媒体设备的声卡采集音频流。

根据本发明一具体实施方式，该装置还包括：

结果展示模块，用于以语音形式展示所述内容识别结果；或者，在显示屏上展示所述内容识别结果。

本发明还提供了一种设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现上述的方法。

本发明还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行上述的方法。

由以上技术方案可以看出，通过本发明提供的上述技术方案，用户通过与智能多媒体设备之间的语音交互就可以实现多媒体内容的识别，操作简单且不依赖其他智能设备。

【附图说明】

图1为本发明实施例提供的内容识别方法的一流程示意图；

图2为本发明实施例提供的一种系统组成示意图；

图3为本发明实施例提供的内容识别装置的结构图；

图4a～图4c为本发明实施例提供的智能电视界面的信息展示示意图；

图5示出了适于用来实现本发明实施方式的示例性计算机系统的框图。

【具体实施方式】

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

应当理解，本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地，取决于语境，短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

本发明的核心思想在于，在智能多媒体设备中集成语音识别、意图解析和多媒体内录功能，使得用户通过与智能多媒体设备之间的语音交互，就可以实现多媒体内容的识别，操作简单且不依赖其他智能设备。

其中本发明实施例中涉及的智能多媒体设备可以包括但不限于诸如：智能电视、智能音箱、智能投影仪等等。在本发明后续实施例中以智能电视为例进行描述。

图1为本发明实施例提供的内容识别方法的一流程示意图，如图1中所示，该方法可以包括以下步骤：

在101中，智能电视对语音指令进行语音识别和意图解析。

本方法的执行主体可以是内容识别装置，该装置可以是位于智能电视的客户端，或者还可以为位于智能电视客户端的插件或软件开发工具包(softwaredevelopmentkit，sdk)等功能单元，本发明实施例对此不进行特别限定。

当用户在看智能电视的过程中，若对智能电视正在播放的内容感兴趣，例如想知道正在播放的歌曲，则可以向智能电视下发语音指令“帮我查一下这首歌叫什么名字”。再例如想知道画面中的演员是谁，则可以向智能电视下发语音指令“帮我查一下这个演员是谁”。

智能电视可以通过内置的麦克风采集用户的语音指令，然后由客户端开始执行本步骤的处理。也可以通过语音遥控器上的麦克风采集用户的语音指令，然后发送给智能电视的客户端，由客户端开始执行本步骤的处理，如图2中所示。

若智能电视的客户端本身具备对语音指令的语音识别和意图解析功能，则可以对语音指令直接进行语音识别和意图解析。或者，智能电视本身具备对语音指令的语音识别功能，将语音识别结果发送给服务器端，由服务器端对语音识别结果进行意图解析并将解析结果返回给智能电视的客户端。再或者，智能电视将语音指令发送给服务器端，由服务器端对语音指令进行语音识别和意图解析，并将解析结果返回给智能电视的客户端。

其中，语音识别是将语音指令转化为本文的过程。本发明对语音识别的具体技术并不加以限制，可以采用现有任意的语音识别技术。

意图解析是将语音识别出的文本采用自然语言分析技术进行解析后，确定出语音指令所对应的用户意图，从而对应出用户的结构化需求。这一结构化需求是与后续内容识别时所采用的匹配数据库相对应的。例如，当用户意图是识别音频时，在后续步骤103中服务器针对媒体数据返回内容识别结果时，所采用的匹配数据库为音频数据库。当用户意图是识别人物时，在后续步骤103中服务器端针对媒体数据返回内容识别结果时，所采用的匹配数据库为人像数据库。同样，本发明对意图解析所采用的方式并不加以限制，可以采用诸如模板匹配式解析、机器学习式解析等等。

在102中，若解析出内容识别意图，则对该智能电视正在播放的多媒体内容进行内录。

在本步骤中，可以对智能电视正在播放的音频流进行内录，也可以对正在播放的视频帧进行内录，当然也可以同时对音频流和视频帧进行内录。具体内录的内容可以与识别出的意图相对应。例如，若识别出的意图是音频内容的识别，例如识别歌曲，那么可以对正在播放的音频流进行内录。若识别出的意图是视频内容的识别，例如识别人物，那么可以对正在播放的视频帧进行内录。意图类型与内录内容之间的对应关系可以预先配置。

在对正在播放的音频流进行内录时，可以从该智能电视的声卡采集音频流。例如可以使用tinyalsa采集声卡的音频流。tinyalsa是google在android4.0之后推出的基于alsa内核的用户层音频接口，使用tinyalsa可以获取到设备声卡的音频流。当然，本发明并不限于tinyalsa，也可以采用其他工具采集声卡的音频流。

在对正在播放的视频帧进行内录时，可以从该智能电视的显卡采集音频流。例如可以使用screencap。screencap是系统内置的截图工具，通过screencap可以获取到设备显卡的视频帧。当然，本发明也并不限于screencap，可以采用其他工具采集显卡的视频帧。

在103中，将内录得到的媒体数据发送至服务器端，并获取服务器端针对媒体数据返回的内容识别结果。

由于对媒体数据的内容识别往往需要较大数据量的匹配数据库，因此，智能电视的客户端可以将内录得到的媒体数据发送至服务器端，由服务器端将该媒体数据与匹配数据库进行匹配后，得到内容识别结果。

例如，客户端将内录得到的音频流发送给服务器端，服务器端将该音频流与音频数据库进行匹配，得到该音频流对应的内容，诸如歌曲名、演唱者等等。与什么类型的数据库进行匹配以及得到什么类型的内容识别结果根据用户的具体意图确定，例如用户的意图是“识别歌曲名”，则与歌曲数据库进行匹配，得到该音频流对应的歌曲名。

再例如，客户端将内录得到的视频帧发送给服务器端，服务器端将该视频帧与图像数据库进行匹配，得到该视频帧对应的内容，例如电视剧名、人名、景点等等。与什么类型的数据库进行匹配以及得到什么类型的内容识别结果根据用户的具体意图确定。例如用户的意图是“识别人名”，则与人像数据库进行匹配，得到人名。

另外，由于服务器端在将内录的媒体数据与数据库进行匹配时，采用的数据库以及得到什么类型的内容识别结果是根据用户的具体意图确定的，因此，智能电视的客户端在发送媒体数据给服务器端时，可以同时携带意图解析结果。若在步骤101中意图解析是由服务器端执行，则在本步骤中，智能电视的客户端在发送媒体数据给服务器端时，可以不携带意图解析结果，服务器端可以根据会话信息确定出对应的意图解析结果。

在104中，在显示屏展示内容识别结果。

对于内容识别结果，对于智能电视而言，可以通过显示屏展示内容识别结果。例如在智能电视的显示屏上通过弹窗的形式展现内容识别结果，或者通过跑马灯的形式展现内容识别结果等等。在展示内容识别结果的同时，可以继续当前多媒体内容的播放，也可以暂停当前多媒体内容的播放。

也可以通过语音的形式展示内容识别结果，例如通过扬声器播放内容识别结果的语音。同样在进行语音播放时可以暂停当前多媒体内容的播放，也可以继续当前多媒体内容的播放。这种形式对于智能音箱等不具备显示屏的多媒体设备比较适用。

图3为本发明实施例提供的内容识别装置的结构图，该装置可以设置于智能多媒体设备，智能多媒体设备可以包括但不限于：智能电视、智能音箱或智能投影仪。如图3所示，该装置可以包括：语音处理模块01、媒体内录模块02和内容识别模块03，还可以包括结果展示模块04。其中，各组成单元的主要功能如下：

语音处理模块01负责对语音指令进行语音识别和意图解析。该语音处理模块01可以是直接通过智能多媒体设备内置的麦克风获取用户的语音指令，也可以从语音遥控器获取用户的语音指令。

若智能电视的客户端本身具备对语音指令的语音识别和意图解析功能，则语音处理模块01可以对语音指令直接进行语音识别和意图解析。或者，智能电视本身具备对语音指令的语音识别功能，语音处理模块01将语音识别结果发送给服务器端，由服务器端对语音识别结果进行意图解析并将解析结果返回给语音处理模块01。再或者，语音处理模块01将语音指令发送给服务器端，由服务器端对语音指令进行语音识别和意图解析，并将解析结果返回给语音处理模块01。

媒体内录模块02负责在语音处理模块01解析出内容识别意图时，对该智能多媒体设备正在播放的多媒体内容进行内录。

媒体内录模块02可以对智能多媒体设备正在播放的音频流进行内录，也可以对正在播放的视频帧进行内录，当然也可以同时对音频流和视频帧进行内录。具体内录的内容可以与识别出的意图相对应。例如，若识别出的意图是音频内容的识别，例如识别歌曲，那么可以对正在播放的音频流进行内录。若识别出的意图是视频内容的识别，例如识别人物，那么可以对正在播放的视频帧进行内录。意图类型与内录内容之间的对应关系可以预先配置。

在对正在播放的音频流进行内录时，可以从该智能多媒体设备的声卡采集音频流。例如可以使用tinyalsa采集声卡的音频流。tinyalsa是google在android4.0之后推出的基于alsa内核的用户层音频接口，使用tinyalsa可以获取到设备声卡的音频流。当然，本发明并不限于tinyalsa，也可以采用其他工具采集声卡的音频流。

在对正在播放的视频帧进行内录时，可以从该智能电视的显卡采集音频流。例如可以使用screencap。screencap是系统内置的截图工具，通过screencap可以获取到设备显卡的视频帧。当然，本发明也并不限于screencap，可以采用其他工具采集显卡的视频帧。

内容识别模块03负责将媒体内录模块02内录得到的媒体数据发送至服务器端，并获取服务器端针对媒体数据返回的内容识别结果。

例如，内容识别模块03将内录得到的音频流发送给服务器端，服务器端将该音频流与音频数据库进行匹配，得到该音频流对应的内容，诸如歌曲名、演唱者等等。与什么类型的数据库进行匹配以及得到什么类型的内容识别结果根据用户的具体意图确定，例如用户的意图是“识别歌曲名”，则与歌曲数据库进行匹配，得到该音频流对应的歌曲名。

再例如，内容识别模块03将内录得到的视频帧发送给服务器端，服务器端将该视频帧与图像数据库进行匹配，得到该视频帧对应的内容，例如电视剧名、人名、景点等等。与什么类型的数据库进行匹配以及得到什么类型的内容识别结果根据用户的具体意图确定。例如用户的意图是“识别人名”，则与人像数据库进行匹配，得到人名。

结果展示模块04负责对内容识别结果进行展示。可以通过显示屏展示内容识别结果，例如在智能电视的显示屏上通过弹窗的形式展现内容识别结果，或者通过跑马灯的形式展现内容识别结果等等。在展示内容识别结果的同时，可以继续当前多媒体内容的播放，也可以暂停当前多媒体内容的播放。

也可以以语音形式展示内容识别结果，例如通过扬声器播放内容识别结果的语音。同样在进行语音播放时可以暂停当前多媒体内容的播放，也可以继续当前多媒体内容的播放。这种形式对于智能音箱等不具备显示屏的多媒体设备比较适用。

举几个例子：

假设用户正在使用智能电视观看电视剧，听到一首歌很感兴趣，可以发出“这是什么歌”的语音指令。智能电视接收到该语音指令后，对该语音指令进行语音识别，该语音识别的结果可以在智能电视界面上进行展示，例如图4a所示的智能电视界面。进一步进行意图识别后，确定其是识别歌曲名称的意图。然后内录声卡的音频流上报给云端服务器。云端服务器将该音频流在歌曲数据库中进行匹配，得到该歌曲的名称后返回给智能电视。上述意图识别、歌曲数据库的匹配过程中，在智能电视界面上可以展示如图4b所示的界面，以提示用户当前状态为歌曲识别中。智能电视获取到歌曲的名称后，可以在界面上以窗口的形式展示歌曲名称，当然也可以进一步展示与该歌曲相关的其他信息，例如歌手、来源等等，如图4c中所示。

上述实施例以智能电视为例进行描述，对于智能音箱、智能投影仪等其他多媒体设备同样适用。以智能音箱为例，用户可以通过智能音箱内置的麦克风输入语音指令，例如“帮我查下这首歌叫什么名字”。智能音箱对该语音指令进行语音识别和意图解析，确定是内容解析意图，即查询歌名的意图，对当前播放的音频流进行内录后上传给服务器端，由服务器端将该音频流与该意图对应的数据库进行匹配，即将该音频流与歌曲数据库进行匹配，确定出该音频对应的歌名后返回给智能音箱。智能音箱可以通过语音的形式将该歌名展示给用户。

图5示出了适于用来实现本发明实施方式的示例性计算机系统的框图。图5显示的计算机系统012仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统012以通用计算设备的形式表现。计算机系统012的组件可以包括但不限于：一个或者多个处理器或者处理单元016，系统存储器028，连接不同系统组件(包括系统存储器028和处理单元016)的总线018。

总线018表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(isa)总线，微通道体系结构(mac)总线，增强型isa总线、视频电子标准协会(vesa)局域总线以及外围组件互连(pci)总线。

计算机系统012典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统012访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器028可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(ram)030和/或高速缓存存储器032。计算机系统012可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统034可以用于读写不可移动的、非易失性磁介质(图5未显示，通常称为“硬盘驱动器”)。尽管图5中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如cd-rom,dvd-rom或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线018相连。存储器028可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块042的程序/实用工具040，可以存储在例如存储器028中，这样的程序模块042包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块042通常执行本发明所描述的实施例中的功能和/或方法。

计算机系统012也可以与一个或多个外部设备014(例如键盘、指向设备、显示器024等)通信，在本发明中，计算机系统012与外部雷达设备进行通信，还可与一个或者多个使得用户能与该计算机系统012交互的设备通信，和/或与使得该计算机系统012能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口022进行。并且，计算机系统012还可以通过网络适配器020与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器020通过总线018与计算机系统012的其它模块通信。应当明白，尽管图5中未示出，可以结合计算机系统012使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

处理单元016通过运行存储在系统存储器028中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的方法流程。

上述的计算机程序可以设置于计算机存储介质中，即该计算机存储介质被编码有计算机程序，该程序在被一个或多个计算机执行时，使得一个或多个计算机执行本发明上述实施例中所示的方法流程和/或装置操作。例如，被上述一个或多个处理器执行本发明实施例所提供的方法流程。

随着时间、技术的发展，介质含义越来越广泛，计算机程序的传播途径不再受限于有形介质，还可以直接从网络下载等。可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、rf等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c++，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。