数据处理器及用户控制数据至音频解码器和渲染器的传输的制作方法

文档序号:18544255发布日期:2019-08-27 21:31阅读:146来源:国知局
数据处理器及用户控制数据至音频解码器和渲染器的传输的制作方法
本发明涉及音频数据处理器,用于处理音频数据的方法以及用于执行处理音频数据的方法的计算机程序。
背景技术
:在家用消费性电子产品(ce)设施中,功能遍布于通过标准化接口连接的多个装置之上。另外,(高品质)设备常常不止构建为单个装置,而且可获得复杂的单个装置(考虑机顶盒、电视机、avr接收器)。这些装置通过标准化接口(诸如hdmi)通信。在第一装置提取期望流并向用户提供所有接口时,第二装置常常在没有任何接口给用户的情况下以“从属模式”执行解码。就用户交互及解码器的控制而论,在此情形下,有必要将此用户信息从装置#1传输至装置#2。例如,如图9中所示,电视节目常常通过诸如机顶盒的第一装置接收,该第一装置选择适合的传输信道并提取包括期望编码要素的相关基本流。这些提取的流可被馈送至诸如音频-视频-接收器的第二装置用于再现。可通过传输解码的/解压缩的表示(pcm音频)或以编码的表示(尤其是在对所使用的互连线应用带宽限制的情况下)实现这两个装置之间的传输。另外,由于选择期望流和/或可选地用户交互在装置#1(例如,机顶盒)中实现,在大多数情况下,仅此装置向用户提供控制接口。第二装置(例如,a/v接收器)仅提供配置接口并在正常操作时间以“从属模式”起作用,该配置接口通常仅可被用户在设定系统时访问一次。现代音频编解码器方案不仅支持音频信号的编码,并且提供用于用户交互以使得音频播出及渲染适于听者喜好的方法。音频数据流由大量编码的音频信号(例如,信道信号或音频对象)和伴随元数据信息组成,该伴随元数据信息描述这些音频信号如何形成被渲染至扬声器的音频场景。用于音频对象的示例为:·以不同语言进行的对话,·额外对话如音频描述,或·音乐及音效背景。用于元数据信息的示例为:·每个对象信号的默认音量等级(即,其混合成混合信号以用于扬声器呈现所需的响度),·默认空间位置(即,其必须被渲染的位置),·信息,针对特定对象是否允许用户交互,或·允许用户如何交互的信息,例如,最小/最大音量等级或对用户可将对象重新平移到的位置的限制。·音频对象的分类和/或描述。为了实现用户交互,音频解码器/渲染器(例如装置#2)需要提供用于控制信息的额外(输入或交互)接口以用于期望的用户交互。可选地,当在装置#2而不是在装置#1中实施解码和渲染时,在装置#1中实施用于音频对象选择和操作的用户控制并将此数据馈送至装置#2也是可取的。然而,由于现有的标准化连接不支持用户控制数据和/或渲染器信息的传输的事实,此类数据的传输受到限制。可选地,如以上针对装置#1所述的流选择和用户交互以及如以上针对装置#2所述的解码可由包含在相同装置中的两个单独的功能部件在对两个部件之间的数据传输具有相同限制的情况下处理,该限制即:仅用于编码的数据及用户交互数据的一个接口是可用的,优选地为装置#1的交互接口,而可以省略用于用户交互数据的第二接口(即通常由装置#2提供的接口)。即使装置#1和装置#2包含或实施于相同(硬件)装置内,此导致如针对单独的装置#1和装置#2的情况所描述的相同情形。为了实现所述用例并克服以上所述的限制,提出将用户控制信息数据或(通常的)交互数据嵌入至编码的音频数据流中。技术实现要素:因此,本发明的目标在于改进现有的音频数据处理器。一般地,第一装置可被配置为如下定义的音频数据处理器,包括:接收器接口,用于接收编码的音频数据以及与编码的音频数据相关的元数据;元数据解析器,用于解析元数据以确定音频数据操作可能性;交互接口,用于接收交互输入并用于从交互输入生成与音频数据操作可能性相关的交互控制数据;以及数据流生成器,用于获取交互控制数据、编码的音频数据以及元数据,并用于生成输出数据流,输出数据流包括编码的音频数据、元数据的至少部分以及交互控制数据。编码的音频数据可包括单独的编码的音频对象,其中元数据的至少部分与对应音频对象相关,其中元数据解析器用于解析用于编码的音频对象的对应部分以至少针对音频对象确定对象操作可能性,其中交互接口用于针对至少一个编码的音频对象从与至少一个编码的音频对象相关的交互输入生成交互控制数据。因此,通过使用各自的交互控制数据,可在存储于元数据内的它们的对应对象操作可能性内简单并直接地操作音频对象。交互接口可用于向用户呈现由元数据解析器从元数据得出的音频数据操作可能性,并用于从用户接收关于数据操作可能性的特定数据操作的用户输入。此可实现切实可行的方法,以向用户提供用户接口用于与所发明的装置进行交互(例如,用于操作音频对象,优选地在外部从解码器)。数据流生成器可用于处理包括通过接收器接口接收的编码的音频数据和元数据的数据流而不对编码的音频数据进行解码,或用于复制编码的音频数据和元数据的至少部分而不改变输出数据流,其中数据流生成器用于将包含交互控制数据的额外数据部分添加至输出数据流中的编码的音频数据和/或元数据。此提供较小复杂性的优势,因为音频数据处理器不需要解码音频信号。它仅需要解析元数据并将其写回至编码的音频数据流的元数据部分。数据流生成器可用于在输出数据流中以与元数据相同的格式生成交互控制数据。因此,可将任何交互控制数据有利地整合至输出数据流中。数据流生成器可用于将交互控制数据与输出数据流中的标识符相关联,标识符不同于与元数据相关联的标识符。使用用于经操作的元数据的不同标识符的优势在于可使能远程解码器以在接收原始数据的同时从接收的经操作的数据流识别交互。数据流生成器可用于将签名数据添加至交互控制数据,签名数据表示关于执行交互(例如音频数据操作)或提供用户输入的应用、装置或用户的信息。通过传输原始以及经操作的数据,元数据的重置是可能的。元数据中的签名允许追踪操作的起源。元数据解析器可用于识别用于由编码的音频数据表示的一个或多个音频对象的禁用可能性,其中交互接口用于接收用于一个或多个音频对象的禁用信息,以及其中数据流生成器用于在交互控制数据中将一个或多个音频对象标记为禁用,或用于从编码的音频数据中移除被禁用的一个或多个音频对象,以使得输出数据流不包括用于被禁用的一个或多个音频对象的编码的音频数据。因此,数据流可适于那些实际上或当前可用的音频对象,从而可减少当前比特流的总数据内容。数据流生成器可用于动态地生成输出数据流,其中响应于新的交互输入,更新交互控制数据以匹配新的交互输入,以及其中数据流生成器用于将更新的交互控制数据包括至输出数据流中。因此,数据流可与实时信息一起发送。换言之,可以以快速方式(优选地,实时地)更新并处理关于任意音频对象特定值的交互输入。接收器接口可用于接收包括编码的音频数据以及与编码的音频数据相关的元数据的主音频数据流,并用于额外地接收包括可选音频对象的可选音频数据,其中与所述可选音频对象相关的元数据包含在所述主音频数据流中。以此配置,音频数据处理器可将所选可选音频对象的编码的音频数据合并至主音频数据流中,从而导致由数据流生成器生成的完整的输出音频数据流。因此,可随后或按需要向用户额外地提供可选音频对象。元数据解析器用于针对未包含在编码的音频数据中的缺失音频对象确定音频操作可能性,其中交互接口用于接收针对缺失音频对象的交互输入,以及其中接收器接口用于向音频数据提供者请求用于缺失音频对象的音频数据,或用于从包含在广播流中的不同子流或因特网协议连接接收用于缺失音频对象的音频数据。因此,装置或用户可提前操作可选地可用额外音频对象,即当其实际上缺失时。然后,可随后通过因特网或其他广播流请求该额外音频对象。数据流生成器可用于在输出数据流中将另外的封包类型分配给交互控制数据,另外的封包类型与用于编码的音频数据和元数据的封包类型不同,或其中数据流生成器用于将填充数据封包类型的填充数据添加至输出数据流,其中基于由音频数据处理器的输出接口确定的数据率需求确定填充数据的量。因此,为了分别实现经操作的元数据或交互控制数据的传输,仅需要分配一个另外的封包类型。此外,音频数据处理器可能希望将额外的填充数据添加至随后的数据传输流以满足对于该链路的给定的、通常较高的数据率需求。此填充数据可不包括信息并且预期将被解码器忽略。音频数据处理器可被实施为单独装置,其中接收器接口用于形成经由有线或无线连接至单独装置的输入,其中音频数据处理器还可包括连接至数据流生成器的输出接口,输出接口用于输出输出数据流,其中输出接口执行装置的输出,并包括无线接口或有线连接器。因此,可提供例如在网络中的简单连通性。可通过用于处理音频数据的方法进一步实现本发明,该方法包括:接收编码的音频数据以及与编码的音频数据相关的元数据;解析元数据以确定音频数据操作可能性;接收交互输入并用于从交互输入生成与音频数据操作可能性相关的交互控制数据;以及获取交互控制数据、编码的音频数据以及元数据,并生成输出数据流,输出数据流包括编码的音频数据、元数据的至少部分以及交互控制数据。可通过计算机程序进一步实现本发明,当其在计算机或处理器上运行时该计算机程序用于执行前述的处理音频数据的方法。可通过以下实施例进一步实现本发明:音频数据操作可选自包括对象选择、多种语言的选择、可选额外音频对象的选择、对象操作、一个或多个对象的改变的音量、对象位置的改变(如将额外评论(additionalcommentary)从中心扬声器移动至右侧扬声器或其间的任意位置)以及替代单独地选择及操作每个对象的预设项(preset)的选择中的至少一个的群组,其中选择来自元数据的预设项,其中预设项是由内容创建者针对特定应用或特定使用场景推荐的对象的预选,其中,与默认呈现相比,预设项包括具有例如不同的音量等级、位置以及响度/动态范围压缩数据的对象的组合。数据流生成器可用于生成交互控制数据作为独立信息或作为相依性信息,其中相依性信息取决于元数据以及结果,在应用于解码的音频数据的情况下,连同在由交互输入定义的数据操作中的元数据。编码的音频数据可包括可选音频对象,元数据可包括用于可选音频对象的元数据,其中接收器接口可用于额外地接收具有主音频数据的主音频数据流,其中数据流生成器可用于生成输出数据流,以使得输出数据流额外地包括主音频数据。数据流生成器可用于将错误保护数据添加至输出数据流,并用于将另外的封包类型分配给错误保护数据,其中数据流生成器用于从编码的音频数据、元数据或交互控制数据得出错误保护数据。数据流生成器可用于生成输出数据流作为用于串流的数据流或作为以诸如isompeg-4文件格式的文件格式的基于容器的文件。进一步建议音频数据处理器不具有对编码的音频数据进行解码的功能。可在机顶盒、电视机或音频/视频记录器-接收器中实施音频数据处理器。音频数据处理器可进一步包括用于通过hdmi连接将输出数据流传输至另外装置的输出接口。音频数据处理器也可以连同解码器一起提供(即集成或实施)在相同(硬件)装置内。例如,音频数据处理器可和解码器一起提供在电视机(tv)、机顶盒(set-topbox)、a/v接收器(a/vreceiver)或类似中。音频数据处理器以及解码器可通过内部数据总线结构通信。在包括系统级芯片(soc)方案的tv装置中尤其期望此配置。相应地或可选地,类似于以上针对单独装置的情况所描述的情况,音频数据处理器可被实施为相同装置中的独立且单独的功能部件,唯一的差别在于输出接口在装置内部的连接上(例如使用内部数据总线)执行音频数据处理器的输出。关于上面提及的特征,根据本发明的音频数据处理器能够提供与装置或用户的容易交互,且同时提供简单的装置设置(优选地,使用现有设施)。此外,根据本发明的音频数据处理器通过将装置交互或用户交互作为额外交互数据嵌入至音频比特流中提供针对以上所提及问题的解决方案。通过实施上述特征,解码器实施可仅需要取走编码的表示数据以及交互控制数据的一个接口。已经存在的互连无需实施用于控制信息的新的信道,而实施工作被移至编解码器本身。在复杂的设置中,进一步确保交互控制信息被紧密地关联至编码要素,且因此在通过多个处理阶段的馈送时不会丢失。附图说明在附图中示出并将在下文中解释根据本发明实施例的示例,其中:图1展示根据本发明的音频数据处理器;图2展示根据本发明的用于处理音频数据的方法;图3展示编码的音频数据以及相关元数据的示例;图4展示处理输入和输出流的示例;图5展示处理输入和输出流的另一示例;图6展示处理可选音频数据的音频数据处理器;图7展示在单独装置中实施的音频数据处理器;图8展示具有第一装置和第二装置的示例性用例;以及图9展示具有机顶盒以及音频-视频接收器的示例性情形。具体实施方式在此整个文件中,且特别是在下面的描述中,在通过用户的交互或通过装置的交互以及一般交互(即通常意义上的交互)的意义上使用术语“交互”。换言之,“交互”可意味着“用户交互”或“装置交互”,或通常的交互。在描述的特定部分中,同义地使用术语“用户”和“交互”。例如,可在交互接口及其他方式的意义上同义地使用用户接口。此外,“用户”可以是人类用户或机器用户,如(硬件)装置或软件实施的装置。另外,用户接口可呈现为装置特定预设配置,其可取代用户输入或作为用户输入的补充而控制数据操作。图1展示根据本发明的音频数据处理器1。音频数据处理器1包括用于接收编码的输入流15的接收器接口2,编码的输入流包括编码的音频数据3以及元数据4。元数据4与编码的音频数据3相关,其相关通过箭头110指示。例如,编码的音频数据3可包含音频对象,而元数据4可包含关于所述音频对象的操作可能性的另外信息。音频数据处理器1进一步包括用于解析元数据4以确定音频数据操作可能性的元数据解析器5。例如,可调节的音量等级、可调节的空间位置或可选择的语言可表示音频对象的音频数据操作可能性。此外,音频数据处理器1包括用于接收交互输入7的交互接口6。交互接口6还用于基于交互输入7生成交互控制数据8。所述交互控制数据8与前述音频数据操作可能性相关。例如,通过借由交互接口6调节音频对象的音量等级或空间位置或选择语言,用户可与装置交互。在此情况下,交互接口6是可生成与用户选择相关的对应用户控制数据8的用户接口6。另外或可选地,交互接口6可以是装置(特定)交互接口6。在此情况下,装置交互接口6用于基于装置交互输入7生成装置交互控制数据8。例如,诸如头戴式耳机或类似的装置可与交互接口6连接。头戴式耳机与交互接口6之间的连接可被音频处理器检测到并因此可被视为交互输入7。因此,在连接头戴式耳机之后,交互接口6提供头戴式耳机特定交互控制数据8,如音频对象操作,例如音量的自动降低、预选的语言或在硬件配置中的调节。换言之,替代手动的用户交互,交互接口6基于某些装置的检测自动选择对象或调节。交互接口6生成装置特定交互控制数据8。音频数据处理器1还包括数据流生成器9。数据流生成器9获取交互控制数据8、编码的音频数据3及元数据4。数据流生成器9用于生成包括前述的交互控制数据8、编码的音频数据3及元数据4的输出数据流10。图2展示根据本发明的用于处理音频数据的对应方法。在步骤201中,接收编码的音频数据3以及相关元数据4。在步骤202中,解析元数据4以确定音频数据操作可能性。在步骤203中,接收交互输入,其中在步骤204中从所述交互输入生成与音频数据操作可能性相关的交互控制数据。在步骤205中,获取交互控制数据、编码的音频数据以及元数据,并生成输出数据流,其中所述输出数据流包括编码的音频数据、元数据的至少部分以及交互控制数据。参考图3,编码的音频数据3包括单独的编码的音频对象11、12。此外,元数据4的至少部分13、14与对应音频对象11、12相关(通过箭头110、120指示)。例如,元数据4的部分“md1”13与对应的编码的音频对象“ao1”11相关,而元数据4的部分“md2”14与对应的编码的音频对象“ao2”12相关。元数据解析器5用于解析用于编码的音频对象11、12的对应部分13、14以确定所述音频对象11、12中的至少一个的对象操作可能性。换言之,元数据解析器5针对各个音频对象11、12解析元数据13、14以确定用于每个音频对象11、12的音频对象操作可能性。例如,元数据解析器5确定音频对象“ao1”11可包括可调节的音量等级。元数据解析器5可通过用户接口6向用户呈现此可能的音量等级可调节性(音频对象操作可能性)。用户接口6用于针对至少一个音频对象11、12从与至少一个编码的音频对象11、12相关的用户输入7生成用户控制数据8。例如,用户可能希望调节音频对象“ao1”11的音量等级并因此通过用户接口6提供各个输入7。用户接口6生成包含用户希望将音频对象“ao1”11的音量等级调节到何种程度的信息的各个用户控制数据8。相应地,用户接口6用于向用户呈现由元数据解析器5从元数据4得出的音频对象11、12的音频对象操作可能性。用户接口6还用于从用户接收关于数据操作可能性(例如音量等级调节范围或可用语言的集合)的特定数据操作(例如特定音量等级或特定语言)的用户输入7。参考图1及图9,数据流生成器9用于处理包括通过接收器接口2接收的编码的音频数据3以及元数据4的数据流15而不对编码的音频数据3进行解码。例如,假设根据本发明的音频数据处理器1在机顶盒19、26中实施,则其可将输出数据流10、32转发至包括解码器的外部音频-视频接收器28、33。在此情况下,由于解码不由机顶盒19、26而由音频-视频接收器28、33执行,输出数据流10、32仍可为经编码的。可选地,数据流生成器9用于复制编码的音频数据3以及元数据4,而不改变输出数据流10。在任一情况下,如图4中可以看出,数据流生成器9用于将包含交互控制数据8的额外数据部分添加至输出数据流10中的编码的音频数据3和/或元数据4。参考图5,数据流生成器9还用于将两个输入流15a、15b合并至共同的输出流10中,其中包含交互控制数据8的额外数据部分被添加至输出数据流10中的编码的音频数据3和/或元数据4。优选地,数据流生成器9用于在输出数据流10中以与元数据4相同的格式生成交互控制数据8。因此,交互控制数据8可容易地与可用元数据4组合。如以上提及的,如果数据流生成器9复制元数据4,则除了包含用于各个音频对象11、12的额外交互控制数据8的任意经操作的元数据之外,可在输出流10中保留原始元数据4。可发送原始及经操作的元数据至解码器28、33以允许解码器28、33将差异识别为(用户)交互的结果、得到关于按照内容创建者预期的默认值的所有信息并从原始元数据4和经操作的元数据4'(或交互控制数据8)计算(用户)交互的结果。进一步参考图1,数据流生成器9用于动态地生成输出数据流10。每当用户或装置提供新的交互输入7至交互接口6时,交互控制数据8被相应地更新从而匹配所述新的交互输入7。数据流生成器9将此更新的交互控制数据8包括在输出数据流10中。图6展示根据本发明的音频数据处理器1,其中处理可选音频信息。如可看出的,输入数据流15是包括编码的音频数据3和相关元数据4的主音频数据流。此外,接收器接口2额外地接收包括可选音频对象17的可选音频数据16。然而,与所述额外可选音频对象“aox”17相关的元数据,即关于所述可选音频对象“aox”17的操作可能性的信息,包含在主音频数据流15中。因此,音频对象17是已知的但不被呈现,且因此是可选的。例如,用户收听包含鼓、弦及钢琴的管弦乐。可选地,可包括吹奏乐器。如果收听者此刻希望增加吹奏乐器,则其可通过增加可选吹奏乐器例如小号作为可选音频对象17来实现。由于对于所述小号的操作可能性已包含在主音频数据流15的元数据4中,用户具有根据其期望操作当前增加的小号的可能性。进一步参考图6,所述额外音频对象“aox”17可以是未包括在编码的音频数据3和/或元数据4中的缺失音频对象。因此,音频对象17是未知的且因此缺失。在此情况下,接收器接口2用于向音频数据提供者35请求属于所述缺失音频对象17的音频数据16。接收器接口2还用于从广播流36中包含的不同子流接收所述音频数据16。接收器接口2还用于通过因特网协议连接从因特网37检索所述音频数据16。例如,观看电影的用户可从包括例如英语、德语以及法语的可用语言集合中选择特定的语言。第四语言是已知的但未被呈现,且因此缺失。然而,可随后通过例如因特网提供第四语言。再次参考图4及图5,输入数据流15及输出数据流10通常在封包化结构中是可用的。例如,mpeg-h音频经串行接口的传输由mhas传输语法(见n14459的章节13(iso/iec23008-3委员会草案)[1])定义。此语法以封包化方式定义。因此,为了实现经操作的元数据4或交互控制数据8的传输,仅需要为新的控制信息分配另一封包类型。此外,包括音频数据处理器1的第一装置“装置#1”19可能希望将额外填充数据18增加至随后的传输流10中以满足对于该链路的给定的、通常更高的数据率需求。此填充数据18可不包含信息且预期将被接收经操作的输出流10的第二装置忽略。为了实现此,可分配另外的数据封包类型。另外,由于传入流至“装置#1”19的传输层可具有其自身的错误保护,但传出链路不提供此类安全层,因此装置#1可增加包含奇偶校验数据的数据封包。可将这些数据封包增加至mhas流作为额外封包类型。另外,由于传输层可传送额外数据作为边信息(sideinformation),这些数据封包也可被封包至mhas音频流中作为另一封包类型。用于此数据的示例为mpeg-2传输及程序流中的描述符。用于编码的音频数据的存储的另一示例是isomp4文件格式。与流格式类似,对于文件格式的情况,也可以读取、操作以及写回元数据至文件,或除原始元数据之外存储用户控制数据而不改变编码的音频信号数据。参考文献[1]ison14459(iso/iec23008-3committeedrafttext)[2]iec60958-3:“digitalaudiointerface–part3:consumerapplications”[3]iec61937-11,“digitalaudio–interfacefornon-linearpcmencodedaudiobitstreamsapplyingiec60958–part11:mpeg-4aacanditsextensionsinlatm/loas"现参考图7,将音频数据处理器1实施为单独装置“装置#1”19。在所述单独装置19中,接收器接口2形成通过有线连接21或无线连接22至单独装置19的输入20。音频数据处理器1还包括连接至数据流生成器9并提供用于装置19的输出的输出接口23。另外,输出接口23用于通过无线接口24或有线连接器25输出输出数据流10。可以在两个单独装置是可用的情形下以示例描述执行本发明的其他方式。第一装置“装置#1”包括根据本发明的音频数据处理器。第二装置“装置#2”从“装置#1”接收经处理的但仍为编码的音频数据以用于解码所述音频数据。如在图8及图9中可看出,第一装置19、26接收包括编码的音频数据3及相关元数据4的输入流15。第一装置19、26从传入音频数据流15或传输流读取元数据信息4,并使得编码的音频信号数据3不受影响。第一装置19、26解析元数据4并(例如)在交互接口6中向应用呈现关于对象的信息,包括对对象操作的限制(其为元数据4的部分)。从应用或交互接口6,用户可选择并操作对象以使得音频呈现适于其个人喜好:·对象选择:例如,从多种语言中选择一种,选择可选额外音频对象等·对象操作:例如,改变对象的音量,改变对象的位置,如将额外评论从中心扬声器移动至右侧扬声器或其间的任意位置,·预设项选择:替代单独地选择并操作每个对象,用户也可从元数据选择预设项。预设项是由内容创建者针对特定应用或特定使用场景推荐的对象的预选。与默认呈现相比,预设项可包含具有例如不同的音量等级、位置以及响度/动态范围压缩数据的对象的组合。在接下来的步骤中,第一装置19、26将关于用户交互性的信息(交互控制数据8)存储至编码的音频数据流10、32中。第一装置19、26可将改变的值或操作量(例如偏移值和相乘因数)写回至元数据部分4或编码的音频数据流的专用部分,以使得第一装置19、26的输出再次成为有效的编码的音频流10、32。第一装置19、26可使用不同的标识符、标签或封包类型以分别封装经操作的元数据或用户控制数据8。除了经操作的元数据之外,可在输出流10、32中保留原始元数据4。不同的标识符、标签或封包类型分别用于经操作的元数据或交互控制数据8,以使得第二装置28、33识别之前是否已对元数据4进行操作。原始元数据4保留在流10、32中以允许第二装置28、33将差异识别为用户或装置交互的结果并得到关于按照内容创建者预期的默认值的所有信息,或从原始元数据4以及经操作的元数据4'(或用户控制数据8)计算用户或装置交互的结果。作为经操作的元数据的部分,签名数据可被嵌入元数据4中。签名可包含关于对元数据4进行操作的应用、装置或用户的信息。未被用户选择的音频对象可在元数据4或交互控制数据8中被标记为禁用或可选地可从音频流10中移除这些对象的编码的音频部分。用户或装置交互性的过程可以是动态的,即每当用户或装置改变用于选择和操作的设置时,第一装置19、26将那些改变的值写回至编码的音频数据流10的元数据部分4。由于自动化过程(例如,使得音频场景适于收听情况)或额外交互接口,第二装置28、33可额外地操作元数据4。在此情况下,第二装置28、33可将经操作的值写回至编码的音频数据流10,例如重写通过第一装置19、26写入的值。返回参考图6,在所谓的混合用例(hybridusecase)中以示例描述执行本发明的另外方式。所选可选音频对象17的编码的音频数据3可以不是主音频数据流15的部分,而可使用其它传输信道传送。例如,在广播信道上传送主音频数据流15,而按需求在ip连接37上传送可选音频对象17的编码的音频数据3。用于所有对象的完整的元数据4包括在主音频数据流15中,以使得用于交互及对象选择的所有信息在第一装置19中是可用的。因此,交互及交互控制数据8储存至流10的过程与以上描述的情况相同。如果用户选择对象17且编码的音频数据3不是主音频数据流15的部分,则第一装置19可在与主音频数据流15不同的数据连接(例如,广播流内的不同子流36或ip连接37)上接收此对象17的编码的音频数据3。在接下来的步骤中,第一装置19将所选对象17的编码的音频数据3合并至主音频流15中,导致用以进一步传送至第二装置33的完整的音频数据流10。此外,提出传输嵌入在mpeg-h相符比特流10中的交互数据8的可能性。如图9中可看出,高级多媒体系统常常不将所有期望功能整合至一个单个装置中,而例如在诸如机顶盒26、电视机27或avr接收器28的专用装置中实施不同的功能部件。这些装置通过标准化接口(如hdmi)通信。然而,至少音频数据处理器以及解码器也有可能被整合在一个单个装置中。音频数据处理器可连同解码器一起提供(即,整合或实施)在相同(硬件)装置内。例如,音频数据处理器可与解码器一起提供在tv、机顶盒、a/v接收器或其类似内。音频数据处理器以及解码器可通过内部数据总线结构通信。在包含系统级芯片(soc)解决方案的tv装置中可能尤其期望此类配置。相应地或可选地,与以上针对两个单独装置的情况所描述的情况类似,音频数据处理器可被实施为相同装置中的独立且单独的功能部件,唯一的差别是输出接口在装置内部的连接上(例如使用内部数据总线)执行音频数据处理器的输出。涉及多个装置的用于mpeg-h内容再现的一个用例是通过第一装置19如机顶盒(stb)26接收电视节目的情况,该第一装置选择适合的传输信道并提取包含期望编码要素的相关基本流。交互,即用于音频元素选择以及交互/操作的用户控制通常也实施于此。mpeg-h解码器31可不位于stb26中而位于音频-视频接收器(avr)28中。在图9中绘示此用例。在此情况下,提取的流需被馈送至avr28用于再现;可通过传输解码的/解压缩的表示(具有音频的pcm)或尤其是在对所使用的互连线应用带宽限制的情况下以编码的表示实现此两个装置26、28之间的传输。然后,avr28仅提供通常仅可被用户在设定系统时访问一次的配置接口,并在正常操作时间以“从属模式”起作用。由于交互发生在stb(装置#1)26中且在avr(装置#2)28中实施解码及渲染,因此不可避免地能够将用户交互性信息从stb26发送至avr28。为了实现所描述的用例并克服所描述的限制,提出将交互信息数据8嵌入至编码的音频数据流10中,如图8中可看出。第一装置19从传入音频数据流15的mpegh3daconfig()或通过诸如mpeg-2ts描述符的带外信令读取元数据信息4。然后,解析音频元素元数据4并在交互接口6中呈现关于对象的信息,其包括作为元数据4的部分的对对象操作的限制。用户可从交互接口6选择并操作音频元素以使得音频呈现适于其个人喜好。“用户交互数据”描述对象选择及操作。在接下来的步骤中,第一装置19使用新的mhaspackettype写入此数据至mhas音频数据流32。第一装置19的输出再次为有效的编码的音频流10、32。不修改mpegh3daconfig()中的原始元数据4以及编码的音频信号数据3。此mhaspackettype的封包的存在使得第二装置28、33能够识别(用户)交互已发生。在流10、32中保留原始元数据4以允许第二装置10、33得到关于按照内容创建者预期的默认值的所有信息。未被用户选中的音频元素可在元数据4中被标记为禁用,或可选地可从音频流10中移除该对象的编码的音频部分3。交互(即,装置或用户交互性)的过程可以是动态的,即每当用户或装置改变用于选择及操作的设置时,第一装置19、26写回那些改变的值至编码的音频数据流10的指定部分。mhas-扩展通过mhas传输语法(见n14459的章节13(iso/iec23008-3委员会草案)[1])定义mpeg-h音频经串行接口的传输。此语法以封包化方式定义。因此,为了实现用户交互数据的传输,仅需要为新的控制信息分配另一封包类型。表1—mhaspacketpayload()的语法表2—mhaspackettype的值pactyp_userinteraction可使用mhaspackettypepactyp_userinteraction以馈送元素交互数据至解码器。对于此封包类型,mhaspacketlabel具有与(用户)交互数据8所涉及的mhaspackettypepactyp_mpegh3dacfg的封包相同的值。语法来自用于用户交互的接口的语法元素mpegh3daelementinteraction()(见[2])重新用于携带嵌入在比特流10中的(用户)交互数据8。参考文献[1]iso/iecjtc1/sc29/wg11n14459,"textofiso/iec23008-3/cd,3daudio"[2]fhg,“normativeinterfaceforuserinteraction”,inputtothemeetingofahgon3daudio,drcandaudiomaintenance,june2-3,2014,paris,france此外,提出用于用户交互性的规范性接口的可能语法。提出从用于渲染控制的接口提取用于交互控制的接口。然后,mpegh3daaudiorendering()语法元素定义渲染参数,并且新定义的mpegh3daelementinteraction()语法元素包含(用户)交互所需的信息。mepegh3daelementinteraction()语法元素的定义mpegh3daelementinteraction()语法元素提供用于任何可能的(用户)交互的接口。定义两种交互模式。第一种为高级交互模式,其中对于在音频场景中存在的每个元件群组可用信号表示交互。此模式使得用户能够自由地选择(在切换群组定义的限制内)回放哪些群组并与其全部进行交互(在给定的范围和限制内)。第二种模式为基本交互模式,其中用户可选择所定义的群组预设项(grouppreset)中的一个(从mae_audiosceneinfo()语法元素,见[1]的14.2)作为预设项。然后,在所选群组预设项的条件下所引用的群组的开-关状态被定义,并且不可被用户改变。用户仅可根据定义的限度及范围改变其他群组的开-关状态以及所有群组的位置及增益。区分四个不同的元素修改:-开/关交互性:接通或切断成组元件(编者注:先前称为“对象改变”[4])--位置交互性:改变成组元件的位置(方位角、仰角及距离,编者注:先前称为“位置改变”[4])-增益交互性:改变成组元件的等级/增益(编者注:先前称为“增益改变”[4])-线(wire)交互性:wire输出是除了连接的扬声器之外的任意输出。群组中的元件的音频内容被路由至wire输出,例如用于听觉缺陷或额外语言轨道(languagetrack)的内容。由于群组聚集仅应被联合操作的相关元件,在元件群组的级别上定义所有修改。引入签名以用信号表示例如已在哪个装置中发生交互性。表3ampegh3daelementinteraction()的语法ei_interactionsignaturedatalength此字段以字节定义下面的交互签名的长度。ei_interactionsignaturedatatype此字段定义签名的类型。下面的值是可能的:在表3b中显示mpegh3daelementinteraction()的另一实施例:表3bmpegh3daelementinteraction()的语法表4aei_interactionsignaturedatatype的值值含义0通用字符串1-127保留以供iso使用128-255保留以在iso范围以外使用ei_interactionsignaturedata此字段包含定义交互数据的起源的签名。在表4b中显示ei_interactionsignaturedatatype的另一实施例:表4bei_interactionsignaturedatatype的值表6aei_groupinteractivitystatus()的语法在表6b中显示ei_groupinteractivitystatus()的另一实施例:表6bei_groupinteractivitystatus()的语法根据元数据音频元素字段定义交互数据(见[1]的14.2)。在元数据音频元素定义中,以db给定用于增益交互性的交互性范围,给定用于方位角及仰角的交互性范围作为最小及最大偏移值(具有与此处相同的分辨率:对于方位角为1.5°以及对于仰角为3°),并给定用于距离的范围作为相乘因数。因此,以类似方式定义接口。对于用户交互,可在一个elementinteraction()语法元素内部而不是对于每种交互类型以及每个群组或元件使用语法元素的一次重复,用信号表示对于所有元件群组的所有可能的改变(开/关、增益、位置、wire)。对于被切断的群组还定义wire输出,因为只有如此才可以将可选语言轨道路由至wire输出。在解码器中必须处理可能违反的切换群组逻辑。此处移除先前在[4]中提出的内容类型(信道、对象、hoa)。其已通过groupid被隐含地知道,因为每个元件群组具有定义信号内容类型且在语法元素signals3d()中用信号表示的signalgrouptype(信道、对象、saoc、hoa)。通过群组预设项的基本交互如果设置基本交互模式,则用户可选择所定义的群组预设项中的一个(从mae_audiosceneinfo()groupcollection语法元素,在w14464[7]中作为候选技术提出)。来自所选预设项的条件定义所参考的群组的开-关状态。用户应不能修改用于这些群组的开-关状态。在语法元素ei_groupinteractivitystatus[2]中的对应字段ei_onoff必须反映用于在所选群组预设项的条件下所参考的所有群组的所选群组预设项中的条件。所有其它群组的开-关状态可由用户选择。结论此稿件提出对用于用户交互的接口的定义。提供允许两种不同的交互模式(基本及高级)的接口定义。提出对于cd采用所提出的接口。参考文献[1]iso/iecjtc1/sc29/wg11n14459,"textofiso/iec23008-3/cd,3daudio"[2]fhg,“renderinginterfacestompeg-handunificationofloudspeakersignaling”,inputtothemeetingofahgon3daudio,drcandaudiomaintenance,june2-3,2014,paris,france[3]iso/iecjtc1/sc29/wg11n14463,“normativeinterfaceforbinauraldata”,april2014,valencia,spain[4]iso/iecjtc1/sc29/wg11m33134,“3daudiodecoderinterfaces”,april2014,valencia,spain(inputfromphilips)[5]iso/iecjtc1/sc29/wg11m31427,“thoughtsonbinauralparameterizationofmpegcodecs”,october2013,geneva,switzerland(inputfromorange)[6]iso/iecjtc1/sc29/wg11m30249,“bririnterfaceformat:updateandimplementation”,july2013,vienna,austria(inputfromphilips)[7]iso/iecjtc1/sc29/wg11n14464“candidatetechnologiesfor3daudio”此外,iso/iec23008-3cd文本[1]的章节13定义用于将mpeg-h3d音频有效载荷封装在(实时)流中的mhas语法。利用此文献,提出使得mhas在除mpeg-2传输流以外的其他传输系统中的可靠使用能够实现的额外能力。填充数据某些传输信道可能仅以恒定的瞬时比特率操作。为实现此,提出填充数据封包类型以能够填充mhas流达到某个给定比特率。crcmpeg-2传输流层[2]负责保护封装的mhas基本流。因此,可识别传输中的数据丢失或数据损坏。另一方面,常见串行接口(例如,aes/ebu、s/pdif、[3]、[4]、[5])未提供充分的错误保护。提出可选crc封包类型以使得在mhas用于此类接口的情况下能够实现错误检测。描述符封装mhas流用于传送自或至mpeg-2传输流编码器/解码器的编码的音频。提出以额外mhas封包类型传送相关描述符信息。表7—mhaspacketpayload()的语法表8a—mhaspackettype的值在表8b中显示mhaspackettype的另一实施例:表8b—mhaspackettype的值随机存取/即时播出标志当封包有效载荷的第一marker_byte为“0x02”时,遵循在章节5.5.5“音频预载”中给定的规则对具有相同的mhaspacketlabel的类型pactyp_mpeg3daframe的后续封包进行编码。程序边界标志当封包有效载荷的第一marker_byte为“0x03”时,在此时间点出现程序边界以及所有后续封包属于新的程序。psctyp_crc16及pactyp_crc32mhaspackettypepactyp_crc16及pactyp_crc32可用于检测先前mhas封包(其中mhaspacketlabel被设置为相同值)中的错误。其应直接跟在其crc值所涉及的mhas封包之后。在通过易出错的信道传送mhas流时此是有益的。错误检测方法使用如分别针对mhasparity16data或mhasparity32data定义的生成多项式以及关联移位寄存器状态中的一个。包括在crc校验中的比特是用于被分别跟随以mhasparity16data或mhasparity32data字的相关mhas封包的完整的mhaspacketpayload()。在没有错误的情况下,移位寄存器的输出中的每个应该是零。在crc编码器,以值对mhasparity16data/mhasparity32data字段进行编码,以使得此得以确保。pactyp_filldatamhaspackettypepactyp_filldata提供增加填充数据以调节瞬时比特率的可能性。在使用恒定速率传输信道的某些实时应用中此可能是可取的。由于此类型的封包不涉及确定的有效载荷数据,mhaspacketlabel被设置为0。预期解码器忽略在类型pactyp_filldata的封包中传输的数据。另外,处理mhas流的中间工具被允许用于从流中移除此类封包。允许将mhaspacketlength设置为0。此产生2个字节的最小封包大小。pactyp_descriptor可使用pactyp_descriptor以将mpeg-2ts/ps描述符嵌入至mhas流中。作为mhas_descriptor_data_byte传送的数据具有与针对iso/iec13818-1中的描述符()所定义的相同语法和语义。对于此封包类型以及在ts_program_map_section()(见iso/iec13818-1)中的第一描述符循环中传输的描述符,将mhaspacketlabel设置为0。对于此封包类型以及被分配至一个基本流(即,ts_program_map_section()中的第二描述符循环)的描述符,将mhaspacketlabel设置为与来自关联基本流的pactype_config相同的值。参考文献[1]iso/iecjtc1/sc29/wg11n14459,"textofiso/iec23008-3/cd,3daudio"[2]iso/iec13818-1:2013,informationtechnology—genericcodingofmovingpicturesandassociatedaudioinformation:systems[3]iec60958-3:“digitalaudiointerface–part3:consumerapplications”[4]iec61937-11,“digitalaudio–interfacefornon-linearpcmencodedaudiobitstreamsapplyingiec60958–part11:mpeg-4aacanditsextensionsinlatm/loas"[5]smpte2041:formatfornon-pcmaudioanddatainaes-3-mpeg-4aacandheaaccompresseddigitalaudioinadtsandlatm/loaswrappers尽管已经在区块表示实际或逻辑硬件部件的方块图的上下文中描述了本发明,也可通过计算机实施方法实施本发明。在后者的情况下,区块表示对应方法步骤,其中步骤表示由对应逻辑或物理硬件区块执行的功能。尽管已经在装置的上下文中描述一些方面,显然,这些方面也表示对应方法的描述,其中区块或装置对应方法步骤或方法步骤的特征。类似地,在方法步骤的上下文中描述的方面也表示对应装置的对应区块或细节或特征的描述。通过(或使用)硬件装置(例如,微处理器、可编程计算机或电子电路)可执行方法步骤中的一些或全部。在一些实施例中,可通过此类装置执行最重要的方法步骤中的一些或更多。本发明的传输的或编码的信号可存储在数字存储介质上,或可在诸如无线传输介质或有线传输介质诸如网络的传输介质上传输。根据特定的实施需求,本发明的实施例可以以硬件或软件实施。可使用具有电子可读控制信号存储于其上的数字存储介质,例如软盘、dvd、blu-ray、cd、rom、prom及eprom、eeprom或闪存执行实施方案,这些电子可读控制信号与可编程计算机系统协作(或能够协作)以使得执行各个方法。因此,数字存储介质可以是计算机可读的。根据本发明的一些实施例包括具有电子可读控制信号的数据载体,其能够与可编程计算机系统协作,以执行本文中描述的方法中的一个。通常,本发明的实施例可被实施为具有程序代码的计算机程序产品,当计算机程序产品在计算机上运行时,可操作程序代码用于执行方法中的一个。例如,程序代码可存储在机器可读载体上。其他实施例包括用于执行本文中所描述的方法中的一个的存储在机器可读载体上的计算机程序。换言之,因此,本发明方法的实施例是具有程序代码的计算机程序,当计算机程序在计算机上运行时,该程序代码用于执行本文中所描述的方法中的一个。因此,本发明方法的另一实施例是包括其上记录有用于执行本文中所描述的方法中的一个的计算机程序的数据载体(或诸如数字存储介质或计算机可读介质的非易失性存储介质)。数据载体、数字存储介质或记录介质通常是有形的和/或非易失的。因此,本发明方法的另一实施例是表示用于执行本文中所描述的方法中的一个的计算机程序的数据流或信号序列。例如,数据流或信号序列可被配置为通过数据通信连接(例如,通过因特网)传输。另一实施例包括用于或适于执行本文中所描述的方法中的一个的处理构件,例如,计算机或可编程逻辑装置。另一实施例包括其上安装有用于执行本文中所描述的方法中的一个的计算机程序的计算机。根据本发明的另一实施例包括用于传输(例如,电性或光学地)用于执行本文中所描述的方法中的一个的计算机程序至接收器的装置或系统。例如,接收器可以是计算机、移动装置、存储装置或类似。例如,装置或系统可包括用于传输计算机程序至接收器的文件服务器。在一些实施例中,可编程逻辑装置(例如,现场可编辑门阵列)可用于执行本文中所描述的方法的功能中的一些或全部。在一些实施例中,现场可编辑门阵列可与微处理器协作以执行本文中所描述的方法中的一个。一般地,优选地通过任意硬件裝置执行方法。以上所描述的实施例仅说明本发明的原理。应理解的是,本文中所描述的配置及细节的修改和变形对本领域其他技术人员是显而易见的。因此,本发明仅由待决权利要求的范围限定,而不由本文中的实施例的描述和解释而呈现的特定细节限定。下面示出一些可能的、非限制性的实施例:1.一种音频数据处理器(1),包括:接收器接口(2),用于接收编码的音频数据(3)以及与编码的音频数据(3)相关的元数据(4);元数据解析器(5),用于解析所述元数据(4)以确定音频数据操作可能性;交互接口(6),用于接收交互输入(7)并用于从所述交互输入(7)生成与所述音频数据操作可能性相关的交互控制数据(8);以及数据流生成器(9),用于获取所述交互控制数据(8)、所述编码的音频数据(3)以及所述元数据(4),并用于生成输出数据流(10),所述输出数据流(10)包括所述编码的音频数据(3)、所述元数据(4)的至少部分以及所述交互控制数据(8)。2.根据实施例1所述的音频数据处理器,其中所述编码的音频数据(3)包括单独的编码的音频对象(11;12),其中所述元数据(4)的至少部分(13;14)与对应音频对象(11;12)相关,其中所述元数据解析器(5)用于解析用于所述编码的音频对象(11;12)的对应部分(13;14)以至少针对音频对象(11)确定对象操作可能性,其中所述交互接口(6)用于针对至少一个编码的音频对象(11)从与所述至少一个编码的音频对象(11)相关的交互输入(7)生成所述交互控制数据(8)。3.根据实施例1或2所述的音频数据处理器,其中所述交互接口(6)用于向用户呈现由所述元数据解析器(5)从元数据(4)得出的音频数据操作可能性,并用于从用户接收关于所述数据操作可能性的特定数据操作的用户输入(7)。4.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于处理包括通过所述接收器接口(2)接收的所述编码的音频数据(3)和元数据(4)的数据流(15)而不对所述编码的音频数据(3)进行解码,或用于复制所述编码的音频数据(3)和元数据(4)的至少部分而不改变所述输出数据流(10),其中所述数据流生成器(9)用于将包含所述交互控制数据(8)的额外数据部分添加至所述输出数据流(10)中的所述编码的音频数据(3)和/或所述元数据(4)。5.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于在所述输出数据流(10)中以与所述元数据(4)相同的格式生成所述交互控制数据(8)。6.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于将所述交互控制数据(8)与所述输出数据流(10)中的标识符相关联,所述标识符不同于与所述元数据(4)相关联的标识符。7.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于将签名数据添加至所述交互控制数据(8),所述签名数据表示关于执行音频数据操作或提供交互输入的应用、装置或用户的信息。8.根据前述实施例中任一项所述的音频数据处理器,其中所述元数据解析器(5)用于识别用于由所述编码的音频数据(3)表示的一个或多个音频对象(11,12)的禁用可能性,其中所述交互接口(6)用于接收用于所述一个或多个音频对象(11,12)的禁用信息,以及其中所述数据流生成器(9)用于在所述交互控制数据(8)中将所述一个或多个音频对象(11,12)标记为禁用,或用于从所述编码的音频数据(3)中移除被禁用的一个或多个音频对象(11,12),以使得所述输出数据流(10)不包括用于所述被禁用的一个或多个音频对象(11,12)的编码的音频数据(3)。9.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于动态地生成所述输出数据流(10),其中响应于新的交互输入(7),更新所述交互控制数据(8)以匹配所述新的交互输入(7),以及其中所述数据流生成器(9)用于将更新的交互控制数据(8)包括在所述输出数据流(10)中。10.根据前述实施例中任一项所述的音频数据处理器,其中所述接收器接口(2)用于接收包括所述编码的音频数据(3)以及与所述编码的音频数据(3)相关的元数据(4)的主音频数据流(15),并用于额外地接收包括可选音频对象(17)的可选音频数据(16),其中与所述可选音频对象(17)相关的元数据(4)包含在所述主音频数据流(15)中。11.根据前述实施例中任一项所述的音频数据处理器,其中所述元数据解析器(5)用于针对未包含在所述编码的音频数据(3)中的缺失音频对象(17)确定音频操作可能性,其中所述交互接口(6)用于接收针对所述缺失音频对象(17)的交互输入(7),以及其中所述接收器接口(2)用于向音频数据提供者(35)请求用于所述缺失音频对象(17)的音频数据(16),或用于从包含在广播流(36)中的不同子流或因特网协议连接(37)接收用于所述缺失音频对象(17)的所述音频数据(16)。12.根据前述实施例中任一项所述的音频数据处理器,其中所述数据流生成器(9)用于在所述输出数据流(10)中将另外的封包类型分配给所述交互控制数据(8),所述另外的封包类型与用于所述编码的音频数据(3)和所述元数据(4)的封包类型不同,或其中所述数据流生成器(9)用于将填充数据封包类型的填充数据(18)添加至所述输出数据流(10),其中基于由所述音频数据处理器的输出接口确定的数据率需求确定所述填充数据(18)的量。13.根据前述实施例中任一项所述的音频数据处理器,其被实施为单独装置(19),其中所述接收器接口(2)用于形成经由有线连接(21)或无线连接(22)至所述单独装置(19)的输入(20),其中所述音频数据处理器(1)还包括连接至所述数据流生成器(9)的输出接口(23),所述输出接口(23)用于输出所述输出数据流(10),其中所述输出接口(23)执行装置(19)的输出,并包括无线接口(24)或有线连接器(25)。14.一种用于处理音频数据的方法,所述方法包括:接收编码的音频数据(3)以及与编码的音频数据(3)相关的元数据(4);解析所述元数据(4)以确定音频数据操作可能性;接收交互输入(7)并从所述交互输入(7)生成与所述音频数据操作可能性相关的交互控制数据(8);以及获取所述交互控制数据(8)、所述编码的音频数据(3)以及所述元数据(4),并生成输出数据流(10),所述输出数据流(10)包括所述编码的音频数据(3)、所述元数据(4)的至少部分以及所述交互控制数据(8)。15.一种计算机程序,当其在计算机或处理器上运行时用于执行实施例14所述的处理音频数据的方法。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1