一种脚步声音反馈方法、装置及虚拟现实系统与流程

本发明涉及音频信号处理技术领域，更具体地，本发明涉及一种脚步声音反馈方法、一种脚步声音反馈装置、及一种虚拟现实系统。

背景技术：

虚拟现实(virtualreality,vr)技术是其综合利用计算机图形系统和各种现实及控制等接口设备，在计算机上生成的、可交互的三维环境中提供沉浸感觉的技术。

现在，开发人员越来越看重在虚拟现实环境中对听觉、视觉、触觉等感官的模拟，以解决因感觉的缺失而影响沉浸式体验的问题，例如，如果在虚拟现实环境中忽略沉甸甸的重力脚感，人们在虚拟现实环境中行走时将无法感受自己行走带来的一些影响，因此，会有空虚的感觉。

目前，主要实现的感官模拟包括对视觉的模拟，比如是在虚拟现实环境中看到自己的双手，以及对触觉的模拟，比如是在虚拟现实环境中通过向脚部施加与虚拟现实场景匹配的受力来模拟脚部受力等，但鲜有对听觉的模拟，尤其是对脚步声音的模拟，因此，非常有必要提供一种在虚拟现实环境中进行脚步声音反馈的技术方案，以提高沉浸式体验。

技术实现要素：

本发明实施例的一个目的是提供一种进行脚步声音反馈的技术方案，以提高用户的沉浸式体验。

根据本发明的第一方面，提供了一种脚步声音反馈方法，其包括：

接收虚拟现实鞋的传感装置采集到的反映所述虚拟现实鞋鞋的鞋底受力变化的信号；

根据所述信号确定脚步特征；

根据所述脚步特征确定基本的脚步声音信号；

获取针对当前虚拟现实场景预设的脚步声音素材；

将所述脚步声音素材叠加至所述基本的脚步声音信号上，得到当前虚拟现实场景下的脚步声音信号；

控制发声装置播放所述当前虚拟现实场景下的脚步声音信号。

可选的是，所述脚步特征包括落地速度和对应所述落地速度的落地时刻，其中，所述落地速度与所述基本的脚步声音信号在对应落地时刻的音量值成正比。

可选的是，所述根据所述脚步特征确定基本的脚步声音信号包括：

读取预先存储的脚步声音信号；

根据所述脚步特征修正所述预先存储的脚步声音信号，得到所述基本的脚步声音信号。

可选的是，所述根据所述脚步特征确定基本的脚步声音信号具体为：

在预先存储的脚步声音信号数据库中，查找与所述脚步特征相符的脚步声音信号形成基本的脚步声音信号。

可选的是，所述获取针对当前虚拟现实场景预设的脚步声音素材包括：

查找预先存储的反映虚拟现实场景与脚步声音素材之间映射关系的对照表；

根据所述对照表，获得对应所述当前虚拟现实场景的脚步声音素材。

根据本发明的第二方面，还提供了一种脚步声音反馈装置，其包括：

信号接收模块，用于接收虚拟现实鞋的传感装置采集到的反映所述虚拟现实鞋的鞋底受力变化的信号；

脚步特征确定模块，用于根据所述信号确定脚步特征；

第一声音信号确定模块，用于根据所述脚步特征确定基本的脚步声音信号；

声音素材获取模块，用于获取针对当前虚拟现实场景预设的脚步声音素材；

第二声音信号确定模块，用于将所述脚步声音素材叠加至所述基本的脚步声音信号上，得到当前虚拟现实场景下的脚步声音信号；以及，

执行模块，用于控制发声装置播放所述当前虚拟现实场景下的脚步声音信号。

可选的是，所述第一声音信号确定模块包括：

读取单元，用于读取预先存储的脚步声音信号；以及，

修正单元，用于根据所述脚步特征修正所述预先存储的脚步声音信号，得到所述基本的脚步声音信号。

可选的是，所述第一声音信号确定模块具体用于在预先存储的脚步声音信号数据库中，查找与所述脚步特征相符的脚步声音信号形成基本的脚步声音信号。

根据本发明的第三方面，还提供了一种脚步声音反馈装置，其包括存储器和处理器，所述存储器用于存储指令，所述指令用于控制所述处理器进行操作以执行根据本发明的第一方面所述的脚步声音反馈方法。

根据本发明的第四方面，还提供了一种虚拟现实系统，其包括虚拟现实鞋、发声装置、及根据本发明的第二方面或者第三方面所述的脚步声音反馈装置，所述虚拟现实鞋具有传感装置，所述传感装置被设置为用于采集反映所述虚拟现实鞋的鞋底受力变化的信号提供给所述脚步声音反馈装置，所述发声装置被设置为用于根据所述脚步声音反馈装置的控制播放所述当前虚拟现实场景下的脚步声音信号。

本发明的一个有益效果在于，本发明的脚步声音反馈方法、装置能够根据反映鞋底受力变化的信号确定基本的脚步声音信号，并通过在该基本的脚步声音信号的基础上叠加在当前虚拟现实场景中行走的脚步声音素材，便可得到当前用户在当前虚拟现实场景下行走的脚步声音信号，进而实现脚步声音的沉浸式反馈，以提高用户的沉浸式体验。

通过以下参照附图对本发明的示例性实施例的详细描述，本发明的其它特征及其优点将会变得清楚。

附图说明

被结合在说明书中并构成说明书的一部分的附图示出了本发明的实施例，并且连同其说明一起用于解释本发明的原理。

图1为根据本发明脚步声音反馈方法的一种实施例的流程示意图；

图2为根据本发明一种实施例的反映虚拟现实鞋的鞋底受力变化的信号的波形示意图；

图3为根据本发明脚步声音反馈装置的一种实施例的方框原理图；

图4为根据本发明脚步声音反馈装置的一种硬件结构的方框原理图；

图5为根据本发明虚拟现实系统的一种实施例的方框原理图。

具体实施方式

现在将参照附图来详细描述本发明的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

在这里示出和讨论的所有例子中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它例子可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图1是根据本发明脚步声音反馈方法的一种实施例的流程示意图。

根据图1所示，根据本发明方法包括如下步骤：

步骤s110，接收虚拟现实鞋的传感装置采集到的反映该虚拟现实鞋的鞋底受力变化的信号。

根据本发明方法，虚拟现实系统除了头戴式显示设备之外，还配套有虚拟现实鞋，该虚拟现实鞋具有传感装置，该传感装置被设置为用于采集反映虚拟现实鞋的鞋底受力变化的信号。

具体地，该虚拟现实鞋可以包括鞋体、设置在鞋体底部的传感装置，该传感装置可以内置于鞋体中，也可以设置在鞋体的外部，只要在用户穿上该虚拟现实鞋行走时能够采集到反映鞋底受力变化的信号即可。

由于该信号与穿上该虚拟现实鞋行走的脚步具有映射关系，因此，可以根据该信号确定对应的脚步特征。

该传感装置可以包括力传感器，以将虚拟现实鞋与地面之间的力的量值转换为电信号输出。

该传感装置可以在鞋体底部形成一个感应点，该感应点例如位于后脚跟区域，也可以在鞋体底部形成两个感应点(例如分别位于前脚掌区域和后脚跟区域)，还可以在鞋体底部形成更多的感应点。

步骤s120，根据上述信号确定脚步特征。

由于在行走时，脚步声音主要产生在落地阶段，因此，该脚步特征可以包括落地速度及对应落地速度的落地时刻等。

图2所示为用户穿上虚拟现实鞋行走时，其中一只鞋的一个感应点产生的信号的波形示意图。

根据该波形示意图可知，沿着时间轴的每一条连续曲线表示对应感应点从踩下至抬起的波形变化，每条曲线根据深度变化(与压力变化成正比)分为深度逐渐增大的落地阶段和深度逐渐减小的抬起阶段，根据每条连续曲线在落地阶段的任意时刻的斜率便可以确定对应时刻的落地速度，并进而可以确定每一落地速度对应的落地时刻。

步骤s130，根据脚步特征确定基本的脚步声音信号。

在该步骤s130中，可以预先设置脚步特征与之间映射关系的映射规则，并根据该映射规则确定基本的脚步声音信号。

该映射规则例如包括落地速度与脚步声音的大小成正比，根据该映射规则可以确定在落地速度对应的落地时刻的脚步声音的大小，进而确定基本的脚步声音信号在该落地时刻的音量值。

对于传感装置在虚拟现实鞋的两只鞋上各形成一个感应点的实施例，设一只鞋的感应点a1产生信号fa1，另一只鞋的感应点a2产生信号fa2，可将信号fa1、fa2叠加在一起，并根据叠加后的信号确定所有的落地阶段，再按照映射规则，根据落地速度及对应的落地时刻确定基本的脚步声音信号。

对于传感装置在虚拟现实鞋的两只鞋上各形成一个感应点的实施例，也可以是：先分别确定对应信号fa1的脚步声音信号和对应信号fa2的脚步声音信号，得到两路脚步声音信号，再将得到的两路脚步声音信号叠加在一起得到基本的脚步声音信号。

对于传感装置在虚拟现实鞋的两只鞋各形成两个感应点的实施例，设一只鞋的感应点a1产生信号fa1、感应点a2产生信号fa2，另一只鞋的感应点b1产生信号fb1、感应点b2产生信号fb2，可以是分别确定对应信号fa1的脚步声音信号、对应信号fa2的脚步声音信号、对应信号fb1的脚步声音信号、及对应信号fb2的脚步声音信号，得到四路脚步声音信号，再将四路脚步声音信号叠加在一起得到基本的脚步声音信号。

对于传感装置在虚拟现实鞋的两只鞋各形成超过两个感应点的实施例，可以参照各形成两个感应点的实施例得到基本的脚步声音信号，在此不再赘述。

在将各路脚步声音信号叠加得到基本的脚步声音信号时，任意落地时刻的音量值可以取每路脚步声音信号在对应落地时刻的最大值，或者取四路脚步声音信号在对应落地时刻的平均值等。

在该步骤s130中，根据脚步特征确定基本的脚步声音信号也可以进一步包括：

步骤s131，读取预先存储的脚步声音信号。

在此，可以根据典型脚步拾取产生的脚步声音信号，并预先存储拾取到的脚步声音信号。

该预先存储的脚步声音信号可以包括一次落地产生的声音信号。

步骤s132，根据步骤s120确定的脚步特征修正该预先存储的脚步声音信号，得到所述基本的脚步声音信号。

在该步骤s132中，可以先比较根据步骤s120确定的脚步特征与典型脚步的特征，例如比较两者之间的落地速度、落地阶段需要的落地时间等，再根据比较结果修正该预先存储的脚步声音信号。

修正的方法例如可以为：先根据落地时间之间的区别，对预先存储的脚步声音信号进行拉长或者缩短处理，这可以是调整相邻数据点之间的时间间隔，以使处理后的脚步声音信号与根据步骤s120确定的脚步特征的落地时间一致；再根据处理后的脚步声音信号与根据步骤s120确定的脚步特征在同一落地时刻的落地速度的比值，增大或者减小对应落地时刻的音量值，得到基本的脚步声音信号。

在该步骤s130中，根据脚步特征确定基本的脚步声音信号还可以进一步包括：

在预先存储的脚步声音信号数据库中，查找与步骤s120确定的脚步特征相符的脚步声音信号形成基本的脚步声音信号。

脚步声音信号数据库中可以预先存储一次落地的具有不同脚步特征的脚步声音信号。这样，便可根据步骤s120确定的脚步特征查找与每次落地匹配的脚步声音信号形成该基本的脚步声音信号。

步骤s140，获取针对当前虚拟现实场景预设的脚步声音素材。

由于虚拟现实系统具有多种虚拟现实场景，该虚拟现实场景例如包括草地场景、砂石路场景、柏油路场景、沙滩场景、水中场景等等，由于在不同的场景下行走发出的声音是有差别的，因此，为了实现在不同场景下行走的反馈，可以针对各种场景预设脚步声音素材，以叠加至步骤s130确定的基本的脚步声音信号中。

该步骤s140中获取针对当前虚拟现实场景预设的脚步声音素材可以进一步包括：

步骤s141，查找预先存储的反映虚拟现实场景与脚步声音素材之间映射关系的对照表。

步骤s142，根据该对照表，获得对应当前虚拟现实场景的脚步声音素材。

步骤s150，将脚步声音素材叠加至基本的脚步声音信号上，得到当前虚拟现实场景下的脚步声音信号。

该脚步声音素材体现了在当前虚拟现实场景下行走的脚步声音特点，将其叠加在基本的脚步声音信号上便可实现在当前虚拟现实场景下行走的脚步声音的反馈。

通过该步骤s150，在不同的虚拟现实场景下，即使基本的脚步声音信号相同，最终反馈给用户的脚步声音也是不同的，且反馈给用户的脚步声音能够反映在当前虚拟现实场景下行走的声音特点，进而能够进一步提高沉浸式体验。

步骤s160，控制发声装置播放该当前虚拟现实场景下的脚步声音信号，实现在当前虚拟现实场景下行走的脚步声音的反馈。

图3为根据本发明脚步声音反馈装置的一种实施例的方框原理图。

根据图3所示，本发明脚步声音反馈装置包括信号接收模块310、脚步特征确定模块320、第一声音信号确定模块330、声音素材获取模块340、第二声音信号确定模块350、及执行模块360。

该信号接收模块310用于接收虚拟现实鞋的传感装置采集到的反映该虚拟现实鞋的鞋底受力变化的信号。

该脚步特征确定模块320用于根据信号接收模块310提供的该信号确定脚步特征。

该第一声音信号确定模块330用于根据脚步特征确定模块320确定的脚步特征确定基本的脚步声音信号；

该声音素材获取模块340用于获取针对当前虚拟现实场景预设的脚步声音素材。

该第二声音信号确定模块350用于将声音素材获取模块340提供的该脚步声音素材叠加至基本的脚步声音信号上，得到当前虚拟现实场景下的脚步声音信号。

该执行模块360用于控制发声装置播放当前虚拟现实场景下的脚步声音信号，以实现在当前虚拟现实场景下行走的脚步声音的反馈。

上述第一声音信号确定模块330可以进一步包括读取单元和修正单元(图中未示出)。该读取单元用于读取预先存储的脚步声音信号。该修正单元用于根据所述脚步特征修正所述预先存储的脚步声音信号，得到所述基本的脚步声音信号。

上述第一声音信号确定模块330也可以具体用于在预先存储的脚步声音信号数据库中，查找与脚步特征相符的脚步声音信号形成基本的脚步声音信号。

上述第一声音信号确定模块330还可以具体用于根据脚步特征与脚步声音之间的映射规则确定基本的脚步声音信号。

该映射规则例如包括：脚步特征中的落地速度与脚步声音的大小成正比。

上述第二声音信号确定模块350可以进一步用于查找预先存储的反映虚拟现实场景与脚步声音素材之间映射关系的对照表，并根据该对照表获得对应所述当前虚拟现实场景的脚步声音素材。

图4是根据本发明的脚步声音反馈装置的一种硬件结构的示意图。

根据图4所示，在该实施例中，该脚步声音反馈装置可以包括存储器420和处理器410，该存储器420用于存储指令，该指令用于控制处理器710进行操作以执行根据本发明的脚步声音反馈方法。

该存储器420可以包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。

图5是根据本发明的虚拟现实系统的一种结构的方框原理图。

根据图5所示，该虚拟现实系统包括上述任一种脚步声音反馈装置，在图5中被标记为510。

该虚拟现实系统还包括虚拟现实鞋520、发声装置530、头戴式显示设备540。

该虚拟现实鞋具有传感装置，该传感装置被设置为用于采集反映虚拟现实鞋的鞋底受力变化的信号提供给脚步声音反馈装置510。

该发声装置520被设置为用于根据脚步声音反馈装置510的控制播放所述当前虚拟现实场景下的脚步声音信号。

该头戴式显示设备540被设置为用于实现虚拟现实的沉浸式体验。

根据图5所示，该虚拟现实系统还可以包括手柄控制装置550、摄像装置560、主机570、光定位装置580等等。

上述主机570与摄像装置560、头戴式显示设备540、手柄控制装置550、脚步声音反馈装置510等通信连接，该通信连接可以包括无线通信连接和/或有线通信连接。

该脚步声音反馈装置510可以设置在虚拟现实鞋520中，也可以设置在主机570中等。

上述摄像装置560可以设置在头戴式显示设备540上，也可以安装在进行虚拟现实体验的场所空间中。

上述发声装置530可以设置在头戴式显示设备540上。

上述光定位装置580包括红外光球等，这些光球可以分布在手柄控制装置550、虚拟现实鞋520上。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分相互参见即可，每个实施例重点说明的都是与其他实施例的不同之处，但本领域技术人员应当清楚的是，上述各实施例可以根据需要单独使用或者相互结合使用。另外，对于装置实施例而言，由于其是与方法实施例相对应，所以描述得比较简单，相关之处参见方法实施例的对应部分的说明即可。以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的模块可以是或者也可以不是物理上分开的。

本发明可以是装置、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如smalltalk、c++等，以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla)，该电子电路可以执行计算机可读程序指令，从而实现本发明的各个方面。

这里参照根据本发明实施例的方法、装置和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是，通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。

以上已经描述了本发明的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本发明的范围由所附权利要求来限定。