用稀疏数据训练神经网络的系统和方法与流程

本发明涉及训练神经网络，并且更具体地涉及使用稀疏数据来训练神经网络。

背景技术：

1、通常使用反向传播来训练用于图像处理的神经网络，以将神经网络模型的输出(即，预测)与目标图像进行匹配。例如，神经网络模型可以被训练成升档(upscale)图像，从低分辨率图像生成高分辨率图像，或被训练成去噪图像，从有噪声图像产生干净的输出图像。假设可微函数g被描述为具有可训练参数集θ的神经网络，其将输入向量x＝{x1,x2,...,xn}映射到输出向量

2、

3、神经网络通过最小化损失函数来训练，

4、

5、量化目标y＝{y1,y2,...,ym}与神经网络输出之间的误差。

6、对于图像处理网络来说，l2标准经常被用作损失函数。生成和存储训练所需的输入和目标对(x，y)的大数据集常常是一个重大挑战。例如，图像处理网络通常用成千上百万图像训练图像处理网络。在离线渲染场景下用路径追踪图像训练时，经常花费数周来生成参考图像和许多兆兆字节的数据存储。计算精确的目标图像是耗时的并且需要很大的数据存储和传输能力。具有解决这些问题和/或与现有技术相关的其他问题的需求。

技术实现思路

1、公开了用于训练神经网络模型的方法、计算机可读介质和系统。该方法包括从包括输入向量和稀疏目标向量的训练数据集中选择输入向量的步骤，其中每个稀疏目标向量包括对应于神经网络模型的输出向量内的样本子集的目标数据。该方法还包括通过神经网络模型处理输入向量以针对输出向量内的样本产生输出数据以及调整神经网络模型的参数值以针对样本子集减小输出向量与稀疏目标向量之间的差的步骤。

技术特征：

1.一种处理器，其包括：

2.根据权利要求1所述的处理器，其中所述稀疏选择的像素将被用作地面实况数据。

3.根据权利要求1所述的处理器，其中所述一个或更多个电路用于通过从一个或更多个图像中随机选择一个或更多个像素设置为零来生成所述稀疏选择的像素。

4.根据权利要求1所述的处理器，其中用于上采样所述一个或更多个图像的所述一个或更多个神经网络通过将来自上采样的一个或更多个图像的一个或更多个像素与所述一个或更多个图像的所述稀疏选择的像素进行比较来进行训练，以减少反向传播期间的差异。

5.根据权利要求1所述的处理器，其中通过至少使用稀疏输入训练数据和稀疏输出训练数据来训练所述一个或更多个神经网络。

6.根据权利要求1所述的处理器，其中所述一个或更多个电路用于至少部分地基于密度掩码和一个或更多个图像的稀疏选择的像素来上采样所述一个或更多个图像，所述密度掩码指示在所述稀疏选择的像素中存在的每个个体样本的强度。

7.根据权利要求1所述的处理器，其中所述一个或更多个电路用于使用所述一个或更多个神经网络来至少部分地基于图像的一个或更多个第二像素来生成所述图像的一个或更多个第一像素。

8.一种系统，其包括:

9.根据权利要求8所述的系统，其中所述稀疏选择的像素将被用作地面实况数据。

10.根据权利要求8所述的系统，其中所述一个或更多个电路用于通过从一个或更多个图像中随机选择一个或更多个像素设置为一个或更多个预定值来生成所述稀疏选择的像素。

11.根据权利要求8所述的系统，其中用于上采样所述一个或更多个图像的所述一个或更多个神经网络通过使用来自上采样的一个或更多个图像的一个或更多个像素与所述一个或更多个图像的所述稀疏选择的像素之间的一个或更多个差异来进行训练，以调整一个或更多个参数值。

12.根据权利要求8所述的系统，其中通过至少使用稀疏输入训练数据和稀疏输出训练数据来训练所述一个或更多个神经网络。

13.根据权利要求8所述的系统，其中所述一个或更多个图像包含一个或更多个密集输入向量。

14.一种方法，包括:

15.根据权利要求14所述的方法，其中所述稀疏选择的像素将被用作地面实况数据。

16.根据权利要求14所述的方法，还包括通过将来自一个或更多个图像中的一个或更多个像素设置为零来生成所述稀疏选择的像素。

17.根据权利要求14所述的方法，其中用于上采样所述一个或更多个图像的所述一个或更多个神经网络通过将来自上采样的一个或更多个图像的一个或更多个像素与所述一个或更多个图像的所述稀疏选择的像素进行比较来进行训练，以在反向传播期间更新所述一个或更多个神经网络。

18.根据权利要求14所述的方法，其中通过至少使用稀疏输入训练数据和稀疏输出训练数据来训练所述一个或更多个神经网络。

19.根据权利要求14所述的方法，其中所述一个或更多个神经网络使用一个或更多个地面实况数据的多个部分来进行训练，所述多个部分少于所述一个或更多个地面实况数据的全部。

20.根据权利要求14所述的方法，还包括使用所述一个或更多个神经网络来至少部分地基于从音频数据中稀疏选择的数据来上采样所述音频数据。

技术总结
本申请涉及用稀疏数据训练神经网络的系统和方法。公开了用于训练神经网络模型的方法、计算机可读介质和系统。所述方法包括步骤：从包括输入向量和稀疏目标向量的一组训练数据中选择输入向量，其中每个稀疏目标向量包括对应于神经网络模型的输出向量内的样本子集的目标数据。所述方法还包括步骤：通过神经网络模型处理输入向量以针对输出向量内的样本产生输出数据，以及调整神经网络模型的参数值以针对样本子集减小输出向量与稀疏目标向量之间的差。

技术研发人员：C·J·蒙克贝里,J·N·T·黑塞尔格伦,J·T·莱赫蒂宁,T·O·艾拉
受保护的技术使用者：辉达公司
技术研发日：
技术公布日：2024/1/12