素的值， 皆ι(/，Λ-〇·)表示第四矩阵R?针对所述N个方面当中的第k个方面的第i个特征在点（X，y) 处的矩阵元素的值，W及
[02(Π ] 当第Η矩阵Μ?针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 Mf〇'，.Y，_y)为1时，保留第k个方面的第i个特征在点（x，y)处的元素。
[0202] 方案16、如方案13或14所述的方法，还包括：
[0203] W提供兀余的方式，基于第Η矩阵r?来在所述至少两个不同方面的特征的对应 元素位置保留来自其中一个W上方面的特征的元素，W得到第二过滤特征，作为要供所述 选择的步骤中选择的特征，
[0204] 其中，
[0205] 通过每个元素为第二随机分布中的随机采样的第四矩阵r ?将第Η矩阵r ?定 义为：
[0206]
[020引其中，t表示预先定义的重合度并且为0到1之间的实数，Mf 0'，x，y)表示第S 矩阵r ?针对所述N个方面当中的第k个方面的第i个特征在点（x，y)处的矩阵元素的 值，(/，.、.-，.r)表示第四矩阵r ?针对所述N个方面当中的第k个方面的第i个特征在点 (X，y)处的矩阵元素的值，E (i，X，y)表示第四矩阵r ?针对所述N个方面当中的各个方面 的第i个特征在点（X，y)处的矩阵元素的平均值，W及
[0209] 当第Η矩阵r ?针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 Mf 〇>，_y)为1时，保留第k个方面的第i个特征在点（x，y)处的元素。
[0210] 方案17、如上述方案11至16之一所述的方法，其中，所述输入数据是图像数据。
[0211] 最后，还需要说明的是，在本公开中，诸如第一和第二等之类的关系术语仅仅用来 将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示送些实体或操 作之间存在任何送种实际的关系或者顺序。而且，术语"包括"、"包含"或者其任何其他变 体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包 括郝些要素，而且还包括没有明确列出的其他要素，或者是还包括为送种过程、方法、物品 或者设备所固有的要素。在没有更多限制的情况下，由语句"包括一个……"限定的要素， 并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0212] 尽管上面已经通过本公开的具体实施例的描述对本公开进行了披露，但是，应该 理解，本领域技术人员可在所附权利要求的精神和范围内设计对本公开的各种修改、改进 或者等同物。送些修改、改进或者等同物也应当被认为包括在本公开所要求保护的范围内。
【主权项】
1. 一种用于对卷积神经网络模型进行训练的装置，包括： 特征获取及竞争单元，包括： 获取子单元，被配置成针对所述卷积神经网络模型的至少一个卷积层、获取训练样本 数据的至少两个不同方面的特征，以及 竞争子单元，被配置成基于所述获取子单元获取的至少两个不同方面的特征的对应元 素，选择每个元素位置处的最优元素，以得到竞争结果特征；以及 模型训练单元，被配置成在训练卷积神经网络模型的过程中，针对所述至少一个卷积 层，应用所述竞争结果特征来执行训练。2. 如权利要求1所述的装置，其中， 所述模型训练单元包括第一过滤子单元，所述第一过滤子单元被配置成以机会均等的 方式、在所述获取子单元获取的至少两个不同方面的特征的对应元素位置保留来自其中一 个方面的特征的元素，以得到第一过滤特征，作为要提供给所述竞争子单元以供选择的特 征。3. 如权利要求2所述的装置，还包括： 所述模型训练单元还包括第二过滤子单元，所述第二过滤子单元被配置成以提供冗余 的方式、在所述获取子单元获取的至少两个不同方面的特征的对应元素位置保留来自其中 一个以上方面的特征的元素，以得到第二过滤特征，作为要提供给所述竞争子单元以供选 择的特征。4. 如权利要求2所述的装置，其中， 所述至少两个不同方面的特征是N个方面的特征，并且每个方面的特征的数量为S，每 个特征为mXn的矩阵，其中，N、S、m、n为自然数，并且N大于1，以及 所述第一过滤子单元被配置成基于第一矩阵M(1)来得到所述第一过滤特征， 其中： 利用每个元素为[〇, 1]的均匀分布中的随机采样的第二矩阵R(1)将第一矩阵M(1)定义 为：其中，k为1到N的自然数，i为1到S的自然数，X为1到m的自然数，y为1到η的 自然数，表示第一矩阵Μ(1)针对所述Ν个方面当中的第k个方面的第i个特征 在点（x，y)处的矩阵元素的值，R(1)(i，x，y)表示第二矩阵R(1)针对所述N个方面当中的每 个方面的第i个特征在点（X，y)处的矩阵元素的值，以及 当第一矩阵M(1)针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 为1时，所述第一过滤子单元保留第k个方面中的第i个特征在点（x，y)处的元素。5. 如权利要求2所述的装置，其中， 所述至少两个不同方面的特征是N个方面的特征，并且每个方面的特征的数量为S，每 个特征为mXn的矩阵，其中，N、S、m、n为自然数，并且N大于1，以及 所述第一过滤子单元被配置成基于第一矩阵M'（1)来得到所述第一过滤特征， 其中： 利用每个元素为第一随机分布中的随机采样的第二矩阵R'（1)将第一矩阵Μ'（1)定义 为：其中，k、ρ为1到Ν的自然数，i为1到S的自然数，X为1到m的自然数，y为1到η 的自然数，if 表示第一矩阵Μ'（1)针对所述Ν个方面当中的第k个方面的第i个 特征在点（x，y)处的矩阵元素的值，表示第二矩阵R'(1)针对所述N个方面当中 的第P个方面的第i个特征在点（X，y)处的矩阵元素的值，以及 当第一矩阵M'（1)针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 Mf 为1时，所述第一过滤子单元保留第k个方面中的第i个特征在点（X，y)处的 元素。6. 如权利要求4或5所述的装置，其中， 所述特征获取单元还包括第二过滤子单元，所述第二过滤子单元被配置成以提供冗余 的方式、在所述至少两个不同方面的特征的对应元素位置保留来自其中一个以上方面的特 征的元素，以得到第二过滤特征，作为要提供给所述竞争子单元的特征，以及 所述第二过滤子单元被配置成基于第三矩阵M(2)来得到所述第二过滤特征， 其中， 通过每个元素为[0, 1]的均匀分布中的随机采样的第四矩阵R(2)将第三矩阵M(2)定义 为：其中，t表示预先定义的重合度并且为0到1之间的实数，表示第三矩阵 M(2)针对所述N个方面当中的第k个方面的第i个特征在点（x，y)处的矩阵元素的值， i?f Α,χ,Μ表示第四矩阵R(2)针对所述N个方面当中的第k个方面的第i个特征在点（X，y) 处的矩阵元素的值，以及 当第三矩阵M(2)针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 为1时，所述第二过滤子单元保留第k个方面的第i个特征在点（X，y)处的元素。7. 如权利要求4或5所述的装置，其中， 所述特征获取单元还包括第二过滤子单元，所述第二过滤子单元被配置成以提供冗余 的方式、在所述至少两个不同方面的特征的对应元素位置保留来自其中一个以上方面的特 征的元素，以得到第二过滤特征，作为要提供给所述竞争子单元的特征，以及 所述第二过滤子单元被配置成基于第三矩阵M'（2)来得到所述第二过滤特征， 其中， 通过每个元素为第二随机分布中的随机采样的第四矩阵R'（2)将第三矩阵M'（2)定义 为：其中，t表示预先定义的重合度并且为0到1之间的实数，M'i2)(/,λ',)〇表示第三矩阵 M'（2)针对所述N个方面当中的第k个方面的第i个特征在点（x，y)处的矩阵元素的值， (/,.ν,.ν)表示第四矩阵R'（2)针对所述N个方面当中的第k个方面的第i个特征在点 (X，y)处的矩阵元素的值，E (i，X，y)表示第四矩阵R'(2)针对所述N个方面当中的各个方面 的第i个特征在点（X，y)处的矩阵元素的平均值，以及 当第三矩阵M'（2)针对第k个方面的第i个特征在点（x，y)处的矩阵元素的值 为1时，所述第二过滤子单元保留第k个方面的第i个特征在点（X，y)处的元 素。8. 如上述权利要求1至7之一所述的装置，其中，所述训练样本数据是图像数据。9. 一种通过如权利要求1至8中任一项所述的装置训练得到的卷积神经网络模型来对 输入数据进行检测的装置，包括： 特征获取及竞争单元，包括： 获取子单元，被配置成提取所述输入数据的至少两个不同方面的特征，以及 竞争子单元，被配置成基于该获取子单元获取的至少两个不同方面的特征的对应元 素，选择每个元素位置处的最优元素，以得到竞争结果特征；以及 检测单元，被配置成利用所述卷积神经网络模型、基于该竞争结果特征来进行检测， 其中，所提取的所述输入数据的至少两个不同方面的特征与在训练所述卷积神经网络 模型时由所述进行训练的装置中的获取子单元获取的训练样本数据的至少两个不同方面 的特征是对应的。10. -种对卷积神经网络模型进行训练的方法，包括： 针对所述卷积神经网络模型的至少一个卷积层，获取训练样本数据的至少两个不同方 面的特征； 基于所获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元 素，以得到竞争结果特征；以及 在训练卷积神经网络模型的过程中，针对所述至少一个卷积层，应用所述竞争结果特 征来进行训练。
【专利摘要】本公开提供了训练装置、训练方法以及检测装置。一种用于对卷积神经网络模型进行训练的装置包括特征获取及竞争单元以及模型训练单元。特征获取及竞争单元包括：获取子单元，被配置成针对所述卷积神经网络模型的至少一个卷积层、获取训练样本数据的至少两个不同方面的特征；以及竞争子单元，被配置成基于所述获取子单元获取的至少两个不同方面的特征的对应元素，选择每个元素位置处的最优元素，以得到竞争结果特征。模型训练单元被配置成在训练卷积神经网络模型的过程中，针对所述至少一个卷积层，应用所述竞争结果特征来执行训练。
【IPC分类】G06N3/08
【公开号】CN105447566
【申请号】CN201410239699
【发明人】陈理, 吴春鹏, 范伟, 孙俊, 直井聪
【申请人】富士通株式会社
【公开日】2016年3月30日
【申请日】2014年5月30日