本发明涉及三维模型标注,尤其涉及三维模型标注方法、装置、设备及存储介质。
背景技术:
1、随着人工智能的兴起和发展,采用机器学习方法对三维图像或三维模型进行图像处理被广泛应用于多个领域之中,如游戏、影视、三维动画等相关领域。通过模型对三维图像进行标注或特征提取,实现对图像进行分类识别。
2、目前采用模型对图像分类的方法分为两种,第一种方法基于三维数据的直接标注和分类方法:在这种技术中,三维模型的原始数据,如点云或体素,直接被用于标注和分类。这种方法的优点是能够保留和利用模型的所有三维空间信息。首先,通过数据预处理步骤,将原始三维模型转换为适合机器学习处理的格式。接着,特征提取步骤会用深度学习模型,如pointnet或者voxnet,从预处理后的数据中提取有用的特征。然后,这些特征被送入分类器进行标注和分类。最后,通过大量的已标注数据来训练和优化分类器。
3、第二种方法是基于二维图像的标注和分类方法:在这种方法中,三维模型首先被渲染成二维图像集。然后,这些图像被用于标注和分类。首先,通过三维渲染技术,将三维模型转化为一系列二维图像,每个图像从一个特定的角度和距离展示模型。然后,通过使用传统的二维图像处理和深度学习技术,例如卷积神经网络(cnn),对这些图像进行处理和特征提取。接着,这些特征被送入分类器进行标注和分类。最后,通过大量的已标注图像来训练和优化分类器。
4、以上两种方法都需要有大量的已标注的数据进行大量训练,且训练成本较高,实际操作中难以实现。同时方法在对不同图像类别的识别时均需要再次训练模型,适应性较差。
技术实现思路
1、有鉴于此,本发明实施例提供了三维模型标注方法、装置、设备及存储介质,用以解决现有三维模型标注技术训练成本较高,且适应性较差的问题。
2、本发明采用的技术方案是:
3、第一方面,本发明提供了一种三维模型标注方法,包括:
4、将三维模型导入预设的三维渲染引擎,通过预设视角对三维模型进行渲染,获得二维图集;
5、对所述二维图集进行语义分割,获得分割图像集;
6、利用多个多模态大语言模型对所述分割图像集进行图像识别,获得多个图集内容;
7、对多个图集内容进行交集运算,并将交集运算的结果标注到所述三维模型的模型文件中。
8、进一步地,所述利用多个多模态大语言模型对所述分割图像集进行图像识别,获得多个图集内容,包括:
9、预先分级构建标签库,形成多个层级标签,每个标签包含多个父类标签或多个子类标签;
10、多个多模态大语言模型分别利用所述标签库的所有顶层标签,对所述分割图像集进行第一轮标签标注,并将已标注的标签添加到已标注标签列表;
11、根据第一轮标签标注的结果检索所有子类标签进行下一轮标注,直至所有子类标签完成标注,若子类标签在已标注标签列表中则不再进行标注;
12、将每个多模态大语言模型的所有标签标注结果作为对应的图集内容。
13、进一步地,所述多个多模态大语言模型分别利用所述标签库的所有顶层标签,对所述分割图像集进行第一轮标签标注,包括:
14、通过多个多模态大语言模型分别对所述分割图像集中的三维模型与所述标签库中的顶层标签的相似度进行判断,获得三维模型的标签相似度;
15、基于预设的模糊度量值范围,根据三维模型的标签相似度确定所述三维模型的置信度,为所述三维模型标注出具有置信度的顶层标签。
16、第二方面,本发明提供一种三维模型标注装置,包括:
17、视图渲染模块,用于将三维模型导入预设的三维渲染引擎,通过预设视角对三维模型进行渲染,获得二维图集;
18、图像语义分割模块,用于对所述二维图集进行语义分割,获得分割图像集;
19、图像识别模块,用于利用多个多模态大语言模型对所述分割图像集进行图像识别,获得多个图集内容;
20、信息标注模块,用于对多个图集内容进行交集运算,并将交集运算的结果标注到所述三维模型的模型文件中。
21、第三方面,本发明提供一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时实现第一方面所述的三维模型标注方法的步骤。
22、第四方面,一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的三维模型标注方法的步骤。
23、综上所述,本发明的有益效果如下:
24、本发明提供的一种三维模型标注方法,通过利用预设的三维渲染引擎来对三维模型进行渲染,得到对应二维图集,能够较低图像背景和其他光影效果对后续三维模型的图像识别干扰,提高模型的识别准确率。同时,利用多模态大语言模型来对语义分割后的二维图像进行图像识别处理,极大程度的拓展了识别内容,能够快速得到标注结果,且避免了预先训练的过程,从而降低模型标注的训练成本。此外,多模态大语言模型能够对不同图像类别的输入图像进行内容识别,无需再次对模型进行识别训练,提高了三维模型标注技术的适应性。
1.一种三维模型标注方法,其特征在于,包括:
2.根据权利要求1所述的三维模型标注方法,其特征在于,所述利用多个多模态大语言模型对所述分割图像集进行图像识别,获得多个图集内容,包括:
3.根据权利要求2所述的三维模型标注方法,其特征在于,所述多个多模态大语言模型分别利用所述标签库的所有顶层标签,对所述分割图像集进行第一轮标签标注,包括:
4.一种三维模型标注装置,其特征在于,包括:
5.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至3任一项所述三维模型标注方法的步骤。
6.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至3任一项所述三维模型标注方法的步骤。