基于扩散模型的人物发型转换方法、系统、设备及存储介质与流程

文档序号:38027262发布日期:2024-05-17 13:03阅读:12来源:国知局
本发明涉及图像处理,尤其涉及一种基于扩散模型的人物发型转换方法、系统、设备及存储介质。
背景技术
::1、aigc领域中,扩散模型(stable diffusion)作为新一代生成式工具在文本转图像和图生图等诸多应用场景都有不错的表现。特别是近期stable diffusion在速度和质量上的突破,使其的商用落地成为可能。2、以往的发型转换任务通常是使用生成对抗网络(gan)相关的模型算法完成,这种方法需要对每种目标发型都进行数据集的收集,对数据集预处理之后然后进行模型的训练,另外这样得到的每个模型只能生成一种的发型,泛用性比较差,并且在进行人物发型转换时会对人像进行人脸检测,然后裁剪得到对齐人脸,将对齐的人脸图像送入网络进行发型转换,因此对于背景细节保存效果很差,生成图像与用户上传图像可能会比较大的区别。3、因此,现有技术还有待于改进和发展。技术实现思路1、本发明提供了一种基于扩散模型的人物发型转换方法、系统、设备及存储介质,本发明的主要目的在于解决现有技术所存在
背景技术
:中所提到的技术问题。2、本发明第一方面提供了一种基于扩散模型的人物发型转换方法,包括:3、按照发型复杂程度将图像人物发型类型分为常规发型和特殊发型;4、对于常规发型转换,利用扩散模型的基础大模型训练得到常规发型转换模型;5、对于特殊发型转换,利用扩散模型的微调小模型训练得到特殊发型转换模型;6、获取待转换发型图片并确定需要转换的目标发型类型和发型效果;7、若所述目标发型类型为所述常规发型,则通过所述常规发型转换模型对所述待转换发型图片进行处理,获得第一目标发型图片;8、若所述目标发型类型为所述特殊发型,则通过所述特殊发型转换模型对所述待转换发型图片进行处理,获得第二目标发型图片。9、在本发明第一方面一种可选的实施方式中,所述对于常规发型转换,利用扩散模型的基础大模型训练得到常规发型转换模型包括:10、对于常规发型转换,选择合适的扩散模型的基础大模型;11、收集第一数量级的常规发型图片集和第一训练图片集;12、基于所述常规发型训练图片集提取得到常规发型掩膜图片集;13、将所述第一训练图片集和所述常规发型掩膜图片集输入所述基础大模型进行训练,获得所述基础大模型对于每一种所述常规发型的第一转换结果图片集;14、对所述第一转换结果图片集进行发型融合效果判断;15、若所述第一转换结果图片集的所述发型融合效果未符合第一预期条件,则调整所述基础大模型中的第一发型文本-图像对比损失函数和第二发型文本-图像匹配损失函数,并重新输入所述第一训练图片集和所述常规发型掩膜图片集对所述基础大模型进行迭代训练,直至所述基础大模型输出的所述第一转换结果图片集满足所述第一预期条件,获得基于所述基础大模型得到的常规发型转换模型。16、在本发明第一方面一种可选的实施方式中,所述对于特殊发型转换,利用扩散模型的微调小模型训练得到特殊发型转换模型包括:17、对于特殊发型转换,利用扩散模型提供的lora小模型;18、收集第二数量级的特殊发型图片集和第二训练图片集;19、基于所述特殊规发型训练图片集提取得到特殊发型掩膜图片集;20、将所述第二训练图片集和所述特殊发型掩膜图片集输入所述lora小模型进行训练,获得所述lora小模型对于每一种所述特殊发型的第二转换结果图片集;21、对所述第二转换结果图片集进行发型融合效果判断;22、若所述第二转换结果图片集的所述发型融合效果未符合第二预期条件,则调整所述lora小模型中的第二发型文本-图像对比损失函数和第二发型文本-图像匹配损失函数,并重新输入所述第二训练图片集和所述特殊发型掩膜图片集对所述lora小模型进行迭代训练,直至所述lora小模型输出的所述第二转换结果图片集满足所述第二预期条件,获得基于所述lora小模型得到的特殊发型转换模型。23、在本发明第一方面一种可选的实施方式中,所述若所述目标发型类型为所述常规发型,则通过所述常规发型转换模型对所述待转换发型图片进行处理,获得第一目标发型图片包括:24、基于所述目标发型类型的文本文字获取得到所述目标发型类型的目标发型遮罩;25、对所述待转换发型图片进行语义分割处理,获得所述待转换发型图片中的已有发型遮罩;26、将所述目标发型遮罩和所述已有发型遮罩进行比较,判断所述目标发型遮罩是否需特殊处理,所述特殊处理包括发型轮廓膨胀扩张或比例缩小;27、若所述目标发型遮罩需要所述特殊处理,则对所述目标发型遮罩进行特殊处理之后作为所述待转换发型图片的重绘限定区域,对所述待转换发型图片进行发型重绘,获得第一目标发型图片。28、在本发明第一方面一种可选的实施方式中,所述若所述目标发型遮罩需要所述特殊处理,则对所述目标发型遮罩进行特殊处理之后作为所述待转换发型图片的重绘限定区域,对所述待转换发型图片进行发型重绘,获得第一目标发型图片包括:29、若所述目标发型遮罩需要所述特殊处理,则对所述目标发型遮罩进行特殊处理之后作为所述待转换发型图片的重绘限定区域;30、获取所述发型效果的文本文字,以所述发型效果的文本文字作为引导条件加载所述重绘限定区域的发型元素和元素效果;31、将所述发型元素融合至所述重绘限定区域并调整为所述元素效果,获得第一目标发型图片。32、在本发明第一方面一种可选的实施方式中,所述对所述待转换发型图片进行语义分割处理,获得所述待转换发型图片中的已有发型遮罩包括:33、对所述待转换发型图片进行语义分割处理,识别出所述待转换发型图片中的发型区域和非发型区域;34、对所述发型区域和所述非发型区域进行二值化处理,获得所述待转换发型图片中的已有发型遮罩。35、在本发明第一方面一种可选的实施方式中,所述常规发型包括寸头短发和中分短发;所述特殊发型包括丸子头和包子头。36、本发明第二方面提供了一种基于扩散模型的人物发型转换系统,所述基于扩散模型的人物发型转换系统包括:37、发型分类模块,用于按照发型复杂程度将图像人物发型类型分为常规发型和特殊发型;38、常规发型转换模型构建模块,用于对于常规发型转换,利用扩散模型的基础大模型训练得到常规发型转换模型;39、特殊发型转换模型构建模块,用于对于特殊发型转换,利用扩散模型的微调小模型训练得到特殊发型转换模型;40、输入获取模块,用于获取待转换发型图片并确定需要转换的目标发型类型和发型效果;41、常规发型图片转换模块,用于若所述目标发型类型为所述常规发型,则通过所述常规发型转换模型对所述待转换发型图片进行处理,获得第一目标发型图片;42、特殊发型图片转换模块,用于若所述目标发型类型为所述特殊发型,则通过所述特殊发型转换模型对所述待转换发型图片进行处理,获得第二目标发型图片。43、本发明第三方面提供了一种基于扩散模型的人物发型转换设备,所述基于扩散模型的人物发型转换设备包括:存储器和至少一个处理器,所述存储器中存储有指令,所述存储器和所述至少一个处理器通过线路互连;44、所述至少一个处理器调用所述存储器中的所述指令,以使得所述基于扩散模型的人物发型转换设备执行如上述任一项所述的基于扩散模型的人物发型转换方法。45、本发明第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述任一项所述的基于扩散模型的人物发型转换方法。46、有益效果:本发明提供了一种基于扩散模型的人物发型转换方法、系统、设备及存储介质,方法包括按照发型复杂程度将图像人物发型类型分为常规发型和特殊发型;对于常规发型转换,利用扩散模型的基础大模型训练得到常规发型转换模型;对于特殊发型转换,利用扩散模型的微调小模型训练得到特殊发型转换模型;获取待转换发型图片并确定需要转换的目标发型类型和发型效果;若目标发型类型为所述常规发型,则通过常规发型转换模型对待转换发型图片进行处理,获得第一目标发型图片;若目标发型类型为特殊发型,则通过特殊发型转换模型对待转换发型图片进行处理,获得第二目标发型图片。本发明解决了现有人物发型转换方法发型转换单一、效果差的技术问题。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1