当前位置: 首页>

有图有话

>正文

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

发布时间:2026-10-27
老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

今日,我们在此为您揭晓一段精彩内容,其视频版本已经制作完毕,并配备了进度条和专业的配音。如果您渴望获取原始视频、图文对比以及模型细节,请随时与我取得联系。

以下是图文呈现的详细内容:

文章篇幅总计:3568字,配图50幅

预估阅读时长:约9分钟

在上一篇文章中,我们向各位鹿友介绍了ControlNet在三维类控制方面的应用。对于那些尚未浏览过的朋友,不妨抽空一阅,相信您会有所收获:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

今日,我们的探讨将聚焦于ControlNet在对象类控制方面的运用,无需赘言,让我们直接切入今天的核心主题。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

01 开篇语

在我们的设计领域中,对象类主要涉及OpenPose(姿态)与Segmentation(语义分割)两大类别,它们在场景对象的操控中发挥着至关重要的作用。

原定于今日要分享的内容,实际上提前两天就能完成发布,但因为在整理Segmentation(语义分割)的颜色对照表上耗费了较多时间,所以有所推迟。

秉持着传授技巧比直接提供成果更为重要的原则,今天我将简略介绍我是如何整理Segmentation的颜色对照表的。

02 OpenPose(姿态)

OpenPose(姿态)无疑是鹿友们最为熟知和频繁使用的功能之一,正如其名,它能够帮助我们精细调整对象的动作和手势。不过,由于我个人较少涉及人物图的创作,所以对于这个功能的使用并不频繁。

伴随着SD(某种设计软件)的不断升级,OpenPose新增了诸多预处理器。截止至2024年5月31日,共推出了9款不同的预处理器:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在绘画过程中,我们可以将ControlNet对象类大致归纳为三个主要类别:首先是openpose系列,这一系列涵盖了从早期版本到最新版本的多种变体,包括但不限于初期的openpose、full、hand、faceonly、face,以及后续新推出的dw openpose full。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在应用dw_pose技术时,我们需先行获取dw-ll_ucoco_384.onnx以及yolox_l.onnx这两个关键预处理模型。随后,将这两款模型妥善放置于ControlNet中openpose预处理器模型的指定文件夹内。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

文章标题:资深鹿友探秘AI绘境:掌握ControlNet之对象姿态操控与色彩语义对照表编撰技巧

(篇章第七节,核心内容,如下呈现改写正文)

此类预处理器独具特色,其运作原理在于捕捉图像中的主体骨骼结构,以此实现对姿态的精准操控。

即便openpose系列包含了五种不同的预处理器,仅凭名称便能够轻松辨识它们各自负责调控的具体领域:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在本次探讨中,我们将对openpose_full与dw_openpose_full这两款预处理器进行详细对比。它们均具备提取人体姿态、手部动作以及面部特征的能力。

观察以下对比图,我们可以明显发现dw_openpose_full在处理手部信息时表现出更高的精确度。与此同时,openpose_full在捕捉手部细节方面则显得略有不足:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在当前这个案例中,由dw_openpose_full生成的图像相比openpose_full来说,其精确度会更高一些。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

文章标题:老鹿探索AI绘画奥秘:掌握ControlNet对象控制与语义颜色对照表编制技巧

(文章第10/53部分,正文部分,以下为改写内容)

在最新推出的ControlNet版本中,成功将openpose-editor插件进行了融合,这使得在预览骨架类openpose的预处理结果时,用户将看到一个便捷的编辑按钮:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

文章标题:老鹿探索AI绘画技巧:深入解析ControlNet对象类控制与语义颜色对照表制作流程

(文章第11/53部分,中间部分,改写如下)

在深入ControlNet对象类控制技巧的过程中,我们有机会手动编辑骨架,或通过调整参数来对骨架进行微调。当你对OpenPose识别得到的骨架结果感到不满足时,不妨利用这一功能,对骨架进行调整与优化。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

接下来,我们将聚焦于densepose类,这一类别下的预处理器主要包括densepose和densepose_parula两种。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在运用此类预处理器之前,您需先将densepose_r50_fpn_dl.torchscript文件下载至ControlNet所对应的densepose预处理器模型存放目录内。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

并且将controlnetFor_v10.safetensors模型下载至ControlNet的模型存储目录内:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

此类预处理器与openpose的核心差异在于,它专注于提取轮廓,从而能够有效处理姿态中的重叠区域。

在densepose与densepose_parula的比较中,densepose会生成带有紫色背景的主体图像,而densepose_parula则呈现黑色背景与蓝色主体的效果。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

两种预处理器对比,我感觉也无法评判好坏:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

以下是针对openpose与densepose两种算法产生的图像进行的对比展示。就我个人观察而言,在这个特定的案例中,dw_openpose_full的表现似乎更为出色:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在众多新增的预处理器中,还有一种名为animal_openpose的类型。其实,它仍旧属于openpose这一类别,其主要功能是提取图像中的骨架图。

然而,值得一提的是,animal_openpose是专为四足动物设计的预处理器,因此我决定将其特别介绍给大家。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

首先,您需要将名为rtmpose-m_simcc-ap10k_pt-aic-coco_210e-256x256-7a041aa1_20230206.onnx的文件下载至ControlNet中相应的openpose预处理器模型文件夹内。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

接着,您需要将control_sd15_animal_openpose_fp16.pth文件下载至您指定的ControlNet模型存储文件夹内。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

下方就是原图,预处理结果以及生成图的对比:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

03 分割(语义分割)

分割技术(Segmentation)能够将图像转换为色块图,这种图像让人联想到我们在三维软件中渲染的对象ID图,但实际上二者之间存在显著差异。

在分割技术处理后的色块图中,色值具有严格的定义,不同的色值代表不同的物体:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

段落一:

在Segmentation模块中,我们能够找到四种预先设定的处理器。特别值得一提的是,anime_face处理器,它是近期新增的,专门用于处理动漫面部特征的处理器。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在使用ControlNet进行对象类控制的过程中,首先必须将UNet.pth预处理器下载至与之相对应的anime face segment预处理器文件夹内。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

以下是anime face segment生成图像的展示。必须承认,我并未实际操作过这款预处理器,就生成效果来看,我对它的具体应用领域也并非十分明确。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

标题:老鹿探秘AI绘画:ControlNet对象类控制与语义色彩对照表编制技巧

(文章第26/53部分,中间内容,以下为改写正文)

在后续的三个预处理器中,我们遇到了ofade20k、ufade20k以及ofcoco。这里的of与uf分别指代oneformer和uniformer这两种算法,而ade20k和coco则是代表两种不同的数据集。

从名称上不难推断,ade20k数据集是通过of和uf算法进行训练,形成了两种预处理模型;而coco数据集则仅使用了of算法进行训练。

通过对比图示,我们可以明显看出,由于训练集的差异,语义分割的颜色值存在较大的差异:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

两种训练集的颜色对照表文后我也会分享给大家:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作
老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

依据官方资料所述,ControlNet1.1版本中引入了coco这一新功能。而在ade20k的支持下,可以处理多达150种不同的颜色。相较之下,coco能够识别的颜色种类更为丰富,具体来说,它能够识别182种不同的颜色。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在整理我自己的coco语义分割颜色对照表的过程中,我发现仅找到了133个对象。同样地,当我使用OneFormer的在线版本进行查看时,也发现coco的对象数量同样是133个。我不禁怀疑,这或许是官方文档中的错误。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

此外,这里有一个有趣的细节值得大家关注。众所周知,在进行手动上传基于颜色对照表绘制的色块图操作时,我们需要选择预处理器中的“无”选项。

据此,我推断ControlNet模型具备同时辨识coco和ade20k两个数据集色彩的能力。换句话说,在自行绘制色块的过程中,我们能够灵活地结合两个对照表中的色彩来进行创作。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在浏览ControlNet的预处理结果预览界面时,您会发现每个预览框中都配备了一个专用的photopea编辑图标:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

需要科学上网,点击后会打开一个类似在线版的PS:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在众多预处理器中,虽然这一功能并非独一无二,然而在Segmentation这一模块中,我个人认为其应用价值尤为显著。假设您希望在某个场景中融入一个人物角色,此时,您只需直接将一张人物肖像拖拽至场景中即可。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

抠出来:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

填充成色块:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

再导出png:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

加载到ControlNet里点击生成,这里就多了一个人物:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

接下来,我们将对三种预处理器生成的效果图进行详细对比。根据我的个人见解,选择合适的预处理器应当基于实际的使用需求来决定。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

04 颜色对照表的编制技巧

接下来,我想详细分享我是如何精心编制颜色对照表的。必须说明的是,我并非编程高手,因此在制作过程中,我采用了不少便捷的策略。

针对ade20k这一款颜色对照表,我发现在网络上已有现成的版本。我仅是对其进行了梳理与语言的转换工作。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

标题:探索AI绘画奥秘:ControlNet对象分类控制与语义色彩对照表编制技巧

(文章第41/53节,正文部分,以下为改写内容)

在互联网上搜寻,未能发现现成的coco颜色对照表,于是投入了一些精力去制作。首先,了解到coco的训练集是公开的,可以轻松从官方网站下载2017年的数据集:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

解压后会得到一个JSON文件,用记事本打开它:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在ChatGPT的指导下,我了解到,我们可以通过查看categories字段来获取训练集中所有的类别信息。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

于是,我搜索并复制这个字段后的所有内容:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

把它们在新的文本文档中简单整理大概成这样:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在接下来的步骤中,我们将信息复制至Excel表格中进行初步整理,形成一份表格。此时,我们已经拥有了对象的名称。不过,我在官方资料中并未发现与颜色相对应的信息。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

因此,我采取的策略是借助现有的预处理器模型来逆向推导颜色信息。首先,我将这些对象的名称通过SD(Stable Diffusion)软件的“从文本框或文件载入提示词”功能进行批量处理,生成相应的图片:

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

通过coco预处理模型,将这些图像转化为色块图案。在此过程中,我选用了ComfyUI工具进行高效批量处理,并将处理后的预览结果图进行保存。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在进行下一步操作时,我们将这些色彩丰富的色块图案统一导入至Photoshop软件中。接着,依据表格上所标注的名称,逐一从图片中提取出相应的色块所对应的HEX色码,并将这些色码准确地复制粘贴到表格的相应位置。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

这个过程或许有些繁琐,原因在于我们得先利用SD进行大批量的图像生成。在此过程中,有些生成的图像并不理想,这会导致色块图难以清晰辨认。

以我生成火车图像为例,生成的图像往往是火车内部的景象,这样的图像并不利于语义分割。在这种情况下,可能需要我们单独生成图像,并对图像进行逐一调整。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

完成所有图片的HEX颜色代码提取后,紧接着将它们批量粘贴至ChatGPT,请求其协助我将这些颜色代码转换为RGB格式。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

在完成所有步骤之后,将所获取的RGB数值逐一填写至表格之内。紧接着,按照ChatGPT所提供的指导,将表格中的RGB数值转换成相应的填充色。

老鹿AI绘画技巧:ControlNet控制与语义颜色对照表制作

以下便是我制作coco训练集颜色对照表的整个过程。不过,在这里不得不提到,我遗漏了验证这一关键步骤,对于133个对象的逐一验证确实是一项耗时的工作。在大家实际操作的过程中,如果遇到了任何难题,都欢迎随时与我分享。

若这份教程对您有所启发,不妨给我一个点赞、分享或收藏,您的每一个小小举动都是对我莫大的支持。在此,衷心感谢!

关注
客服 工单