
一、言川絮语
各位朋友,我是言川。在这篇文章中,我们迎来了2024年的首个篇章,同时也是农历2023年的收尾之作。随着这篇文章的完成,春节的脚步也近在咫尺,仅剩最后一周。在此,我无法一一向那些一直支持我的朋友们表达我的祝福。因此,在文章的开篇,我想先送上我的诚挚祝福:
愿大家在新的一年里,事业蒸蒸日上,成就非凡,未来充满光明。在追求事业的同时,也愿大家身体健康、快乐无忧、幸福满满。
2024年是龙年,愿大家如同龙腾凤舞,事业如同巨龙般腾飞;愿大家得到金龙的祝福,好运不断,事事顺心;愿大家龙年吉祥,幸福安康。
在此,提前祝愿大家新年快乐,准备好迎接春节的团圆,共享饺子佳肴。

二、生成式AI的发展历程
让我们正式展开本文的主题。生成式AI在我国市场的火爆期始于2023年2月底,这一时期正值ChatGPT引领风潮,众多AI生成式工具逐渐进入我们的视野。特别是在图像生成领域,Midjourney、StableDiffusion和Dall-E3等工具尤为知名。
尽管Midjourney V4版本的模型在图像生成质量上已经达到了令人惊叹的水平,但它们并未引起大多数设计师的广泛关注。原因在于,对于设计师而言,能够商业化的工作流程才是最为关键的。

至2023年三月下旬,StableDiffusion的相关教程如同春雨后破土而出的笋尖,层出不穷。相信大家都有所耳闻,这些教程涵盖了二次元线稿上色、模特换装、二维图像转三维等多个领域。与Midjourney给设计师带来的震撼相比,StableDiffusion的这些功能无疑给设计界带来了更为强烈的冲击,无论是熟悉AI还是对AI一知半解的设计师,都为之兴奋不已,我自然也不例外。随后,我也迅速投入到StableDiffusion的学习和研究中。
这一切的背后,都离不开一个名为Controlnet的插件。它能够对图像进行精确的控制,相较于Midjourney,Controlnet似乎更符合大多数设计场景的需求。

近期,我们团队也在致力于打造一款针对设计师的AI商业课程。在StableDiffusion的设计领域,ControlNet插件几乎成为了每个商业项目不可或缺的得力助手。因此,我打算撰写一篇关于ControlNet的详细教程,旨在全面解析这一模型。教程中将对众多常用的ControlNet模型进行深入剖析。对于那些对ControlNet的操作和使用尚不熟悉的读者,我推荐您查阅我于2023年5月份发表的一篇文章。
三、ControlNet模型深度解析
1、电脑配置指南
在正式展开ControlNet的讲解之前,我为大家精心准备了三套不同的电脑配置方案。
此前,许多朋友向我咨询如何组装一台适合运行StableDiffusion的电脑。因此,在本篇文章中,我将直接公开这些建议配置,供大家参考。

原文片段改写:
1. 实际上,要确保StableDiffsion在生成图像时稳定运行,关键因素在于显卡的显存配置。当使用controlnet时,显存的需求也会相应增加,因此显存容量成为了至关重要的因素。而其他硬件配置则需根据显卡的性能来合理搭配,以确保显卡能够充分发挥其潜能,同时其他配件也需要与之相匹配。
2. 官方发布的controlnet模型主要包括ControlNet 1.1版本和ControlNet XL版本。
① ControlNet 1.1版本适用于在SD1.5、2.1版本上训练的大型模型。而ControlNet XL版本则是针对基于SD XL版本训练的大型模型设计的。
② 虽然这两个版本在具体应用上存在差异,但它们的使用方法和基本原理是相同的。因此,本文将重点介绍ControlNet 1.1版本,对于ControlNet XL版本,读者可以参照预处理器和模型的相关信息进行了解。
倘若目前尚未拥有ControlNet 1.1模型或ControlNet XL模型,我们社区中已经为大家提供了免费资源,欢迎联系我获取相关信息。

文章标题:深度剖析丨ControlNet模型的工作原理及其实际应用(案例详解)
(文章第7/64章节,正文部分,如下改写)
目前,ControlNet 1.1版本的官方已发布共计14个模型,其中涵盖了11个完整的模型以及3个测试模型。接下来,我将逐一详尽地阐述这些模型的功能与用途。
以下所有展示的模型案例,均采用以下固定参数设置:
1、在负面关键词的选择上,可以采用大家普遍使用的模板进行设置;
2、迭代步数设定为30步,采样方法采用DPM++ 2M Karras;
3、图像尺寸保持与上传的controlnet图一致。
2.1 ControlNet 1.1 Depth
⦿ 生成Stable Diffusion的深度图
⦿ 模型文件名称:control_v11f1p_sd15_depth.pth
详细介绍:此模型用于生成一张立体感十足的深度图,其中白色区域亮度越高表示该部分越接近观者,而灰色区域亮度越低则表示该部分距离观者越远。该图能够记录原图的空间信息,并可用于增强生成图像的立体效果,具体效果如下所示。

⭐实操案例分析:
在本案例中,我们运用了名为AWPainting_v1.2.safetensors的大模型进行创作实践。
在设定正向关键词时,我们选择了以下描述:(1)描绘一位非洲黑人女孩的上半身肖像,她正快乐地笑着;(2)背景为纯蓝色;(3)画面中出现一个精致的轮廓,仿佛幽灵般的存在,拥有半透明的翅膀和一件似霜般披风的长袍。她的装束融合了天真无邪与超凡脱俗,似乎是一位来自冬日王国的精灵或仙女,散发着宁静的气质。
特别提醒:在上次的分析中,输出内容仅涵盖了约191字,而原文中则有约329字,信息量有所缺失。以下是详细且完整的案例分析。

文章标题:深入剖析丨ControlNet模型运作机制及其应用领域详解(案例解读)
(文章第9/64章节,核心内容,以下为改写内容)
上传原始图像,并启用Depth midas预处理器,切换至depth模式,同时保留controlnet的预设参数,便能够根据深度图生成一张与原始图像中人物姿态相仿的新图。人物的精细特征以及图像的整体风格则可通过大型模型和关键词进行精准调控。

2.2 ControlNet 1.1 正常模式
⦿ 利用法线图来调控Stable Diffusion
⦿ 模型文件名称:control_v11p_sd15_normalbae.pth
解读:与深度图相似,经过预处理后的图像在三维空间中被称为法线贴图。法线贴图通过记录凹凸的法线信息来保存空间数据,这种模式特别适合那些细节丰富的图像。

⭐实操案例展示:
在本次的实操案例中,我们选取了大模型AWPainting_v1.2.safetensors作为研究对象。
在正向关键词的设置上,我们精心挑选了一系列词汇来指导模型的生成。这些关键词包括:
- 风景(scenery)
- 椅子(chair)
- 海洋(ocean)权重设置为1.3
- 桌子(table)
- 灯具(lamp)
- 室内(indoors)
- 天空(sky)
- 植物(plant)
- 水(water)
- 地平线(horizon)
- 窗户(window)
- 门(door)
- 花盆(flower pot)
- 盆栽植物(potted plant)
- 木地板(wooden floor)
- 书籍(book)
- 架子(shelf)
- HDR,UHD,8K分辨率
- 优质(best quality)
- 高分辨率(highres)
- 极高分辨率(absurdres)
- 杰作(masterpiece)
- 高度详细(Highly detailed)

标题:深入探讨:ControlNet模型的运作机制及其应用领域详解(案例分析)
正文:
将实际的室内设计图景上传至平台,借助Normal模型,我们能够提取出图像中的空间布局以及物体属性。紧接着,运用二次元风格的大规模模型,便能够实现对图片风格的二次元化转换。这一过程中,Normal模型的控制能力表现得相当精准与精确。

2.3 探秘ControlNet 1.1版本中的Canny算法
⦿ 利用Canny算法来操控Stable Diffusion
⦿ 模型档案:control_v11p_sd15_canny.pth
解析:此算法能够从图片中精准提取出物体的边缘轮廓,随后AI将依据这些轮廓信息,重新构建一张细节丰富、与原始图像高度相似的全新图像。

⭐实操案例分析:
在本次实操案例中,我们使用了一个大型的模型:disneyPixarCartoon_v10.safetensors。
在正向关键词方面,我们选择了以下元素:
鹿、户外、树木、模糊、草地、动物、自然、模糊背景、鹿角、白天、动物聚焦、单独、角、HDR、UHD、8K、最佳质量、高分辨率、超分辨率、杰作、高度详细。

标题:深入剖析丨ControlNet模型运作机制及其应用领域(附案例分析)
(文章第15/64节,正文部分,以下为改写内容)
原文改写:
借助Canny预处理工具与模型技术,我们能够精细调控鹿的轮廓线条及其身体上的细节部分。紧接着,通过结合大模型与关键词的双重作用,便能够创造出与上传图片高度相似的鹿的形象。此外,我们还能够对背景元素进行精准控制,这一模型在我们的图像生成过程中被广泛应用,是其中一款非常实用的工具。

2.4 探究ControlNet 1.1版本的MLSD功能
⦿ 运用M-LSD技术来指导Stable Diffusion
⦿ 模型档案:control_v11p_sd15_mlsd.pth
解析:本模型擅长于从图片中提取物体的直线元素,对于曲线则不予提取。这一特性使其特别适用于室内设计以及建筑设计领域,尤其是那些以直线结构为主的图形设计。

⭐实战案例展示:
在本次实操中,我们选取了majicMIX realistic 麦橘写实_v7.safetensors这一大模型进行操作。
在正向关键词的选择上,我们精心挑选了一系列元素,包括:
沙发、风景、台灯、桌子、书籍、室内、木地板、地毯、椅子、植物、书架、地毯、架子、吊灯、门、HDR、UHD、8K、最佳质量、高分辨率、超分辨率、杰作、高度细致,等等。

室内设计领域中,MLSD模型的使用频率极高。只需上传一张原始的室内设计图纸,利用该模型对空间内的直线元素进行控制,结合一系列关键词和强大的大规模模型,便能轻松地创造出同一空间内风格迥异的室内设计方案。

2.5 ControlNet 1.1 Scribble
✍ 通过涂鸦操控Stable Diffusion
✍ 模型档案:control_v11p_sd15_scribble.pth
解读:本模型能从图片中提炼出物体的大致轮廓,与canny算法提取的精细线条不同,它保留了人物(物体)的外部轮廓,而细节则会根据设定的关键词进行相应的变化。

⭐实操案例展示(与Canny模型案例相似):
实验大模型:disneyPixarCartoon_v10.safetensors
设定正向关键词:
选取关键词包括:鹿,户外,树木,模糊,草地,动物,自然,模糊背景,鹿角,白天,动物聚焦,独立,角,HDR,UHD,8K,最佳画质,高清,绝美,高度细致,
注意事项:前次输出内容约140字,原文内容约为231字,存在较多信息缺失。在此进行逐段完整改写,确保篇幅不低于原文的85%,同时保留所有细节、数字与案例。

在对比canny硬边缘控制技术时,scribbble的处理效果显得更为柔和。在这种模式下,AI在细节生成方面扮演了更为重要的角色,因此其控制力度相较于canny要弱一些。 scribbble更适合用来呈现那些需要发挥创造力的图像。以生成的鹿和其背景为例,我们仅对鹿的大致轮廓进行了控制,而其余部分则完全交由AI进行创作。

2.6 探秘ControlNet 1.1的柔边处理
利用柔边技术调控Stable Diffusion
模型文件名称:control_v11p_sd15_softedge.pth
解析:本技术旨在从图片中精确提取物体的轮廓线,与传统的Canny算法不同,它首先识别出物体的大致轮廓,随后在细节部分进行细腻的线条描绘。这种处理方式仿佛是Canny算法与Scribble算法的完美融合,既保留了轮廓的粗犷感,又兼顾了细节的精致度。

⭐实操案例分析:
在本次案例中,我们使用了majicMIX alpha 麦橘男团_v2.0.safetensors这一大模型进行操作。
在设置正向关键词时,我们精心挑选了一系列描述,以确保生成图像的质量和风格。这些关键词包括:最佳品质、超高品质、8K分辨率、超高细节、逼真效果、RAW格式照片、数码单反相机、柔和光线、胶片颗粒感、富士Fujifilm XT3相机、屏幕空间折射、高细节皮肤、自然皮肤纹理、佳能Canon 5D相机、高细节、(杰作)、(最佳品质)、超高分辨率、逼真、英俊男性、年轻人、亚洲男性、模糊背景、衬衫、模糊、白色衬衫、1男孩、男性焦点、手插口袋、逼真、上半身。
请注意,上一次的输出内容大约只有261字,而原文的长度约为399字,信息量有所缺失。以下是完整的改写内容,确保信息点的完整性和细节的保留。

与之前所述类似,这一技术实际上是将Canny与Scribble技术融合而成,其核心优势在于能够对图像中的物体进行精确的预处理控制。若我们对比观察几个模型在预处理过程中生成的草图,会发现它们在形态控制方面的力度各有千秋,这一模型也因此成为了应用颇广的选择。

2.7 ControlNet 1.1 分割技术
⦿ 利用语义分割技术调控Stable Diffusion
⦿ 模型档案:control_v11p_sd15_seg.pth
解析:在设计中,通过语义分割图,我们可以根据色彩区块来区分不同的物体。这种方法能够识别出物体所对应的色彩区块,进而对画面进行有效区分。随后,基于关键词的描述,我们可以生成物体在图片中的具体形态。

标题:深入探讨——ControlNet模型的操作机制及其应用领域(案例详解)
(文章第26/64节,正文部分,以下为改写内容)
在这个表格中,我们针对“seg”模型进行了应用,它允许我们通过色彩来精确调控物体在图像中的显现区域。该表格中的每一种颜色都代表了一种特定的物体。现在,我准备将这份表格分享给大家,有需要的朋友可以直接联系我,详情请见下。

⭐实操案例展示:
在本次实验中,我们选取了majicMIX realistic 麦橘写实_v7.safetensors这一大模型进行操作。
正向关键词包括:
风景、户外、海洋、天空、白天、海滩、海岸、云朵、水面、楼梯、地平线、风景画、树木、HDR、UHD、8K、最佳质量、高分辨率、超分辨率、杰作。

标题:深入揭秘ControlNet模型:解析其工作机制与实际应用领域(案例剖析)
(文章第28/64节,正文部分,以下为改写内容)
它的运作机制在于将图像中的各个物体,依照语义分割图的标准进行色彩区块的划分,每个色彩区块均与一个特定物体相对应。例如,天空通常以青蓝色块来表示,而植被则以绿色块来呈现。通过这种方式,我们可以对图片中的各个元素进行精确的控制,这种处理方法在图像处理领域内也是一种颇为常见的模型技术。

2.8 探究ControlNet 1.1与Openpose的融合运用
⦿ 以Openpose技术操控Stable Diffusion
⦿ 模型档案:control_v11p_sd15_openpose.pth
解析:Openpose技术能够精准识别人体的姿态、面部特征以及手臂动作,进而生成详细的骨架图像。借助这一骨架图像,AI能够更加精确地复现原图中人物的形态。

⭐实操案例展示:
在本次实操中,我们使用的是AWPainting_v1.2.safetensors这一大模型。
正向关键词解析:
1. 画面中描绘了一位女孩,她穿着橙色鞋子,独自一人坐在户外。
2. 她的周围是蓝天白云,形成了一幅宁静的户外风景。
3. 女孩的黑发随风飘扬,白色的袜子与橙色的夹克形成鲜明对比。
4. 夹克是长袖的,周围点缀着树叶,增添了一抹生机。
5. 女孩的长发披在肩上,楼梯上还有一条红色的头带,显得格外引人注目。
6. 她手中拿着一根跳绳,头戴头带,刘海随风轻轻飘动。
7. 整个画面从下往上看,呈现出一幅宽广的视角,天空略显多云,为画面增添了一丝神秘感。

文章标题:揭秘ControlNet模型:人物图像处理的高效利器(连载篇第31节)
改写正文:
将人物图像上传至系统,运用openpose技术,即可轻松生成对应的人物骨架图。借助多样化的模型与关键词,我们能够创造出与原始图像中人物姿态一致,却风格迥异的图片。在人物图像处理领域,这项技术无疑是不可或缺的得力助手。

2.9 探究ControlNet 1.1 Lineart的奥秘
⦿ 利用线条艺术来操控Stable Diffusion
⦿ 模型文件:control_v11p_sd15_lineart.pth
详细解读:此模型能够精确地把握物体的线条轮廓,并对线条进行艺术化的加工处理。其工作原理与Canny算法相似,非常适合制作偏向艺术风格的图片。简而言之,它能够将普通图片转换成类似手绘的线稿效果。

⭐实操案例分析:
在本次操作案例中,我们采用了AWPainting_v1.2.safetensors这一大模型进行创作实验。
输入的关键词包括:
- 花朵:flower, white flower, orange flower, red flower, butterfly, black background, leaf, pink flower, plant, daisy, fruit, yellow flower, lily (flower), purple flower
- 风格:still life, HDR, UHD, 8K
- 质量要求:best quality, highres, absurdres, masterpiece
请注意,上一次的输出内容大约为168字,而原文的长度约为260字,其中包含的信息量有所缺失。以下是对原文内容的完整改写,确保信息的完整性,并保持不低于原文85%的篇幅。

标题:ControlNet模型解析:线条提取与艺术图片的重绘效果分析(案例详析)
段落1:
该模型所提取的线条,其风格与手绘的线稿图画相仿,特别适用于对艺术类图片进行控制重绘。观察下方的案例图像,我们可以发现生成的效果极为精确,令人印象深刻。

2.10 探秘ControlNet 1.1动漫线条艺术应用
⦿ 动漫线条艺术辅助Stable Diffusion上色
⦿ 模型档案:control_v11p_sd15s2_lineart_anime.pth
解析:这是一款专注于动漫线稿上色的专业模型,它能够从图片中提取出线稿,并对其进行上色处理。此外,用户还可以直接上传线稿进行上色操作。

实践案例展示:
在本次操作中,我们运用的是一款名为AWPainting_v1.2.safetensors的大规模模型。
正向关键词解析:
- (杰作):追求极致的艺术创作
- (最佳质量:1.2):确保作品达到高标准的品质
- (官方艺术):体现艺术的正式性和权威性
- (极为细致的CG unity 8k壁纸):强调画面细节和高清效果
- (逼真度:1.4):追求极致的真实感
- 1girl:描绘一位女性角色
- 未来科技:展现科技与时代的结合
- 科幻:融入科幻元素,增添神秘感
- 未来机械:呈现未来机械设计风格
- 白色机械:强调机械色彩的纯净
- 流线型结构:体现设计的美感和实用性
- 内部集成电路:突出科技的先进性
- 上半身:专注于人体上半部的描绘
- 驾驶员头盔:展示细节和功能性设计

将人物轮廓的草图上传至平台,通过执行lineart操作进行黑白色彩的转换,依照所选的大规模模型风格和关键词进行设定,便能够为手绘的线条图赋予色彩。这种上色方法在众多上色技巧中,被广泛采纳,成为了线稿上色的主流手段。

2.11 ControlNet 1.1 洗牌功能
⦿ 通过内容洗牌技术调控Stable Diffusion的输出
⦿ 模型文件名称:control_v11e_sd15_shuffle.pth
解析:此功能实现了风格迁移,其操作原理是将原图中的色彩信息进行打乱重组,随后在生成的图片中重新嵌入这些原图的色彩信息。简言之,该技术使AI学会原图的风格特点,并将其巧妙地应用到新的图像创作中。

✨实操案例分析:
在本次案例中,我们运用了majicMIX realistic 麦橘写实_v7.safetensors这一大模型进行创作。
正向关键词解析:
crosswalk(人行横道)、city(城市)、night(夜晚)、real world location(现实世界地点)、street(街道)、crowd(人群)、road(道路)、6+boys(六个以上的男孩)、outdoors(户外)、scenery(风景)、people(人们)、building(建筑)、neon lights(霓虹灯)、sign(标志)、cityscape(城市景观)、6+others(六个以上的其他人)、multiple boys(多个男孩)、multiple others(多个其他人)、multiple girls(多个女孩)、english text(英文文本)、city lights(城市灯光)、HDR(高动态范围)、UHD(超高清)、8K(八千像素)、best quality(最佳质量)、masterpiece(杰作)、Highly detailed(高度详细)。

实测下来,不是特别理想。可能在一些小众场景中可以用到。

2.12 探究ControlNet 1.1版本中的Instruct Pix2Pix技术
⦿ 利用指令式Pix2Pix技术调控Stable Diffusion
⦿ 模型档案:control_v11e_sd15_ip2p.pth
解读:这款指令型模型独具特色,区别于其他模型之处在于,用户上传一张图片后,只需向其发送一系列指令关键词。以以下图片为例,输入指令“让它着火”,但现阶段该功能仅支持一些基础指令,尚处于发展阶段。

✨实践案例:
大型模型:majicMIX realistic 麦橘写实_v7.safetensors
正向关键词:
点燃他。

文章标题:详尽剖析丨ControlNet模型运作奥秘及其应用领域(附实例分析)
(文章第43/64部分,正文中间部分,以下为改写内容)
上传了一张图片,随即在正向关键词一栏中输入了指令:“使其燃烧”,结果呈现出了一幅令人惊讶的图像。然而,当我尝试输入更为复杂的指令时,系统似乎无法准确识别。目前来看,这个功能似乎还仅限于作为一种娱乐尝试。

2.13 探究ControlNet 1.1的图像修复功能
⦿ 应用修复控制技术于Stable Diffusion
⦿ 模型文件名称:control_v11p_sd15_inpaint.pth
解析:这一功能与基于图像的局部重绘技术有着相似之处,但它在生成的图像与原图的融合度上更胜一筹,同时操作流程也更为简便。

⭐实操案例分析:
在本篇深度解析中,我们将通过一个具体案例来展示ControlNet模型的工作原理和实际应用。以下是大模型的配置信息:
大模型名称:majicMIX alpha 麦橘男团_v2.0.safetensors
应用关键词分析:
1. 模型聚焦:男性角色
2. 场景设定:独立个体
3. 服饰细节:紧身裤
4. 表现特征:面部胡须
5. 配饰元素:饰品、衬衫
6. 真实感要求:逼真效果
7. 手部动作:直视观众
8. 纹身设计:短头发
9. 衣物颜色:白色衬衫
10. 背景效果:模糊
11. 发色:黑色
12. 眉毛形态:模糊
13. 腰带装饰:皮带
14. 颈部装饰:项链
15. 肌肤色调:深色
16. 裤子颜色:白色

文章标题:深入剖析丨ControlNet模型运作机制及其实际应用领域(附案例分析)
(文章第46/64段落,正文部分,以下为改写内容)
上传一张图片,紧握S键对原图进行放大,随后用画笔细致地描绘人物脸部区域,完成点击操作后,即可实现换头效果。观察以下图片,由于我并未开启高清修复和After Detailer功能,面部融合效果略显不自然。

在启用高清修复功能以及After Detailer之后,我们可以观察到头部区域的画质得到了显著提升,其融合效果也显得更为自然。经过实际测试,这种处理方式在重绘幅度上明显优于单纯的图生图技术。

2.14 ControlNet 1.1 瓦片模式
利用瓷砖技术调控Stable Diffusion
模型文件:control_v11f1e_sd15_tile.pth
解读:此模式能将模糊的图像转换为高清图像,亦或将图像细节丰富至极致。适用于老旧照片的修复、图像的高清化处理,功能强大,效果显著。

⭐实操案例:老照片的焕新之旅
在本次案例中,我们运用了RealisticVisionV2.0这一先进的大模型技术。
图生图反推关键词的设定如下:
一个家庭,父亲,母亲,女儿坐在自行车上,亚洲风格,照片,拍摄,(最佳质量:1.4),(荒谬),(真实:1.3),(杰作:1.3),高度细致,

文章标题:揭秘ControlNet模型运作机制及其应用领域(案例详解)
(文章第50/64节,核心内容,以下为改写段落)
原文片段:
激活Tiled Diddusion与Tiled VAE功能,调整放大算法至R-ESRGAN 4X+模式,实现2倍放大效果。

激活controlnet功能,将老旧照片上传至平台,选用tile模型,轻点生成按钮,即刻呈现一张经过修复的高清放大图像。

3、非官方发布的模型
3.1 引用示例
⦿ 以参考图像指导Stable Diffusion
⦿ 模型文件:无需特定模型文件
解析:这一功能可以被视作一种辅助工具,AI系统会依据用户上传的图片,对物体及其风格进行参考,进而进行重新绘制。此外,用户还可以通过输入关键词来调整物体的动作或形态。

⭐实操案例分析:
实例模型:RealisticVisionV2.0
关键词设定:
dog, on the grass, run
在此次实验中,我们未使用任何参考模型,仅配备了预处理器。用户只需上传一张图片,并在关键词输入框中输入相应的描述词汇,系统便能自动生成与原图风格相仿的图像效果。

3.2 重上色功能
⦿ 利用Stable Diffusion进行色彩重置
⦿ 模型文件名称:ioclab_sd15_recolor
说明:此功能旨在为照片进行色彩重置,例如将黑白照片上色,亦可通过关键词来指定特定的颜色(如上图所示未使用关键词)。

✨实践案例展示:
大模型:RealisticVisionV2.0版本
关键设定:设定为“红色”
激活controlnet功能,上传一张黑白图像,然后在关键设定栏内输入“红色”这一关键词,点击生成按钮后,即可观察到照片的色调被成功转换为红色。若希望调整色调,只需更换关键词即可轻松实现。

以下是本篇文章中controlnet模型解析部分的改写内容:
这就是本篇文章对controlnet模型的全解析,或许您已经对每一个模型的工作机制有了深入的认识。接下来,我将通过一个实际案例,向大家展示如何利用controlnet插件来生成背景。
四、人物背景的创建
4.1 准备阶段
在此案例中,我们的目标是为一位二次元角色制作一个合适的背景。我们的策略是利用图生图的功能,结合上传重绘蒙版技术,来精确控制背景的生成。在素材准备上,我们需要准备一张纯白色的背景图以及一张与之对应的黑白蒙版图。

在接下来的环节,我们得关注到的是大模型与Lora的搭配。鉴于我们的创作主题聚焦于动漫二次元人物,因此所选用的模型也必须保持一致的风格。
大模型:AWPainting_v1.2.safetensors | Lora:新春龙年春节插画 _v2.0
接下来,我们设定正向关键词,用以描述画面中需要呈现的元素:
chunjieV2,scenery,lantern,outdoors,snow,architecture,east asian architecture,sky,day,paper lantern,building,blue sky,solo,winter,Spring Festival,Celebration,Chinese New Year,Celebration,Traditional Chinese architecture,scene,,
春节,风光,灯笼,户外,雪花,建筑,东亚风格建筑,天际,白天,纸灯笼,楼阁,蓝天下,独奏,冬季,春节,庆典,新年,庆典,传统中国建筑,场景
在此,Lora的权重设置为0.8,而反向关键词则可以根据个人喜好自行挑选通用的选项。

4.2 初步图像生成
在完成所有前期准备工作之后,我们便可以将收集到的素材逐一导入到web-ui界面中。
在进行上传并重新绘制蒙版这一步骤时,有两个关键点需要特别注意:
首先,蒙版的模糊度应设置为10,并且蒙版模式应选择为重绘非蒙版区域;
其次,重绘的幅度应设定为1,这样做是为了确保AI在生成过程中能够发挥其全部潜力,实现100%的参与。

完成前述设置之后,一旦你点击生成,你会发现背景部分可能存在瑕疵,原因在于仅凭黑白蒙版,我们无法精确操控整个画面。为此,我们需借助controlnet技术来加强控制:
第一单元:配置lineart预处理器和模型,以此对人物身体线稿进行细致调控,确保背景中不会出现其他角色的身影;
第二单元:配置inpaint预处理器和模型,通过局部重绘功能,使人物与背景实现更完美的融合(即使不上传原图也能实现这一效果)。

完成上述步骤后,点击“生成”按钮,随即为人物成功嵌入背景。
然而,你可能会注意到,整体图片的质感并不理想。人物在场景中缺乏光影的变幻,因此,我们有必要进行接下来的优化处理:
我们不妨一次性生成8幅图像,从中挑选出你最为满意的一幅,将其发送至“图生图”平台进行进一步的处理。

4.3 画面后期的精心修整
首先,将生成的图像传入图生图功能中。在此过程中,我们将重绘的幅度调整至0.3。同时,启用tiled diffusion以及tiled VAE这两个插件,以确保图像生成的精确性与质量。

在ControlNet中,我们运用tile模型对细节进行精细的修补。完成点击生成操作后,便呈现出一幅高清的修复图像。
细观之下,你会发现人物主体在生成后出现了变化,这是由于我们设定的重绘幅度0.3所导致的。然而,若我们将重绘幅度调小,整个场景及人物的光影细节将保持不变。因此,我们可以让SD模型稍作休息,而将后续的修复工作交给Photoshop来完成。

在Photoshop软件界面中,我们将原图中的人物部分进行覆盖。接下来,各位设计师便可以充分发挥创意,利用图层蒙版工具对原图进行细致的涂抹和调整。经过一番巧妙的操作,最终我们就能制作出一张充满二次元风格的精美新春海报。

五、结语
本文教程现已圆满结束,主要对controlnet模型进行了详细介绍。当然,还有一些不那么为人所知的模型在本教程中并未涉及。目前,controlnet模型种类繁多,因此本文着重介绍了官方发布的几个核心模型。
在熟练掌握各个模型的功能后,您便可以在web ui中灵活运用这些模型,并尝试不同模型之间的组合搭配。本文所提供的案例仅是众多商业化设计流程中的一个环节,未来我还会分享更多商业设计工作流程,您可以通过我的个人主页找到相关链接。此外,悄悄告诉您,我们的首套AI设计商业化课程将在节后正式上线。如果您在阅读学习后仍感到难以掌握,不妨模仿“东北锤王”的精神,向我提出挑战。
在此,再次祝愿大家新年快乐!在发布完这篇教程后,我也将暂时告别,享受一段假期时光。放假啦,放假啦~