ControlNet Tile

义项:ControlNet 平铺模型
ControlNet Tile

ControlNet Tile是ControlNet系列中的一种条件控制模型,对应权重文件名为control_v11f1e_sd15_tile,训练时以带平铺块的图像作为条件输入[1]。它在Stable Diffusion等扩散模型上叠加细节重建能力,作用接近超分辨率模型,但也可在保持原尺寸的前提下增删和改写画面细节。该模型常配合分块放大脚本使用,用于大幅提升输出分辨率并抑制分块之间的断层[2]。

目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

ControlNet Tile是ControlNet的一个官方检查点分支,其条件图像是被平铺切割后的图像块,因此得名[3]。它的输入既可以是模糊的低清图像,也可以是原图的局部切片;模型据此重新生成一张尺寸相同、细节更多的图[4]。按照官方说明,该模型的成品质量分级标记为实验性(e),尚未列入生产就绪名单[1][5]。

模型随ControlNet 1.1一并发布,与同一批的其他控制类型共享ControlNet 1.0的体系结构,因此可与原版ControlNet插件和脚本兼容[5]。它通常被当作放大流水线中的细节补充环节,而不是一个可以独立完成全部工作的完整放大器[6]。

原理

ControlNet的基础机制是在冻结的预训练扩散模型旁并联一份可训练副本,两者通过零初始化卷积相连。设原模块为 $\mathcal{F}(\cdot;\Theta)$,条件为 $c$,则输出写成 $y_c=\mathcal{F}(x;\Theta)+\mathcal{Z}(\mathcal{F}(x+\mathcal{Z}(c;\Theta_{z1});\Theta_c);\Theta_{z2})$,其中 $\mathcal{Z}$ 表示零卷积[7]。由于零卷积初始输出为零,训练初期不会向主干注入噪声,模型质量得以保持[8]。

平铺模型把条件图像换成原图或其裁剪块,附加分支学习的是如何从低质量版本中复原细节。有分析指出,它的训练样本很可能由正常图像经过下采样再上采样构造出失真版本,原始图像作为学习目标[9]。这与超分辨率模型的训练思路相近,区别在于它按分块处理,因而单块尺寸不受整幅图像分辨率的限制[6]。

推理时采取两条路径。其一是先由外部放大算法把原图插值到目标尺寸,再交给模型逐块重建细节;其二是把图像切块后逐块送入,再拼接还原。典型流程为:Lanczos 预放大、按原生块尺寸做图生图、每块以自身的模糊内容作为ControlNet条件、最后用带羽化的重叠混合消除接缝[10]。与早期逐块各自理解提示词的方案不同,平铺模型的提示词始终作用于整幅画面,因此不会在每块里重复生成同一个主体[2]。

发展历程

ControlNet本身在2023年2月由吕敏(Lvmin Zhang)、Anyi Rao、Maneesh Agrawala提出,论文题为《Adding Conditional Control to Text-to-Image Diffusion Models》,后被ICCV 2023收录[7]。该架构主张锁定预训练大模型的可用于生产的权重,只训练附加分支,因而在少于5万样本的小数据集上也能稳定收敛。

2023年ControlNet 1.1版本发布,共推出14个检查点,命名改用标准化规则,平铺模型以 control_v11f1e_sd15_tile 的编号出现,早期的 control_v11u_sd15_tile 随之被替换[1]。官方同时说明,该模型需要ControlNet插件的1.1.107及以上版本,预处理可选用none或tile_resample[1]。

此后平铺模型的生态沿两个方向扩展。一方面,社区训练出面向SDXL的平铺版本,并迭代到第二代,改进了训练数据与颜色偏移问题。另一方面,部分实现把分块去噪改到潜空间完成,以降低接缝与显存占用[11][12]。

应用

官方给出5类主要用途:实现2倍、4倍或8倍超分辨率;增加、更改或重新生成图像细节;修复其他放大方法留下的模糊和坏细节;引导扩散过程分块进行,使16块画面不会生成16个人物;以及为仅用色块打底的未完成草稿补全内容[1]。在实际部署中,它常与Ultimate SD Upscale、Tiled Diffusion等分块脚本搭配,放大脚本负责切块与拼接,平铺模型负责每块内部的细节重建[5]。

参数上,社区实践给出的经验是图生图去噪强度取0.3至0.4、控制强度取0.9左右较易获得稳定结果,控制权重过低会导致文字与主体变形,过高则几乎不产生变化。模型对768和1024分辨率支持较好,可作为512分辨率下画面偏糊时的补救手段[1]。

另一类用法是风格与内容的可控改写。把预处理器设为none、控制模式设为提示词优先,可在保持姿态与构图的前提下更换服装、背景等元素。在分块放大流程中,它也被用于修复Real-ESRGAN等放大器产生的失真细节[1]。

局限

模型并非专用的放大模型,官方文档明确其能力是增强或改写原尺寸图像的细节,放大效果依赖外部的切块与拼接脚本。因此像素级的分块流程容易留下可见接缝,不同块之间也可能出现风格、色调和细节程度不一致的拼贴感[11]。

由于细节是重新生成的,结果存在偏离原图的可能。实测案例中,人物放大后五官与肤色发生改变,衣物上还出现了原本不存在的项链[2]。在纯文生图模式下使用它时,若提示词设置不当,画面颜色也会被明显改写。

分辨率的提升同时受显存限制。即便分块去噪能压低峰值占用,VAE 编解码环节仍可能显存溢出,需要启用分块编解码,而这又会带来块间纹理与色彩的不一致[12]。此外,原版平铺模型只针对Stable Diffusion 1.5训练,且官方将其定位为实验性模型,质量尚不稳定[5]。

参见

  • ControlNet —— 平铺模型所属的条件控制神经网络架构。

  • Stable Diffusion —— 平铺模型主要搭配使用的扩散模型基座。

  • 超分辨率 —— 平铺模型在放大任务中所对应的技术范畴。

  • Tiled Diffusion —— 与平铺模型常配合使用的分块扩散方案。

  • Real-ESRGAN —— 常作为平铺放大前置或后置环节的放大算法。

  • 零卷积 —— ControlNet 连接冻结主干与可训练副本的关键卷积层。

参考资料

  1. github.com 上的网页 [引用日期2026-10-29]
  2. * often loses likenesses in faces [引用日期2026-10-29]
  3. github.com 上的网页 [引用日期2026-10-29]
  4. control_v11f1e_sd15_tile [引用日期2026-10-29]
  5. deepwiki.com 上的网页 [引用日期2026-10-29]
  6. huggingface.co 上的网页 [引用日期2026-10-29]
  7. Adding Conditional Control to Text-to-Image Diffusion Models [引用日期2026-10-29]
  8. arxiv.org 上的网页 [引用日期2026-10-29]
  9. github.com 上的网页 [引用日期2026-10-29]
  10. plakat/pipelines/diffusion_upscale.rs - Skip to main content [引用日期2026-10-29]
  11. mod-control-tile-upscaler-sdxl [引用日期2026-10-29]
  12. invoke-ai/InvokeAI v4.2.5 on GitHub [引用日期2026-10-29]
词条评价
词条统计

浏览次数:0 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-10-28T18:27:17Z

历史版本

本条目引用的词条
ControlNet 超分辨率 Ultimate SD Upscale Stable Diffusion Tiled Diffusion Real-ESRGAN 零卷积