LightenDiffusion: Unsupervised Low-Light Image Enhancement with Latent-Retinex Diffusion Models

TL;DR

LightenDiffusion结合Retinex理论与扩散模型,实现无监督低光图像增强,性能超越现有方法。

cs.CV 🔴 高级 2024-07-12 26 次浏览
Hai Jiang Ao Luo Xiaohong Liu Songchen Han Shuaicheng Liu
图像增强 无监督学习 扩散模型 Retinex理论 视觉质量提升

核心发现

方法论

LightenDiffusion通过在潜在空间进行Retinex分解,将低光和正常光图像编码特征分解为内容丰富的反射图和内容自由的照明图。然后,利用扩散模型进行无监督恢复,并提出自约束一致性损失以提高视觉质量。

关键结果

  • 在LOL数据集上,LightenDiffusion的PSNR达到20.453,SSIM为0.803,超过所有无监督方法。
  • 在LSRW数据集上,LightenDiffusion的PSNR和SSIM均优于监督方法。
  • 在真实场景中,LightenDiffusion在DICM、NPE、VV数据集上表现最佳。

研究意义

该研究通过结合物理可解释的Retinex理论与扩散模型,解决了低光图像增强中的视觉质量问题,提升了算法在不同场景中的泛化能力。

技术贡献

提出了一种新的内容传递分解网络,在潜在空间进行分解,避免了传统方法中的内容信息丢失问题,并通过扩散模型生成高质量的图像。

新颖性

首次在潜在空间进行Retinex分解,并结合扩散模型进行无监督图像增强,显著提升了视觉质量。

局限性

  • 在某些复杂场景中,照明图可能仍包含内容信息,影响恢复结果。
  • 需要大量未配对数据进行训练。

未来方向

未来可以探索如何进一步减少照明图中的内容信息,并提高模型的训练效率。

AI 总览摘要

低光图像通常面临可见度差和噪声问题,影响后续视觉任务。传统方法难以适应多种光照条件,而深度学习方法虽有进展,但存在过拟合问题。LightenDiffusion结合Retinex理论与扩散模型,通过在潜在空间进行分解,解决了上述问题。实验结果表明,该方法在多个公开基准上超越现有无监督方法,并在某些情况下优于监督方法。尽管如此,该方法在某些复杂场景中仍面临挑战,未来研究可进一步优化模型性能。

深度分析

研究背景

低光图像增强是计算机视觉中的重要问题,传统方法如直方图均衡和Retinex理论虽有一定效果,但难以适应多样化的光照条件。近年来,深度学习方法通过学习低光到正常光的映射取得了显著进展,但过拟合问题限制了其泛化能力。

核心问题

低光图像增强面临的核心问题是如何在不依赖配对数据的情况下提高视觉质量。现有方法难以在复杂场景中保持高质量的恢复效果。

核心创新

LightenDiffusion通过在潜在空间进行Retinex分解,将图像特征分解为内容丰富的反射图和内容自由的照明图,并结合扩散模型进行无监督恢复,显著提升了视觉质量。

方法详解

  • �� 在潜在空间进行Retinex分解,生成反射图和照明图
  • �� 利用扩散模型进行无监督恢复
  • �� 提出自约束一致性损失以提高视觉质量

实验设计

实验在LOL和LSRW数据集上进行,使用PSNR和SSIM评估性能,并在DICM、NPE、VV数据集上进行泛化能力测试。采用Adam优化器进行训练。

结果分析

LightenDiffusion在LOL数据集上取得了20.453的PSNR和0.803的SSIM,超越所有无监督方法。在LSRW数据集上,性能优于大多数监督方法。

应用场景

该方法可用于低光环境下的图像增强,如夜间摄影和监控摄像头图像处理,提升视觉质量。

局限与展望

在某些复杂场景中,照明图可能仍包含内容信息,影响恢复结果。未来研究可探索如何进一步减少照明图中的内容信息。

通俗解读 非专业人士也能看懂

想象你在一个昏暗的房间里拍照,照片看起来模糊且颜色失真。LightenDiffusion就像一个智能灯泡,它能分析房间的光线情况,并自动调整照片的亮度和对比度,使其看起来像在明亮的房间里拍摄的一样清晰。它通过分析照片的细节和光线信息,去除不必要的噪声和失真,使照片更加生动。

简单解释 像给14岁少年讲一样

想象你在一个黑暗的房间里拍了一张照片,结果看起来很模糊。LightenDiffusion就像一个超级滤镜,它能自动分析照片的光线情况,并调整亮度和对比度,让照片看起来像是在明亮的房间里拍摄的一样清晰。它就像一个聪明的助手,帮你去掉照片中的噪声和失真,让照片更加生动。

术语表

扩散模型 (Diffusion Model)

一种生成模型,通过逐步添加噪声来生成数据。

用于生成高质量的图像。

Retinex理论 (Retinex Theory)

一种图像处理理论,将图像分解为反射图和照明图。

用于图像增强。

自约束一致性损失 (Self-constrained Consistency Loss)

一种损失函数,确保恢复图像与输入图像保持一致。

用于提高视觉质量。

潜在空间 (Latent Space)

图像特征的低维表示空间。

用于进行Retinex分解。

反射图 (Reflectance Map)

图像中的内容信息,不随光照变化。

用于保持图像细节。

开放问题 这项研究留下的未解疑问

  • 1 如何进一步减少照明图中的内容信息以提高恢复质量?
  • 2 如何提高模型的训练效率以适应更大规模的数据?

应用场景

近期应用

夜间摄影

提升夜间拍摄的照片质量,使其更加清晰和生动。

远期愿景

监控摄像头图像处理

在低光环境下提高监控摄像头的图像质量,增强安全性。

原文摘要

In this paper, we propose a diffusion-based unsupervised framework that incorporates physically explainable Retinex theory with diffusion models for low-light image enhancement, named LightenDiffusion. Specifically, we present a content-transfer decomposition network that performs Retinex decomposition within the latent space instead of image space as in previous approaches, enabling the encoded features of unpaired low-light and normal-light images to be decomposed into content-rich reflectance maps and content-free illumination maps. Subsequently, the reflectance map of the low-light image and the illumination map of the normal-light image are taken as input to the diffusion model for unsupervised restoration with the guidance of the low-light feature, where a self-constrained consistency loss is further proposed to eliminate the interference of normal-light content on the restored results to improve overall visual quality. Extensive experiments on publicly available real-world benchmarks show that the proposed LightenDiffusion outperforms state-of-the-art unsupervised competitors and is comparable to supervised methods while being more generalizable to various scenes. Our code is available at https://github.com/JianghaiSCU/LightenDiffusion.

cs.CV