TokCom-UEP: Semantic Importance-Matched Unequal Error Protection for Resilient Image Transmission

TL;DR

提出TokCom-UEP,结合非均匀语义重要性的不等错误保护,提升图像传输鲁棒性。

eess.IV 🔴 高级 2025-11-28 40 次浏览
Kaizheng Zhang Zuolin Jin Zhihang Cheng Ming Zeng Li Qiao Zesong Fei
语义通信 大模型 不等错误保护 图像传输 编码算法

核心发现

方法论

本文提出TokCom-UEP框架,结合大规模多模态模型的语义理解能力,采用嵌套扩展窗口的非均匀语义重要性划分源Token,利用基于EWF的无 rateless UEP编码实现差异化保护。系统包括Tokenization、EWF编码和多模态引导的Token修复三部分。Tokenization采用One-D-Piece模型,将图像映射为位置依赖的语义重要性序列。EWF编码通过嵌套窗口分配不同的选择概率,优先保护关键Token。修复阶段利用Transformer模型结合上下文和高层语义提示,增强鲁棒性。整个流程实现了语义重要性匹配的差异化保护,提升传输效率和重建质量。

关键结果

  • 在ImageNet验证集上,TokCom-UEP在信道擦除概率p=0.2时,PSNR提升40.54%,LPIPS降低40.15%,CLIP得分提升11.36%,显著优于传统均等保护方案。
  • 在不同信道条件下,TokCom-UEP保持较高的频谱效率,优于基线方案,尤其在低开销环境中效果更为突出。
  • 通过消融实验验证嵌套窗口和语义引导修复的贡献,显示其在鲁棒性和效率上的优势。

研究意义

该研究突破了现有TokCom框架对语义重要性假设的局限,将非均匀语义信息融入信道编码,显著提升在恶劣信道条件下的图像传输鲁棒性和效率。为6G网络中的语义通信提供了理论基础和工程方案,有望推动智能感知、远程医疗等应用的发展。

技术贡献

创新点在于引入基于嵌套扩展窗口的非均匀语义重要性划分,结合EWF无 rateless UEP编码实现差异化保护,解决传统均等保护在语义信息分布不均时的低效问题。系统设计兼容现有数字通信架构,提升鲁棒性和频谱利用率,为语义通信中的差异化保护提供新思路。

新颖性

首次将非均匀语义重要性融入TokCom的信道编码,通过嵌套窗口和EWF编码实现语义匹配的差异化保护,弥补现有方法对Token位置语义差异的忽视,具有明显创新性。

局限性

  • 模型在极端信道条件下仍可能出现关键Token丢失,修复能力有限。
  • 当前系统依赖预训练模型,泛化能力和适应性有待提升。
  • 编码复杂度较高,实际部署需考虑硬件资源限制。

未来方向

未来将探索多模态信息融合优化Token重要性划分,提升模型泛化能力;同时研究低复杂度编码方案,适应更广泛的应用场景。此外,结合端到端训练实现更优化的语义保护策略,将成为研究重点。

AI 总览摘要

随着6G网络的发展,图像等多模态数据的高效、鲁棒传输成为关键挑战。传统方法多依赖端到端JSCC,难以与数字系统无缝集成。大模型的崛起带来强大语义理解能力,为语义通信提供新机遇。TokCom作为一种基于Token的生成式语义传输框架,利用大模型将图像转换为离散Token序列,兼具高压缩率和鲁棒性,但现有设计假设Token重要性均等,忽略了序列中不同Token的语义差异,导致保护策略低效。本文提出TokCom-UEP,结合非均匀语义重要性划分和EWF无 rateless UEP编码,实现差异化保护。系统包括Tokenization、嵌套窗口的U E P编码和多模态引导的Token修复,显著提升在信道擦除环境下的重建质量和频谱效率。大量仿真验证了其优越性能,为未来6G语义通信提供了理论基础和工程方案。

深度分析

研究背景

近年来,随着大模型在语义理解和生成方面的突破,语义通信成为研究热点。早期多采用端到端JSCC,虽高效但难以集成。TokCom利用大模型将图像转换为Token序列,兼具压缩和鲁棒性,但其均等保护策略忽视Token的重要性差异,导致在信道恶劣时性能下降。近年来,差异化保护技术如不等错误保护(UEP)在多媒体传输中表现优异,但尚未结合Token语义重要性进行优化。本文基于此背景,提出结合大模型Token序列非均匀语义分布的差异化保护方案,旨在提升鲁棒性和频谱利用效率。

核心问题

现有TokCom框架假设Token重要性均等,忽略了Token在图像重建中的不同贡献,导致关键语义信息易丢失,影响传输质量。传统均等保护在语义信息分布不均时效率低下,无法满足未来高质量、低延迟的应用需求。如何根据Token的语义重要性设计差异化信道保护策略,成为亟待解决的问题。尤其在信道条件不佳时,保护关键Token的能力直接影响系统性能。

核心创新

本研究的创新点在于:1)引入基于嵌套扩展窗口的非均匀语义重要性划分,将Token序列中的高层语义信息优先保护;2)结合EWF无 rateless UEP编码,动态调整不同Token的保护强度,实现差异化保护;3)利用多模态引导的Transformer模型,增强修复能力,提升鲁棒性。这些创新突破了传统均等保护的局限,为语义通信中的差异化保护提供了新思路。

方法详解

  • �� Tokenization:采用One-D-Piece模型,将图像映射为位置依赖的Token序列,序列中高层Token承载全局语义信息。
  • �� 语义重要性划分:根据Token在图像重建中的贡献,将序列划分为嵌套扩展窗口,窗口越靠前,Token重要性越高。
  • �� UEP编码:在每个窗口内采用RSD分布的LT码,调整窗口选择概率,优先保护关键Token。
  • �� 信道传输:利用嵌套窗口的U E P编码,通过二元擦除信道传输Token。
  • �� 修复阶段:接收端利用Transformer模型结合上下文和高层语义提示,进行Token修复,增强鲁棒性。
  • �� 重建:最后通过Detokenizer还原图像,保证关键语义信息完整。

实验设计

采用ImageNet验证集,随机抽取200类,每类5张图片,尺寸256×256。模型使用预训练的One-D-Piece-L-256,将图像转为256个Token,词典大小4096。信道为擦除概率p=0.2的二元信道。对比基线包括均等保护的LT码、CompressAI和JPEG方案。指标包括PSNR、LPIPS、CLIP得分和频谱效率。通过消融实验验证嵌套窗口和多模态引导的贡献,调优参数以达到最佳性能。

结果分析

在信道擦除概率p=0.2时,TokCom-UEP在信噪比、感知质量和语义保持方面均优于对比方案,PSNR提升40.54%,LPIPS降低40.15%,CLIP得分提升11.36%。在不同信道条件下,频谱效率也显著优于传统均等保护方案,尤其在低开销环境中表现突出。参数调优显示嵌套窗口和选择概率对性能影响显著,验证了语义重要性匹配的有效性。

应用场景

该方案适用于未来6G网络中的高质量图像和多模态数据传输,尤其在带宽受限或信道恶劣的场景。可广泛应用于远程医疗、自动驾驶、虚拟现实等领域,提升数据传输的鲁棒性和效率。系统兼容现有数字通信架构,便于部署和升级。

局限与展望

模型在极端信道条件下仍可能出现关键Token丢失,修复能力有限。依赖预训练模型,泛化能力不足。编码复杂度较高,硬件资源需求大。未来需优化算法简化流程,提升适应性。

通俗解读 非专业人士也能看懂

想象你在传递一份重要的文件给朋友,但信号不稳定,可能会有部分内容丢失。传统的方法就像把文件拆成几份,全部用一样的方式发送,不管哪部分重要。而这篇研究提出一种聪明的办法,把最关键的内容优先保护,比如文件的核心思想和重点信息,次要的细节可以稍后补充。它用一种特别的“智能编码”技术,根据内容的重要性调整保护力度。这样,即使信号差,也能确保朋友收到的内容中最重要的部分没有丢失。还用了一种“智能修复”技术,像有个聪明的助手,能根据上下文和已知信息,帮你补全丢失的部分。整体来说,这就像在传递一份重要的文件时,优先保证核心内容完整,次要内容可以补充,确保信息的完整和理解的准确。

原文摘要

Based on the provided LaTeX code, here is the metadata for the submission form: Title: TokCom-UEP: Semantic Importance-Matched Unequal Error Protection for Resilient Image Transmission Author(s): Kaizheng Zhang, Zuolin Jin, Zhihang Cheng, Ming Zeng, Li Qiao, Zesong Fei Abstract: Token communication (TokCom), an emerging semantic communication framework powered by Large Multimodal Model (LMM), has become a key paradigm for resilient data transmission in 6G networks. A key limitation of existing TokCom designs lies in the assumption of uniform token importance, which leads to the adoption of equal error protection (EEP). However, compressed one-dimensional (1D) token sequences inherently exhibit heterogeneous semantic importance hierarchies, rendering EEP schemes suboptimal. To address this, this paper proposes TokCom-UEP, a novel semantic importance-matched unequal error protection (UEP) framework designed for resilient image transmission. TokCom-UEP integrates rateless UEP coding with the non-uniform semantic importance of tokens by partitioning source tokens into nested expanding windows, assigning higher selection probabilities to windows containing critical tokens to ensure their prioritized recovery. Simulation results demonstrate that TokCom-UEP outperforms EEP schemes in terms of three core semantic restoration metrics and spectral efficiency under low-overhead conditions.

eess.IV cs.CR