Interests Burn-down Diffusion Process for Personalized Collaborative Filtering

TL;DR

StageCF提出兴趣衰减扩散;在Yelp2018等三数据集上优于生成式与扩散基线。

cs.IR 🔴 高级 2026-05-07 16 次浏览
Yifang Qin Zhaobin Li Arisa Watanabe Wei Ju Zhiping Xiao Ming Zhang
协同过滤 扩散模型 推荐系统 兴趣衰减 图卷积

核心发现

方法论

论文提出兴趣烧蚀(interests burn-down)扩散过程,以二项式衰减替代高斯加噪。给定交互计数n,阶段状态服从Binomial(n,e^-t),每个兴趣单位独立保留;反向burn-up逐步采样恢复兴趣。StageCF利用归一化交互矩阵R̃及物品Gram矩阵GI=R̃ᵀR̃,通过图卷积引入物品协同关系与个性化衰减。

关键结果

  • 作者在Yelp2018及另外两个常用数据集上,将StageCF与CODIGEM、DiffRec、DDRM、FlowCF、HDRM及AE类方法比较;论文摘要报告其整体具有竞争力,但所给文本未提供Recall@K、NDCG@K等具体数值,因而不能可靠补充提升百分比。
  • Yelp2018生存分析显示,按热门度分组的兴趣半衰期约为0.2、0.5、0.5和0.8年;按餐饮类别约为1.0年,说明热门度和用户个体差异比类别更能解释衰减。
  • 消融与参数研究验证了兴趣烧蚀过程、图卷积因子和阶段化反向生成的作用;核心机制是单调趋近零,而非高斯扩散造成的用户画像坍缩。具体消融数值未在提供文本中列出。

研究意义

研究把推荐中的扩散路径从抽象欧氏噪声改写为更贴近行为的兴趣消退过程。它解释了为何Gaussian diffusion在交互向量上可能产生坍缩、CODIGEM只依赖首个反向步骤,以及DiffRec逐渐退化为去噪自编码器。对产业而言,该设计有望改善稀疏、长尾物品的恢复,并使扩散状态具有可解释的“剩余兴趣”含义。

技术贡献

理论上,二项式纯死亡过程满足单调性、离散性和稳定终态:x(t)~Binomial(x(0),e^-t),且lim(t→∞)x(t)=0。工程上,StageCF把该过程与图协同信号结合;GI的Rayleigh商衡量物品信号在共消费结构上的平滑性。模型因此同时建模兴趣强度衰减和物品间协同传播,而不是简单向连续向量添加Gaussian noise。

新颖性

核心新意不是把扩散模型用于推荐本身,而是为用户—物品交互设计具有行为语义的burn-down路径,并以对应burn-up过程生成推荐。相较Blackout diffusion,本文将离散死亡机制、用户兴趣衰减、图卷积个性化和CF生成统一到StageCF中。

局限性

  • 提供的论文文本没有列出三数据集名称、数据规模、评价表格及具体Recall/NDCG,难以独立复核性能优势。
  • 二项式衰减假设兴趣单位独立存活且终态为零,可能无法表达兴趣复燃、周期性行为、负反馈和多类型交互。
  • StageCF依赖交互图与图卷积,超大规模动态图上的存储、采样和反向迭代成本仍需评估。

未来方向

未来可研究非指数或可学习衰减率、兴趣复燃与时间上下文;将模型扩展到序列、多模态和带负反馈推荐。还应公开完整实验协议,比较采样步数、推理延迟、长尾收益与公平性,并探索稀疏图上的近似图卷积和快速burn-up采样。

AI 总览摘要

推荐系统要回答一个看似简单的问题:用户下一步会喜欢什么?传统协同过滤擅长从历史共同行为中排序,但交互数据稀疏、长尾明显,生成式模型因此受到关注。扩散推荐通常把交互向量逐步加入Gaussian noise;然而论文指出,连续高斯噪声与离散、细微且具有时间衰减特征的兴趣并不匹配,可能导致用户画像坍缩。CODIGEM依赖首个反向步骤,DiffRec甚至可能退化为去噪自编码器。

Qin等人提出interests burn-down process,并构建StageCF。其前向过程不是“加噪”,而是让兴趣逐阶段消退:若初始兴趣为n,则x(t)~Binomial(n,e^-t),每个兴趣单位以e^-t概率保留,最终趋于零。反向burn-up则从衰减状态逐步补回兴趣,产生候选推荐。模型进一步使用R̃=D_U^-1/2RD_I^-1/2和GI=R̃ᵀR̃,通过图卷积把物品共消费关系注入个性化衰减。

在Yelp2018的经验分析中,不同热门度组的半衰期约为0.2至0.8年,不同餐饮类别约为1.0年,显示兴趣衰减具有协同和个体差异。论文在三个常用数据集上将StageCF与CODIGEM、DiffRec、DDRM、FlowCF、HDRM等比较,并报告具有竞争力;但提供文本未给出具体指标数值。其意义在于展示:推荐扩散过程不必模拟无语义的Gaussian corruption,也可以直接刻画“兴趣逐渐熄灭,再被模型恢复”的行为。

深度分析

研究背景

协同过滤以用户—物品二部图为基础,目标是从稀疏交互矩阵R恢复未观察行为。AutoRec、CDAE、MultVAE等自编码器建模交互分布;CODIGEM、DiffRec把扩散引入CF,DDRM转向潜空间,HDRM使用双曲扩散,FlowCF使用Bernoulli先验。问题在于Gaussian路径并不天然符合离散交互与兴趣衰减。

核心问题

用户兴趣不是均匀高斯扰动,而是随时间、热门度和个体忠诚度变化的离散信号。普通扩散可能丢失协同结构、产生输出坍缩或依赖过少反向步骤;同时,长尾物品和稀疏用户最难恢复。需要一个具有稳定终态、可解析转移并保留个性化结构的扩散过程。

核心创新

  • ��提出interests burn-down:以Binomial decay替代Gaussian noise,状态单调下降并趋于零。
  • ��提出reverse burn-up:通过增量采样恢复兴趣向量并生成推荐。
  • ��构建StageCF:用图卷积因子控制用户—物品相关的衰减率。
  • ��以Yelp2018的Kaplan–Meier曲线验证热门度和用户差异确有衰减规律。

方法详解

  • ��输入:用户二元交互向量r_u与归一化矩阵R̃。
  • ��协同结构:计算GI=R̃ᵀR̃;其Rayleigh商衡量信号在物品共消费图上的平滑性。
  • ��前向烧蚀:对初始整数兴趣n采样x(t)~Binomial(n,e^-t),概率质量为C(n,k)e^-kt(1-e^-t)^(n-k)。
  • ��个性化控制:图卷积利用协同相似度调节衰减。
  • ��训练:对阶段兴趣状态优化score/自编码网络AEθ,使其学习反向转移。
  • ��推理:从由r_u初始化的x̂(T)开始,迭代burn-up,得到推荐分数并排序。

实验设计

论文在三个常用CF数据集上比较StageCF与生成式、扩散式和图协同基线,包括CODIGEM、DiffRec、DDRM、FlowCF、HDRM及AE方法。分析使用Recall@K、NDCG@K等推荐评价思路,但提供文本未列出具体表格数值。Yelp2018还按物品热门度、餐饮类别和用户半衰期绘制Kaplan–Meier曲线,并进行消融与参数研究。

结果分析

Yelp2018中四个热门度组半衰期约为0.2、0.5、0.5、0.8年;四类餐饮约为1.0年。StageCF在三个数据集上被报告为优于或具有竞争力于现有生成式和扩散式方法,但当前材料没有可靠的Recall、NDCG、提升百分比或数据集完整名称。消融结果定性支持burn-down、图卷积和阶段反向生成。

应用场景

可用于电商商品、餐饮地点、内容平台和广告候选生成:系统可把用户历史视为尚未熄灭的兴趣,再通过burn-up恢复可能行为。落地前需要二元或可离散化交互、用户—物品图、离线评测和推理预算;图卷积还能帮助利用共消费关系改善冷门物品召回。

局限与展望

模型把兴趣单位视为独立衰减,并令长期终态为零,因此难以表达周期性兴趣、重新激活、负反馈和上下文变化。图卷积与多步反向采样可能增加训练和服务成本。论文提供版本缺少完整实验表、超参数和三数据集细节,性能幅度、可扩展性、公平性及在线收益仍需进一步验证。

通俗解读 非专业人士也能看懂

把推荐系统想成一家书店。传统方法看到你借过的书后,给书单加上一层随机灰尘,再学习如何把灰尘擦掉;但真正的兴趣不是随机灰尘,而像货架上的“想读程度”会慢慢变淡。StageCF让每个兴趣标记逐步熄灭:热门书或特别喜欢的书可以保持更久,冷门书也不会被简单噪声抹平。随后,系统从一个几乎空白的书架开始,一点点补回最可能适合你的书。它还观察其他顾客常一起借哪些书,把相似书联系起来。这样,推荐不是凭空猜测,而像根据你的旧借阅记录、其他顾客的选择和兴趣自然变淡的速度,重新整理一份个性化书单。

简单解释 像给14岁少年讲一样

想象你有一个游戏装备推荐助手。它知道你以前收集过哪些装备,但兴趣会慢慢变:有些装备你很久仍喜欢,有些很快忘掉。普通扩散模型像不断往记录上撒随机噪点,最后可能把你的风格弄没;StageCF改成让兴趣值一格一格“燃尽”。每一格有自己的保留机会,时间越久,剩下的越少。

接着助手做反向操作:从快要熄灭的记录开始,一步步把可能喜欢的装备补回来。它还会看玩家之间的共同选择,比如喜欢火焰剑的人也常喜欢某种护甲,于是推荐不会只盯着最热门的东西。

论文用Yelp2018观察餐厅兴趣,发现热门度不同会带来约0.2到0.8年的半衰期,而餐厅类别影响较小。StageCF还在三个数据集上和CODIGEM、DiffRec等方法比较,论文说它表现有竞争力,但你提供的内容没有具体分数。

所以它的关键想法很直观:不要假装兴趣是随机噪声,而要模拟兴趣慢慢变淡,再学习怎样把真正相关的偏好找回来!

术语表

Interests burn-down process(兴趣烧蚀过程)

一种让离散兴趣随时间单调衰减的前向扩散机制。每个兴趣单位以e^-t概率保留。

StageCF用它替代Gaussian diffusion。

Reverse burn-up(反向烧蚀恢复)

从衰减状态逐步增加或恢复兴趣的反向生成过程。它输出个性化推荐向量。

用于StageCF推理阶段。

Binomial decay(二项式衰减)

若初始状态为n,则x(t)~Binomial(n,e^-t)。其终态满足lim(t→∞)x(t)=0。

定义兴趣烧蚀的转移概率。

Graph convolution(图卷积)

在图结构上聚合邻居信号的运算。本文用物品协同关系调节个性化衰减。

由R̃和GI构建协同因子。

Gram matrix(Gram矩阵)

GI=R̃ᵀR̃表示物品间的归一化共消费相似度。其Rayleigh商可衡量信号平滑性。

用于StageCF的物品协同建模。

Kaplan–Meier curve(Kaplan–Meier生存曲线)

描述事件发生前样本仍保持状态的统计曲线。本文用它估计用户兴趣半衰期。

用于Yelp2018行为分析。

开放问题 这项研究留下的未解疑问

  • 1 完整实验表和三数据集信息在提供文本中缺失,因此无法判断StageCF相对每个基线的精确提升,也无法复核统计显著性。
  • 2 兴趣衰减是否适用于音乐、短视频、周期购物等具有复燃或强时序性的行为,论文材料尚未回答。

应用场景

近期应用

电商长尾召回

电商平台可把用户历史交互离散化为兴趣强度,用StageCF建模兴趣衰减,并结合商品共购图恢复长尾候选。需要用户—商品交互图和离线Recall/NDCG验证。

餐饮与地点推荐

位置服务可根据访问记录及地点热门度估计衰减速度,再用burn-up生成个性化餐厅候选。Yelp2018的半衰期分析提供了行为建模依据,但必须加入地理距离和营业时段。

远期愿景

可解释的动态推荐

未来系统可展示“兴趣为何仍被保留”以及“为何重新激活某物品”,把扩散状态转化为可解释的时间偏好。实现需要可学习衰减、复燃机制和在线用户研究。

原文摘要

Generative methods have gained widespread attention in Collaborative Filtering (CF) tasks for their ability to produce high-quality personalized samples aligned with users' interests. Among them, diffusion generative models have raised increasing attention in recommendation field. Despite that the pioneering efforts have applied the conventional diffusion process to model diffusive user interests, the incongruity between the Gaussian noise and the subtle nature of user's personalized interaction behavior has led to sub-optimal results. To this end, we introduce a specifically-tailored diffusion scheme for interaction systems, namely the interests burn-down process. The interests burn-down process delineates the decay of user interests towards candidate items, complemented by its reverse burn-up process that yields personalized recommendation for users. The inherent burn-down nature of this process adeptly models the diffusive user interests, aligning seamlessly with the requirements of CF tasks. We present a novel recommendation method StageCF to illustrate the superiority of this newly proposed diffusion process. Experimental results have demonstrated the effectiveness of StageCF against existing generative and diffusion-based baseline methods. Furthermore, comprehensive studies validate the functionality of interests burn-down process, shedding light on its capacity to generate personalized interactions.

cs.IR