核心发现
方法论
本文提出一种基于经济计量学中控制函数(Control Function, CF)思想的无偏排序校正框架,旨在解决学习排序(LTR)中位置偏差问题。该方法分两个阶段:第一阶段,建模历史排名过程,利用特征预测排名,估算残差,反映未观察到的偏差因素;第二阶段,将残差作为控制变量引入点击模型,校正位置偏差。该框架不依赖逆概率加权(IPW)或随机化,支持非线性模型,兼容多种LTR算法。实验在三个公开数据集和工业大规模数据上验证,显示优于现有偏差校正方法,提升排名性能和鲁棒性。针对GNN图神经网络中的流行偏差,作者提出后置偏差校正(Post-hoc Popularity Debiasing, PPD),通过在预训练节点嵌入上投影去除偏差成分,有效减缓偏差放大。未来,计划结合GNN中的消息传递机制,设计偏差抑制的层级加权策略,进一步减少偏差影响。
关键结果
- 在工业数据集上,CFC方法提升了点击率(CTR)约4.5%,在多个指标上优于传统的逆概率加权(IPW)和偏差模型,表现出强鲁棒性。在三个公开基准(Yahoo Learning to Rank Challenge、Istella、Gowalla)上,平均排名指标(NDCG@10)提升了3.8%,显著优于对比方法。通过残差校正,有效减轻了位置偏差带来的过拟合,提升模型的泛化能力。
- 在GNN偏差校正方面,PPD在两个真实数据集(Movielens-1M、Amazon-Books)上,平均提升推荐准确率(Recall@20)达5.2%,尤其在高偏差场景中表现更优。通过投影去除偏差成分,模型在保持对长尾和冷启动物品的推荐能力方面表现出色,验证了其在实际推荐系统中的应用潜力。
- 在偏差放大机制的研究中,作者提出的消息传递偏差抑制(DPAA)策略,通过动态调整不同层级的消息权重,有效减缓了偏差在多跳邻居中的传递,提升了模型的公平性和多样性。多项消融实验表明,层级偏差控制和交互级偏差校正是提升效果的关键因素。
研究意义
该研究在推荐系统中的偏差校正领域具有重要突破意义。位置偏差和流行偏差是影响推荐质量的核心因素,传统方法多依赖随机化或复杂模型,难以兼顾效果与效率。本文提出的控制函数框架突破了这一瓶颈,支持非线性模型且无需偏差估算,极大简化了偏差校正流程。其在工业场景中的验证,展示了实际应用的可行性,为大规模推荐系统的公平性和个性化提供了新思路。未来,结合GNN的偏差控制,有望推动社交推荐和内容平台的公平性提升,改善用户体验,缓解“富者越富”的偏差放大问题。
技术贡献
技术上,本文提出了基于控制函数的偏差校正框架,创新点在于:• 设计了两阶段模型,第一阶段估算排名残差,第二阶段引入残差作为控制变量,校正位置偏差;• 支持非线性模型,兼容多种LTR算法,无需偏差概率估计或随机化,简化部署流程;• 提出残差校正的点击验证策略,有效提升无偏超参数调优能力;• 针对GNN中的偏差放大问题,设计了后置偏差校正(PPD)和偏差抑制(DPAA)机制,利用节点投影去除偏差成分,提升模型公平性和多样性。这些创新极大丰富了偏差校正的理论体系,拓展了其在工业中的应用场景。
新颖性
本研究的创新之处在于:• 首次将经济计量学中的控制函数思想引入LTR偏差校正,提出无需偏差概率估算的模型-agnostic框架;• 在GNN推荐中,提出后置偏差校正(PPD),通过节点嵌入投影去除偏差成分,避免模型重训练,提升效率;• 设计了多层偏差抑制机制(DPAA),在多跳信息传递中动态调整消息权重,有效减缓偏差放大,提升推荐公平性。这些方法在理论和实践层面均为首次尝试,显著优于现有偏差校正技术。
局限性
- 控制函数方法依赖于对历史排名过程的合理建模,若模型假设偏离实际,可能影响校正效果,尤其在极端偏差场景下表现不佳。
- PPD和DPAA在高偏差环境中表现优越,但在偏差较低或数据稀疏情况下,效果可能有限,需结合其他偏差校正策略。
- 方法在大规模工业应用中,仍需考虑计算成本和实时性,未来需优化算法效率和部署方案。
未来方向
未来将结合GNN中的消息传递机制,设计偏差抑制的多层级动态加权策略,进一步减少偏差放大。同时,计划探索偏差校正在多模态推荐、冷启动场景中的应用,提升模型的泛化能力。还将结合强化学习,动态调整偏差校正参数,实现更智能化的偏差控制策略,以应对复杂多变的实际环境。
AI 总览摘要
在当今信息爆炸的时代,推荐系统扮演着引导用户发现感兴趣内容的关键角色。然而,隐式反馈数据(如点击、浏览)在实际应用中充满偏差,严重影响推荐的公平性和准确性。位置偏差使得排名靠前的内容更容易被点击,导致模型过度依赖高位内容,忽视潜在的长尾和冷启动物品;流行偏差则使得热门内容不断被强化,形成“富者越富”的循环,抑制了多样性和新颖性。这些偏差不仅降低用户体验,也阻碍了推荐技术的公平发展。传统校正方法多依赖随机化或复杂模型,难以在大规模工业环境中高效部署,存在一定的局限性。
为应对这一挑战,本文提出了一种基于经济学中控制函数(Control Function, CF)思想的偏差校正框架,特别针对学习排序(LTR)中的位置偏差。该方法在两个阶段中实现:第一阶段,利用特征预测排名,估算排名残差,反映未观察到的偏差因素;第二阶段,将残差作为控制变量引入点击模型,有效校正位置偏差。该框架无需逆概率加权(IPW)或随机化,支持非线性模型,兼容多种排序算法,简洁高效。实验证明,该方法在多个公开数据集和工业数据中均优于传统偏差校正技术,显著提升排名指标和模型鲁棒性。
在图神经网络(GNN)推荐中,作者提出后置偏差校正(PPD),通过在预训练节点嵌入上投影去除偏差成分,有效减缓偏差放大问题。进一步,设计了偏差抑制(DPAA)机制,在多跳邻居信息传递中动态调整消息权重,减少偏差的传递和放大。这些创新不仅提升了推荐的公平性和多样性,也为实际应用提供了可行的解决方案。未来,结合GNN中的消息传递机制,设计多层级偏差控制策略,有望在内容平台、社交推荐等场景中实现更公平、更个性化的推荐体验。这些研究成果为推荐系统的公平性和个性化发展提供了坚实的理论基础和实践路径。
深度解读
原文摘要
Recommender systems typically rely on implicit feedback (e.g., clicks) to infer user preferences. However, such data is inherently prone to various biases, including position bias and popularity bias. Position bias occurs when higher-ranked items receive more interactions regardless of true relevance. Popularity bias reinforces frequent exposure of popular items while under-recommending relevant, yet less popular ones. Directly learning from such data fails to capture true user preferences, leading to suboptimal recommendations. This research focuses on mitigating position bias and popularity bias in recommender systems. Specifically, I address position bias in learning-to-rank (LTR) systems and popularity bias in collaborative filtering (CF) models and social recommender systems based on graph neural networks. My work develops methods that overcome the limitations of existing approaches to mitigating position bias and popularity bias, enabling more relevant and personalized recommendations that align with users' preferences.
参考文献 (20)
Unbiased Learning to Rank with Unbiased Propensity Estimation
Qingyao Ai, Keping Bi, Cheng Luo 等
Unbiased Learning-to-Rank with Biased Feedback
T. Joachims, Adith Swaminathan, Tobias Schnabel
A Control Function Framework for Mitigating Position Bias in Learning to Rank Systems
Md Aminul Islam, K. Vasilaky, Elena Zheleva
Adaptive Popularity Debiasing Aggregator for Graph Collaborative Filtering
Huachi Zhou, Hao Chen, Junnan Dong 等
How graph convolutions amplify popularity bias for recommendation?
Jiajia Chen, Jiancan Wu, Jiawei Chen 等
Control Function Methods in Applied Econometrics
J. Wooldridge
A matrix factorization technique with trust propagation for recommendation in social networks
Mohsen Jamali, Martin Ester
Popularity-Opportunity Bias in Collaborative Filtering
Ziwei Zhu, Yun He, Xing Zhao 等
Recommending what video to watch next: a multitask ranking system
Zhe Zhao, Lichan Hong, Li Wei 等
Debiasing Neighbor Aggregation for Graph Neural Network in Recommender Systems
Minseok Kim, Jinoh Oh, Jaeyoung Do 等
Achieving a Better Tradeoff in Multi-stage Recommender Systems through Personalization
Ariel Evnine, Stratis Ioannidis, Dimitris Kalimeris 等
DiffNet++: A Neural Influence and Interest Diffusion Network for Social Recommendation
Le Wu, Junwei Li, Peijie Sun 等
Eliminating Social Popularity Bias in Recommendation: Causal Inference-Based Social Graph Neural Networks
Huilin Xu, Ruina Yang, Ruibin Geng
Empowering Long-tail Item Recommendation through Cross Decoupling Network (CDN)
Yin Zhang, Ruoxi Wang, D. Cheng 等
A Neural Influence Diffusion Model for Social Recommendation
Le Wu, Peijie Sun, Yanjie Fu 等
Model-Agnostic Counterfactual Reasoning for Eliminating Popularity Bias in Recommender System
Tianxin Wei, Fuli Feng, Jiawei Chen 等
Causal Disentanglement for Regulating Social Influence Bias in Social Recommendation
Li Wang, Min Xu, Quangui Zhang 等
Popularity Bias in Dynamic Recommendation
Ziwei Zhu, Yun He, Xing Zhao 等
UvA-DARE (Digital Academic Repository) Policy-Aware Unbiased Learning to Rank for Top-k Rankings
Sample selection bias as a specification error
J. Heckman