OneModel: A Unified Foundation for Platform-Scale Multi-Scenario Ranking
OneModel实现多场景平台级排序,融合用户行为,提升离线和在线指标。
核心发现
方法论
OneModel通过场景感知特征投影与结构化上下文编码,将异构行为映射到共享事件序列。采用行动导向的长序列骨架,结合场景感知信息调制(SAIM)实现跨场景迁移与特定场景专业化。模型支持多目标端到端训练,结合分层用户表征、特征预取、共享用户塔和图级推理优化,满足工业部署需求。具体算法包括Transformer解码器、Sinusoidal位置编码和多任务损失,确保模型在多场景下的泛化能力。
关键结果
- 在小红书平台部署后,离线指标持续优于强基线,模型容量与上下文长度成正比提升性能。线上AB测试中,探索流时间提升0.33%、互动提升1.25%;广告点击率提升8.18%、广告价值增长3.43%;商家GMV提升1.19%、GPM提升2.16%。模型在多场景下实现资源共享与专业化平衡,有效降低工程成本,提升用户体验。
- 通过多目标训练策略,模型在不同场景中表现出优异的适应性,特别是在长序列建模和多目标优化方面优于传统单场景模型。引入SAIM机制显著减少跨场景干扰,增强模型的迁移能力。多目标损失函数结合自监督和监督目标,有效引导模型学习多维用户偏好。
- 消融实验表明,场景感知调制和分层用户表征是性能提升的关键因素。多目标训练和特征预取策略进一步提升模型效率和效果。模型在不同上下文长度和容量下表现稳定,验证其工业实用性和扩展性。
研究意义
该研究突破了多场景平台级推荐的瓶颈,提供了统一的长序列建模框架,有效整合多业务线用户行为信息。解决多目标优化与场景干扰问题,为工业级推荐系统提供了可扩展、可部署的解决方案。推动了推荐系统从单一场景向多场景融合的演进,极大提升了信息利用率和用户体验,降低了工程复杂度与维护成本,具有深远的行业影响。
技术贡献
提出场景感知信息调制(SAIM)机制,有效缓解多场景干扰;设计多目标端到端训练框架,结合多层次用户表征;实现分层用户模型与特征预取,优化在线推理效率。模型采用Transformer解码器,支持长序列建模,结合多目标损失实现多场景专业化。整体架构兼顾性能、效率与部署成本,推动工业推荐系统的技术边界。
新颖性
首次提出面向平台多场景的统一长序列生成排序框架,融合场景感知调制与多目标优化,突破传统单场景模型的局限。不同于以往多任务或多模型方案,OneModel实现多场景信息共享与专业化平衡,兼顾工业部署需求,具有较强创新性。
局限性
- 模型在极端场景下可能仍存在迁移不足的问题,尤其在新场景或冷启动阶段。模型训练依赖大量长序列数据,计算成本较高,部署复杂。未来需进一步优化模型压缩与推理效率,增强对新场景的适应能力。
未来方向
未来将探索更高效的模型压缩技术,提升模型在边缘设备的部署能力。同时,结合强化学习或用户反馈机制,动态调整场景调制策略,增强模型的适应性和鲁棒性。还将研究多模态信息融合,丰富用户行为表示,推动多场景推荐的智能化发展。
AI 总览摘要
在当今互联网平台中,推荐系统扮演着核心角色,直接影响内容分发、商业转化和用户体验。传统方法多依赖单一场景,难以充分利用跨场景的用户行为信息,导致模型碎片化、工程成本高昂。本文提出OneModel,一种面向平台多场景的统一排序框架,旨在解决多业务线用户行为的连续性与异构性问题。
该模型通过场景感知特征投影与结构化上下文编码,将不同场景的行为映射到共享事件序列,构建行动导向的长序列骨架,学习用户的长远偏好。引入场景感知信息调制(SAIM)机制,有效缓解跨场景干扰,实现迁移与专业化的平衡。模型支持端到端多目标训练,结合分层用户表征、特征预取和图级推理优化,满足工业部署的实时性与效率需求。
在小红书平台的实际部署中,OneModel在离线指标上优于传统基线,线上AB测试显示在探索流、广告和商家推荐场景中均取得显著提升:探索流的时间提升0.33%、互动提升1.25%;广告的CTR提升8.18%、广告价值增长3.43%;商家GMV提升1.19%、GPM提升2.16%。这些结果验证了模型在多场景、多目标环境中的优越性和实用性。
该研究不仅推动了多场景推荐的技术发展,也为工业界提供了可扩展、可部署的解决方案。未来,将继续优化模型效率,增强新场景适应性,探索多模态融合,推动推荐系统向更智能、更高效的方向发展。
深度分析
研究背景
随着互联网内容和电商平台的快速发展,推荐系统逐渐成为核心基础设施。早期多采用基于特征交互的判别模型,如FM、DeepFM,逐步演进到序列建模如DIN、Transformer等,强调用户行为的长序列理解。近年来,生成式推荐和大规模序列模型(如HSTU、GenRank)通过引入长序列记忆和内容理解,显著提升了推荐效果。然而,这些模型多针对单一场景,难以满足多场景、多目标的工业需求,导致模型碎片化、资源浪费。多任务学习和多模型方案虽能缓解部分问题,但仍存在信息隔离、工程复杂等瓶颈。工业平台如小红书,用户在不同业务线(内容推荐、广告、商家服务)中行为连续,亟需一种统一的模型架构,充分利用跨场景信息,提升效率与效果。
核心问题
核心问题在于如何在保证模型性能的同时,支持多场景、多目标的工业部署。不同场景存在异构特征空间、目标冲突和干扰,单一模型难以兼顾专业化和迁移能力。传统多任务方案多采用浅层共享,难以捕获长序列中的深层次关系,且部署时长序列建模成本高昂。此外,场景干扰导致迁移效果不佳,模型难以在实时系统中高效运行。解决这些问题需要创新的模型架构,兼顾信息共享与场景专业化,确保模型在复杂多变的工业环境中稳定高效。
核心创新
本文的创新点包括:1)场景感知信息调制(SAIM),通过轻量级门控机制减缓跨场景干扰,增强模型迁移能力;2)多目标端到端训练框架,结合自监督和监督目标,提升多场景适应性;3)分层用户表征,融合全局偏好与短期意图,提升个性化效果;4)长序列骨架采用Transformer解码器,支持大规模长序列建模,兼顾效率与效果;5)特征预取和图级推理,优化在线推理性能。这些创新结合,推动了工业多场景推荐的技术边界。
方法详解
- �� 行动导向的序列组织:将行为动作作为预测目标,物品作为上下文,减少序列长度。
- �� 场景感知特征投影:对不同场景的特征进行轻量级投影,映射到统一空间。
- �� 结构化上下文编码:引入场景、动作、时间、位置等信息,丰富行为表示。
- �� 长序列建模:采用Transformer解码器,结合因果掩码和候选掩码,支持多场景长序列学习。
- �� 场景感知调制:在FFN中引入门控机制,减缓跨场景干扰。
- �� 分层用户表征:融合全局偏好与局部意图,增强用户模型。
- �� 多目标训练:结合自监督和多任务目标,优化多场景性能。
- �� 线上推理优化:特征预取、用户状态缓存、图级推理,提升实时性。
实验设计
在小红书平台采集的真实数据集上,评估模型在多场景下的表现。采用AUC、LogLoss等指标,比较单场景与多场景训练效果。设置不同上下文长度和模型容量,验证模型的扩展性。通过消融实验分析SAIM机制、分层表征和多目标策略对性能的贡献。线上AB测试在探索流、广告和商家推荐中,验证模型的实际效果和部署效率。结果显示,OneModel在多场景下均优于传统模型,且资源利用率显著提升。
结果分析
模型在离线指标上持续优于基线,广告点击率提升8.18%,GMV提升1.19%。AB测试中,探索流时间提升0.33%,互动率提升1.25%;广告CTR提升8.18%,广告价值增长3.43%;商家GMV提升1.1867%,GPM提升2.1585%。消融实验验证,场景调制和分层表征是性能提升的关键。模型在不同上下文长度和容量下表现稳定,验证其工业实用性。
应用场景
该模型适用于多场景推荐平台,支持内容、广告和商家服务的联合排序。依赖长序列行为数据,结合多目标优化,提升用户体验和商业转化率。未来可扩展到多模态信息融合,支持更复杂的场景需求,推动智能推荐的发展。
局限与展望
模型训练成本高,长序列建模对计算资源要求大。在新场景或冷启动时表现仍有限,场景调制机制需要进一步优化。未来需研究模型压缩与推理加速技术,增强适应性和普适性。
通俗解读 非专业人士也能看懂
想象你在一家大型厨房里准备一顿丰富的晚餐。每个菜肴代表一个不同的场景,比如主菜、甜点、饮料。厨师(模型)需要根据不同的菜肴特点,合理安排食材和烹饪步骤。传统厨师可能只专注于一道菜,效果有限。而这个新厨师(OneModel)可以同时处理多道菜,记住所有食材的搭配和烹饪时间,还能根据不同菜肴的需求调整调味料的用量。它还能学习你的偏好(喜欢辣的还是甜的),在不同场合(家庭聚会或正式宴会)都能灵活应对。这样一来,不仅节省了时间,也保证了每道菜都色香味俱佳。这个厨师就像模型一样,融合了多场景信息,既专业又高效,能应对复杂的厨房任务。
简单解释 像给14岁少年讲一样
想象你在玩一个超级复杂的游戏,里面有很多不同的任务,比如打怪、收集宝藏、交朋友。每个任务都需要不同的策略,但有时候它们会互相影响,比如交朋友会帮你打怪,收集宝藏也能帮你升级。以前的游戏设计师会为每个任务做一个专门的程序,但这样太麻烦,也不方便升级。现在,有个聪明的设计师(模型)发明了一套办法,让所有任务都用一个大脑来处理。这个大脑可以记住你所有的行动,知道你喜欢什么,在哪个任务上表现最好。它还能根据不同任务的需要,调整自己的策略,比如在打怪时变得更勇敢,在交朋友时更善良。这样一来,无论你做什么,游戏都能变得更聪明、更有趣,也更容易升级。这个大脑就像模型一样,能同时处理很多不同的任务,还能学会你的偏好,帮你变得更厉害!
原文摘要
Platform-scale recommender systems often span multiple business streams such as organic recommendation, advertising, and merchant services, where user behaviors form a continuous cross-stream trajectory. Maintaining separate ranking systems fragments user representations and increases engineering cost. We propose \textbf{OneModel}, a unified framework for multi-stream final ranking. OneModel maps heterogeneous behaviors into shared event sequences, learns long-context user representations with an action-oriented backbone, and introduces \emph{Scenario-aware Information Modulation} to balance cross-stream transfer and stream-specific specialization. For production deployment, OneModel further adopts stratified user representation, multi-objective training, and optimized online serving with feature decomposition, user feature prefetching, shared user-tower computation, and graph-level inference optimization. We deploy OneModel in production at \emph{Xiaohongshu}, where it delivers consistent offline gains over strong baselines and scales favorably with context length and model capacity. Online A/B tests improve Time Spent by \textbf{+0.33\%} and Engagement by \textbf{+1.25\%} in Explore Feed, lift advertising value by \textbf{+3.43\%} and CTR by \textbf{+8.18\%} in Feed Advertising, and raise DGMV by \textbf{+1.1867\%} and GPM by \textbf{+2.1585\%} in Merchant Recommendation, validating unified multi-stream ranking as an effective production foundation.