核心发现
方法论
本文提出了一种新的多任务学习方法，称为整个空间多任务模型（ESMM），通过引入辅助任务（CTR和CTCVR），解决了样本选择偏差和数据稀疏问题。ESMM在整个输入空间上建模CVR，利用特征表示转移学习策略，显著提高了模型的泛化性能。
关键结果
- 在淘宝推荐系统数据集上，ESMM在CVR任务中的AUC提高了2.56%，在CTCVR任务中提高了3.25%。
- ESMM在8.9亿样本的产品数据集上，CVR任务的AUC提升了2.18%。
- ESMM在CTCVR任务中，AUC比BASE模型高出2.32%。
研究意义
ESMM通过解决样本选择偏差和数据稀疏问题，为推荐系统和广告中的CVR建模提供了更准确的预测。这种方法不仅提高了模型的性能，还为未来的用户行为预测研究提供了新的思路。
技术贡献
ESMM通过在整个输入空间上建模CVR，避免了传统方法中的样本选择偏差问题。通过共享CTR和CVR网络的嵌入参数，ESMM有效地利用了未点击样本的信息，缓解了数据稀疏问题。
新颖性
ESMM首次在CVR建模中引入了多任务学习框架，通过辅助任务的引入，解决了传统方法中未被充分利用的用户行为序列信息。
局限性
- ESMM在处理延迟反馈问题时可能表现不佳，因为该模型未专门针对这种情况进行优化。
- 模型在大规模数据集上的计算成本较高，可能需要更多的资源。
未来方向
未来的研究可以探索将ESMM与其他延迟反馈处理方法结合，进一步提高模型的适应性。此外，可以考虑在多阶段用户行为预测中应用类似的多任务学习框架。
AI 总览摘要
在推荐系统和广告中，准确估计点击后转化率（CVR）是一个关键任务。传统的CVR建模方法通常依赖于深度学习技术，但在实际应用中面临样本选择偏差和数据稀疏的问题。为了解决这些挑战，本文提出了整个空间多任务模型（ESMM），通过引入两个辅助任务（CTR和CTCVR），在整个输入空间上建模CVR。
ESMM通过共享CTR和CVR网络的嵌入参数，利用未点击样本的信息，显著提高了模型的泛化性能。实验结果表明，ESMM在淘宝推荐系统数据集上的表现优于现有的竞争方法，CVR任务的AUC提高了2.56%。
这种方法不仅为CVR建模提供了更准确的预测，还为未来的用户行为预测研究提供了新的思路。尽管ESMM在处理延迟反馈问题时可能表现不佳，但其在大规模数据集上的成功应用展示了其在工业应用中的巨大潜力。
深度分析
研究背景
在电子商务和在线广告领域，点击后转化率（CVR）预测是一个关键任务。传统的CVR建模方法通常依赖于深度学习技术，如深度神经网络和多层感知器。然而，这些方法在实际应用中面临样本选择偏差和数据稀疏的问题。样本选择偏差是由于模型仅在点击样本上训练，而在所有展示样本上推断，导致模型泛化性能下降。数据稀疏则是因为点击事件的稀少性，导致训练数据不足。
核心问题
CVR建模面临的核心问题是样本选择偏差和数据稀疏。样本选择偏差导致模型在未观察到的样本上表现不佳，而数据稀疏使得模型难以在有限的训练数据上进行有效学习。这两个问题严重影响了CVR模型的准确性和稳定性。
核心创新
ESMM通过引入多任务学习框架，解决了样本选择偏差和数据稀疏问题。• 引入辅助任务：通过同时预测CTR和CTCVR，ESMM在整个输入空间上建模CVR。• 特征表示转移：共享CTR和CVR网络的嵌入参数，利用未点击样本的信息。• 乘法形式：避免了传统方法中除法导致的数值不稳定性。
方法详解
- �� 数据集：使用淘宝推荐系统的流量日志，包含8.9亿样本。• 模型结构：ESMM由两个子网络组成，分别用于CTR和CVR任务。• 损失函数：由CTR和CTCVR任务的损失组成，利用交叉熵损失函数。• 参数共享：CTR和CVR网络共享嵌入层参数，进行特征表示转移。
实验设计
实验使用淘宝推荐系统的数据集，包含8.9亿样本。基线模型包括BASE、AMAN、OVERSAMPLING、UNBIAS等。评估指标为AUC，实验在CVR和CTCVR任务上进行。所有模型共享相同的网络结构和超参数设置。
结果分析
ESMM在CVR任务中的AUC提高了2.56%，在CTCVR任务中提高了3.25%。相比于BASE模型，ESMM在大规模数据集上表现出色，CVR任务的AUC提升了2.18%。这些结果表明，ESMM在解决样本选择偏差和数据稀疏问题上具有显著优势。
应用场景
ESMM可用于电子商务和在线广告中的推荐系统，提供更准确的CVR预测。其在大规模数据集上的成功应用展示了其在工业应用中的潜力。需要注意的是，模型在处理延迟反馈问题时可能表现不佳。
局限与展望
ESMM在处理延迟反馈问题时可能表现不佳，因为该模型未专门针对这种情况进行优化。此外，模型在大规模数据集上的计算成本较高，可能需要更多的资源。未来的研究可以探索将ESMM与其他延迟反馈处理方法结合，进一步提高模型的适应性。
通俗解读 非专业人士也能看懂
想象你在一个巨大的图书馆中寻找一本特定的书。传统的方法只关注那些已经被借阅过的书，而忽略了那些从未被借阅的书。ESMM就像是一个聪明的图书管理员，它不仅考虑那些已经被借阅的书，还会根据书的类别、作者和主题来推测那些未被借阅的书是否值得推荐。通过这种方式，ESMM能够更全面地了解整个图书馆的书籍，从而做出更准确的推荐。
简单解释 像给14岁少年讲一样
嘿，小伙伴们！想象一下，你在玩一个游戏，目标是找到隐藏的宝藏。传统的方法就像是只关注那些已经被发现的宝藏，而忽略了那些可能被遗漏的。ESMM就像是一个超级侦探，它不仅会查看已经找到的宝藏，还会根据地图上的线索来推测其他可能的宝藏位置。这样，它就能帮助你更快地找到所有的宝藏！是不是很酷？
术语表
点击后转化率 (CVR)
指用户在点击广告或推荐后实际进行购买或其他转化行为的概率。
在本文中，CVR是需要预测的核心指标。
样本选择偏差
指模型在训练时使用的样本与实际应用场景中的样本分布不一致，导致模型泛化能力下降。
传统CVR模型在点击样本上训练，而在所有展示样本上推断，导致样本选择偏差。
数据稀疏
指用于训练模型的数据量不足，导致模型难以有效学习。
由于点击事件的稀少性，CVR模型面临数据稀疏问题。
多任务学习
一种机器学习方法，通过同时学习多个相关任务，提高模型的泛化能力。
ESMM通过引入多任务学习框架，解决样本选择偏差和数据稀疏问题。
特征表示转移
一种通过共享模型参数来利用不同任务之间的特征信息的方法。
ESMM通过共享CTR和CVR网络的嵌入参数，实现特征表示转移。
开放问题 这项研究留下的未解疑问
- 1 如何在处理延迟反馈问题时优化ESMM的性能？现有方法未专门针对这种情况进行优化。
- 2 在多阶段用户行为预测中，如何有效应用多任务学习框架？
- 3 如何降低ESMM在大规模数据集上的计算成本？
应用场景
近期应用
电子商务推荐系统
ESMM可用于提高推荐系统中的CVR预测准确性，帮助平台更好地匹配用户和商品。
在线广告优化
通过更准确的CVR预测，广告平台可以优化广告投放策略，提高广告效果。
远期愿景
多阶段用户行为预测
探索将ESMM应用于多阶段用户行为预测，如请求→展示→点击→转化，提升整体预测性能。
原文摘要
Estimating post-click conversion rate (CVR) accurately is crucial for ranking systems in industrial applications such as recommendation and advertising. Conventional CVR modeling applies popular deep learning methods and achieves state-of-the-art performance. However it encounters several task-specific problems in practice, making CVR modeling challenging. For example, conventional CVR models are trained with samples of clicked impressions while utilized to make inference on the entire space with samples of all impressions. This causes a sample selection bias problem. Besides, there exists an extreme data sparsity problem, making the model fitting rather difficult. In this paper, we model CVR in a brand-new perspective by making good use of sequential pattern of user actions, i.e., impression -> click -> conversion. The proposed Entire Space Multi-task Model (ESMM) can eliminate the two problems simultaneously by i) modeling CVR directly over the entire space, ii) employing a feature representation transfer learning strategy. Experiments on dataset gathered from Taobao's recommender system demonstrate that ESMM significantly outperforms competitive methods. We also release a sampling version of this dataset to enable future research. To the best of our knowledge, this is the first public dataset which contains samples with sequential dependence of click and conversion labels for CVR modeling.