CAdam: Confidence-Based Optimization for Online Learning

现代推荐系统广泛采用在线学习来动态更新模型。这一场景中最常用的优化器是 Adam，它整合了动量（mₜ）和自适应学习率（vₜ）。然而在线学习数据的易变特性——频繁的分布漂移和噪声——给 Adam 的标准优化过程带来了两大挑战：（1）Adam 可能使用过时的动量和梯度平方均值，导致对分布变化的适应变慢；（2）Adam 的性能会受到数据噪声的不利影响。为此我们提出 CAdam，一种基于置信度的优化策略：在每个参数维度上，先评估动量与当前梯度的方向一致性，再决定是否更新。若二者方向一致，CAdam 按 Adam 原有公式更新参数；若不一致，则暂缓更新，并在后续迭代中观察是否出现真实的分布漂移。这使 CAdam 能够区分真实分布变化与纯粹的噪声，从而更快地适应新数据分布。在包含分布漂移或噪声的多种设定下，实验表明 CAdam 超越了包括原始 Adam 在内的多个知名优化器。此外，在一个大规模线上推荐系统的 A/B 测试中，CAdam 相比 Adam 显著提升了模型性能，带来了 GMV 的可观增长。