总结 ==== 本节我们围绕“特征交叉自动化”这一核心主题,探索了推荐模型如何从繁琐的人工特征工程中解放出来。从因子分解机(FM)开创性地使用隐向量内积解决二阶交叉的参数爆炸和数据稀疏问题开始,我们见证了二阶特征交叉技术的不断演进——通过AFM引入注意力机制、NFM结合深度学习、PNN探索不同的乘积操作,再到FiBiNET引入特征重要性学习,实现了更加精细和个性化的二阶特征交互。 随后,我们深入探讨了高阶特征交互技术:深度交叉网络(DCN)通过残差连接实现元素级别的显式高阶交叉,xDeepFM的压缩交互网络(CIN)实现了向量级别的高阶特征交互,而AutoInt则借鉴Transformer的自注意力机制,为高阶特征交互带来了前所未有的自适应性和灵活性。 至此,我们已经能够高效、自动地捕捉特征间的静态组合关系。然而,这些模型大多将用户的历史行为视为一个无序的集合,忽略了行为发生的时间顺序和其背后蕴含的兴趣演化过程。当用户最近浏览了鼠标和键盘,再向他推荐显示器,这与他先浏览乐谱再浏览键盘的场景,其推荐逻辑显然不同。如何捕捉这种动态的、随时间演化的用户兴趣,将是我们下一章将要探讨的核心问题。