UniDot：用于大规模推荐中的序列建模与特征交互的统一网络

工业推荐系统依赖于两类在很大程度上独立演进的模型：针对多字段用户/物品特征的特征交互模型，以及针对用户行为历史的序列模型。生产系统通常只是将它们松散地耦合在一起。为统一这两者，我们提出了 UniDot，这是一种用于点击后转化预测的新型架构，基于因子分解机（FM）的视角构建：支撑协同过滤并使推荐系统能够泛化到未见过的用户--物品对的嵌入内积，与注意力机制中的 query 点乘 key 打分是同一种基本操作，因此单一的 token 点积即可同时支撑特征交互和序列建模。UniDot 将非序列字段和多域行为序列 token 化到一个共享的 token 空间中，并堆叠一个统一的宏块：其中 token-mixing 总线与序列检索总线（物品 token 对历史进行交叉注意力）并行运行，并在每一层通过 MLP-Mixer 融合交换状态，同时 FM Highway 将每层显式的点积交互绕过残差堆栈直接传递给分类器。序列侧在每次前向传播中仅嵌入一次，并由所有消费者共享，从而限制推理延迟。UniDot 采用双重稀疏/稠密（Adagrad + Muon）优化器、辅助转化延迟头以及多路径互学习进行训练，并在 TAAC KDD Cup 2026 工业赛道中获得亚军。