多兴趣向量重构用户向量

2025-02-12

作者：张圣宇

论文：《Re4: Learning to Re-contrast, Re-attend, Re-construct for Multi-interest Recommendation》

一般的多兴趣建模过程是对用户序列进行编码，抽取出用户的多个兴趣向量，然后利用这些用户兴趣向量进行下一步候选集选取。这篇paper将这个过程称为前向流过程(forward flow)，即物料序列到多兴趣向量的过程。论文提出了一个后向流过程(backward flow)，即用抽取的多个兴趣向量来重构物料向量。不论是MIND还是ComiRec-SA，抽取多兴趣的过程没有保证多个兴趣向量的差异性，也没有保证兴趣向量的相关性和推荐系统的误差是一致的。

重构结构

这个前向流就是多兴趣提取的过程，后向流就是论文提出的

前向流

前向流中，第i ii个序列行为在第k kk个兴趣上的相关性分数为

​

后向流

Re-contrast

重新对比的动机是提取的多兴趣向量没法保证差异性，所有的兴趣向量可能在向量空间中非常接近。根据兴趣向量构造正负例进行对比学习，如上面结构图所示，拉近表示相同兴趣的向量距离，推远不同兴趣的距离。

Re-construct

利用得到的兴趣向量来重构用户行为向量，使得和原来的用户行为向量尽量保持一致。

这个还原操作看起来非常合理，不过计算量还是比较大的，实际上线可能会增加些耗时。

最终的损失函数