【Transformer论文】使用 Transformer 网络的会话感知项目组合推荐

news/2024/7/19 8:37:35 标签: transformer, 深度学习, 推荐系统
  • 文献题目:Session-aware Item-combination Recommendation with Transformer Network

摘要

  • 在本文中,我们详细描述了我们的 IEEE BigData Cup 2021 解决方案:基于 RL 的 RecSys(Track 1:Item Combination Prediction)。 我们首先对数据集进行探索性数据分析,然后利用这些发现来设计我们的框架。 具体来说,我们使用==基于双头转换器的网络来预测用户反馈和解锁会话,==以及建议的会话感知重新加权损失、带有点击行为预测的多任务处理和会话中的随机性增强。 在 Kaggle 的最终私人排行榜中,我们的方法以 0.39224 的分类准确度排名第二。

引言

  • IEEE BigData Cup 2021: RL-based RecSys (Track 1: Item Combination Prediction) [1] 的任务是根据用户的点击历史、肖像特征和项目特征,预测每个用户对九个暴露项目的购买反馈。 此任务的特殊设置是九个项目分为三个会话。 用户只有在当前会话中购买了所有三个项目后才能解锁后续会话。
  • 更正式地说,给定用户u(以及他/她的点击历史记录cu,1, cu,2,…,部分人像特征为、……, fu,10)和他/她的9个暴露项目iu,1, iu,2,…, iu,9(以及一些项目特征fi,1, fi,2,…i),目标是预测9种交互yu,1, yu,2,…, yu,9∈{0,1}。每一次交互都表明该用户是否会购买相应的商品。此外,在这个场景中,中间的三项商品iu、4、iu、5、iu、6直到用户购买了前面三项商品iu、1、iu、2、iu、3才会解锁,同样,最后三项商品iu、7、iu、8、iu、9直到用户购买了前面六项商品iu、1、iu、2、……, iu,6 (c.f.图1)。该任务的评价指标为分类精度(Categorization Accuracy)度量,定义如下:
    在这里插入图片描述
    。。。
    为了克服上述挑战,我们提出了一个精致的基于双头变压器的框架来预测用户的购买行为和解锁会话。解锁的会话预测可以用来改进不合理的购买预测。我们进一步提出了一种会话随机增强技术和一种新的会话感知重加权损失,以解决该场景中的独特特征。最后,利用带有点击预测的多任务训练程序来辅助嵌入层的学习。大量的实验和烧蚀研究证明了我们的方法的有效性。接下来,我们将在第二部分进行探索性的数据分析,在第二部分描述我们提出的方法,最后在第二部分进行讨论和未来的工作

http://www.niftyadmin.cn/n/1399124.html

相关文章

【推荐系统论文】推荐系统的监督优势 Actor-Critic

文章标题:Supervised Advantage Actor-Critic for Recommender Systems发表时间:2022 摘要 通过奖励信号将基于会话或顺序的推荐作为强化学习 (RL) 是朝着最大化累积利润的推荐系统 (RS) 的一个有前途的研究方向。 然而,由于策略外训练、巨…

【Transformer论文】通用代理

文章题目:A Generalist Agent 摘要 受大规模语言建模进展的启发,我们应用了类似的方法来构建超越文本输出领域的单一通才代理。 代理,我们称之为 Gato,作为一种多模式、多任务、多实施的通才策略工作。 具有相同权重的相同网络可…

【Transformer论文】CMKD:用于音频分类的基于 CNN/Transformer 的跨模型知识蒸馏

文献题目:CMKD: CNN/Transformer-Based Cross-Model Knowledge Distillation for Audio Classification文献时间:2022 摘要 音频分类是一个活跃的研究领域,具有广泛的应用。 在过去十年中,卷积神经网络 (CNN) 已成为端到端音频分…

【计算机视觉】有限标签的场景图预测

文献题目:Scene Graph Prediction with Limited Labels 摘要 诸如视觉基因组之类的视觉知识库为计算机视觉中的众多应用提供了支持,包括视觉问答和字幕,但存在稀疏、不完整的关系。迄今为止,所有场景图模型都仅限于在一小部分视…

【知识图谱论文】知识图谱的多模态数据增强表示学习

论文题目:Multimodal Data Enhanced Representation Learning for Knowledge Graphs论文期刊: IJCNN论文时间:2019 摘要 知识图谱或知识库在人工智能领域的各种应用中发挥着重要作用。在知识图谱的研究和应用中,知识表示学习是基…

【知识图谱论文】稀疏知识图上多跳推理的动态预期与补全

Article 文章题目:Dynamic Anticipation and Completion for Multi-Hop Reasoning over Sparse Knowledge Graph代码:https://github.com/THU-KEG/DacKGR 摘要 近年来,多跳推理得到了广泛的研究,以寻求一种有效且可解释的知识图…

【强化学习论文】柔性行为综合的扩散规划

文献题目:Planning with Diffusion for Flexible Behavior Synthesis发表时间:2022 摘要 基于模型的强化学习方法通常只将学习用于估计近似动力学模型,将其余的决策工作卸载给经典的轨迹优化器。虽然概念上很简单,但这种组合有许…

5G 技术特点与应用

5G技术与应用场景 ​ 1、概述 ​ 随着时代的快速发展,科学技术也不断创新以及改进,其中通信技术发展尤为迅速,为移动通信技术 的更新换代提供条件支持。目前为止,通信领域最先进的技术是5G移动通信技术,预计会在2020年广泛使用,…