《Attentive Collaborative Filtering: Multimedia Recommendation with Feature- and Item-level Attention 》是今年SIGIR上的一篇关于Attention Model用于推荐系统CF上的方法

Abstract

这部分作者首先说对于多媒体信息，多为0/1信息（照片的点赞，歌曲的下载，视频的观看），相较于需要feedback的打分信息其更容易获取。但是目前已有的推荐算法，并不能够很好的用于推荐多媒体信息上面。因为多媒体信息方面，包含item和component两个部分，比如对于一个视频的“浏览”，并不能得到user是怎样喜欢这个视频的和喜欢这个视频的哪部分。为了解决这个问题，作者提出了他们的方法。
作者说他们的方法包含两个Attention部分，对于内容的提取用CNN抽取video/image的特征，而item层面用另一个Attention Model去学习用户对商品打分的偏好。

Introduction

这部分作者先说了下多媒体信息越来越多了，举了不少例子，video，image，song等等，而且多媒体的feedback相较于传统商品，缺乏明确的feedback，而更多的是一些隐含的feedback，比如（点赞，浏览，下载）等。而传统的CF方法，对于这种处理起来就不是很好。
作者说传统方法忽略了多媒体推荐的两点：
1. item-level implicit feedback. 作者说传统的CF方法，只注重user和item的关系，但是其实这些关系有些情况下也是多样的，比如点赞关系，有可能你并不是真的喜欢，而是只是因为发的人是你的好友，你就点赞了。所以需要Attention Model去捕捉这种信息。
2. Component-Level Implicit Feedback.多媒体信息包含很多不同的内容的，看一个视频，可能只是喜欢其中某一个部分。而传统的方法是将其内容给看成了一个整体，这样的是不够的。

将这两个结合用到推荐中，是non-trivial的，因为这个层面的信息并不能够直接获取。所以作者提出了他们的方法ACF。这个方法将item和user给映射到同一个向量空间中，使得他们直接相比。

作者方法的整体框架是，用一个多层神经网络，将item和user的特征还有item本身的内容特征作为输入。而item的本身内容特征是由其各个子内容用attention weight加权得到的。所以这个component-level的模型，也是一个多层神经网络，将user和内容作为输入。

RELATED WORK

Implicit Feedback

Implicit Feedback被称为one-class问题，因为其缺乏负反馈。除了正反馈之外，其余部分混合着负反馈和missing value。所以并不好从隐式反馈中得到user不喜欢什么。
之前对此的处理方法主要分为：sample based learning and wholed-ata based learning 。前者采样一些作为负反馈，后者将所有都当成负反馈。这两种方法都有一些不足，详见论文。

Multimedia Recommendation

目前为止多媒体推荐这块的算法，效果好的基本上都是基于CF系统的。但是因为数据稀疏性，其对新数据（冷启动）和尾部内容效果不好。

Attention Mechanism

就是介绍了些关于Attention model的相关东西，这个大家应该都比较熟悉。

PRELIMINARIES

这部分作者介绍了自己论文中的方法。
先是介绍了隐变量模型，就是协同过滤中的MF方法。然后这种方法一般只适用于打分项目，而对于0/1值这种推荐，并不太适用。对于这种的话有种方法叫做贝叶斯个性化推荐（BPR）