融合项目热门惩罚因子改进协同过滤推荐方法

刘雯雯，汪皖燕，程树林

(安庆师范大学 计算机与信息学院，安徽 安庆 246133)

0 引 言

随着互联网技术的飞速发展和各种网络平台的日益兴盛，用户面临着日益严重的数据超载、检索困难等问题[1]。用户无法快速、精准地从海量的信息库中获取所需要的信息。为缓解这些问题，推荐系统[2]应运而生，它不需要用户提供明确的需求信息，而是通过主动跟踪用户的历史行为记录来发掘用户的偏好，进而为用户推荐合适的项目[3]。推荐算法是推荐系统的核心，好的推荐算法会为推荐系统带来更好的推荐效果。

但传统推荐算法大多存在着项目热门度偏差问题[4-5]：传统协同过滤推荐算法[6]通常偏向于推荐热门项目[7]，忽视了对小众用户偏好的非热门项目的推荐。虽然推荐热门项目通常是一个很好的选择，但推荐列表中可能存在较为普遍的项目，因此，传统协同过滤推荐算法在促进新项目的发现上存在一定的不足，亦忽视了小众用户的偏好，从而导致对非热门项目或新项目的推荐存在缺陷，因为只有极少数用户甚至没有用户对这些项目进行过评分。研究表明，非热门项目的价值远高于热门项目，可以为用户带来更大的收获或利益[8-9]。推荐系统中非热门项目的数量远多于热门项目(项目热门度较高的项目)的数量，随着推荐系统的不断发展，非热门项目的数量也在持续增长中，如果过多推荐热门项目而忽视对非热门项目的推荐，就有可能在一定程度上降低推荐的精度。

另外，推荐系统中存在的项目热门度偏差问题可能会对社会造成不良影响[4]。比如，在微博、Facebook等社交网站中，用户的订阅大多来源于推荐系统，其影响着用户的言行举止，若大肆为用户推荐不当的言论或行为，可能会对用户造成不好的影响。例如总是为用户推荐凶杀、猥亵、校园暴力等事件会造成用户的恐慌和不安，甚至造成社会动荡。针对该问题，该文提出一种融合项目热门惩罚因子改进协同过滤推荐方法。引入热门阈值，根据项目热门度将项目进行二分类，即热门项目和非热门项目。对于热门项目，融合项目热门惩罚因子改进协同过滤推荐方法，降低热门项目的贡献，从而提升推荐精度，提高用户满意度。

1 相关工作

传统推荐算法的推荐列表中热门项目更容易被推荐，这过于强调大众偏好，忽视了向小众用户推荐其偏好的非热门项目的重要性。以书籍推荐为例，绝大多数的研究者都购买过《机器学习》这本书，而《推荐系统》是仅研究推荐系统的小众用户才可能购买的一本书。相比较而言，推荐《推荐系统》比推荐《机器学习》更能满足这些小众用户的需求，提高其满意度。为此专家学者从不同层面对热门推荐进行了相关研究，主要的热门推荐分为以下三类。

(1)基于正则化的推荐。Abdollahpouri等人[10]引入一个灵活的基于正则化的框架，以增强学习排名(Length-to-Rank，L2R)算法中推荐列表的非热门项目覆盖率，但这里的热门项目与非热门项目是按50/50划分的，未考虑其他情况，如20/80。Zhu等人[11]提出公平性问题中的一个新定义：popularity-opportunity bias。他们认为根据用户的偏好，热门项目比非热门项目更有可能被推荐给用户的这种偏差现象是不合理的，并实证了该偏差的存在，然后通过后处理和内处理两种算法来缓减这种偏差。后处理是按一定规则提高非热门项目的得分，从而使其获得与热门项目相似的排名，内处理是采用正用户项目对的预测偏好分数和相应项目热门度间皮尔逊相关系数的平方的正则化项来实现项目的公平推荐。

(2)基于交互关系的推荐。Sun等人[12]提出了一种基于主题模型的用户行为记录、项目标签信息和社会关系联合建模方法，分别构建目标用户与一组项目、项目标签和社交用户的对应关系，从而间接构建用户与非热门项目的映射关系，提高非热门项目的推荐。Meghawat等人[13]提出一种多模式方法，该方法利用视觉特征(即内容信息)、文本特征(即上下文信息)和社交特征(例如平均浏览量和群组数量)来预测社交媒体照片在浏览量方面的项目热门度。

(3)基于检测关键信息的推荐。Liu等人[14]提出一种新的结合关键词驱动和项目热门度感知的基于无向引文图的论文推荐方法，该方法推荐的论文关联性强且项目热门度高，同时其推荐的结果支持用户对某个主题或领域进行深入、持续的研究，但建立的无向引文图可能存在严重的稀疏问题。Wang等人[15]提出一种新的带有辅助语义学习的联合深度网络模型，引入文本分析到热门推荐中。首先，使用优化后的字符级卷积神经网络(Character-level Convolutional Neural Network，CharCNN)从用户评论中学习辅助语义向量；然后，使用因子分解机(Factorization Machine，FM)组件和深度组件学习项目属性特征的相应向量表示；同时，采用卷积来模拟隐藏的潜在向量间的相互作用。Piotrkowicz等人[16]提出一个只使用标题来预测新闻文章项目热门度的新任务, 侧面证明了标题对新闻文章项目热门度的影响。

2 融合项目热门惩罚因子改进协同过滤推荐方法

由于原始项目评分数据稀疏度较高，会降低推荐的精度，该文先按照文献[17]的方法对原始项目评分数据中的空缺评分项进行预填充，得到项目评分矩阵R。即根据用户的动态偏好阈值将项目划分成用户偏好项目和用户非偏好项目两部分，对于用户非偏好项目，采用原始项目评分数据中该用户的最低评分进行填充；对于用户偏好项目，融合用户平均评分和项目平均得分以合适的比例进行填充。然后，分析项目热门度，根据热门阈值将项目划分成热门项目和非热门项目。对于热门项目，采用项目热门惩罚因子降低它的贡献；对于非热门项目，则用传统方法进行处理。

2.1 项目热门度

项目热门度：在有限项目集合SI和用户集合SU中，对项目进行过评分的用户数与项目评分数据中总用户数的比例即为该项目的项目热门度，如式(1)所示。

(1)

其中，若用户u对项目i进行过评分，则λu,i=1；否则λu,i=0。|SU|表示项目评分数据中总用户数，Hi表示项目i的项目热门度，其取值范围在[0,1]之间。Hi的值越大，表明项目越热门。若直接采用对项目进行过评分的用户数度量项目热门度，则忽视了用户基数总量对项目热门度的影响。假设在数据A和B中，数据A共有10位用户，数据B共有50位用户，其中，均有5位用户对项目i进行过评分。若直接用对项目进行过评分的用户数来度量项目i的项目热门度，则其在数据A、B中的项目热门度均为5，很明显这是不准确的；若采用文中的度量方法，则项目i在数据A、B中的项目热门度分别为0.5、0.1，结果更合理，也符合实际情况。

2.2 项目热门惩罚因子

在实际生活中，热门项目出现的频率远远高于非热门项目，更容易被用户接触和评分，但用户多是出于从众或猎奇的心理，因此热门项目较少甚至不能体现用户潜在的偏好,应采用项目热门惩罚因子降低这些项目的贡献。项目热门惩罚因子的具体设置如式(2)所示。

(2)

其中，Wi表示项目i的项目热门惩罚因子，PT表示热门阈值，γ为平衡参数，其取值范围为γ>0，表示项目热门度对项目热门惩罚因子的影响系数。若Hi≤PT，则认为项目i为非热门项目，将其对应的项目惩罚因子设置为1；若Hi>PT，则认为项目i为热门项目，其对应的项目热门惩罚因子设置为e-γ*Hi，热门项目的项目热门度越高，其对应的项目热门惩罚因子越小。

由于绝大多数用户都对热门项目进行过评分，导致用户相似性普遍偏高，基于此，该文将设计的项目热门惩罚因子引入用户相似度计算公式中，用来降低热门项目对用户相似度的贡献。改进后的余弦相似度计算公式如式(3)所示。

(3)

其中，u、v分别表示用户集合中的两个用户，sim(u,v)表示用户u与用户v的用户相似度。Iu,v表示用户u与用户v共同进行过评分的项目集合，Iu、Iv分别表示用户u、用户v进行过评分的项目集合。Ru,i、Rv,i分别表示用户u、用户v对项目i的评分。若用户进行过评分的项目集合中含有热门项目，则其对应的热门惩罚因子小于1，sim(u,v)值随之变小，弱化了用户u与用户v的用户相似度，降低了热门项目对用户相似度的贡献；若用户进行过评分的项目集合中全是非热门项目，则其对应的热门惩罚因子为1，sim(u,v)值保持不变，即保留用户u与用户v的原始用户相似度。

2.3 评分预测与评估指标

通过式(3)计算出用户间的用户相似度，选取与目标用户最相似的K个近邻，根据这些近邻对目标用户未评分项目的评分预测目标用户的评分，然后将预测评分最高的前M个项目推荐给目标用户。

(4)

其中，Pu,i表示用户u对项目i的预测评分，Nu表示用户u的近邻集合。该文采用平均绝对误差(Mean Absolute Error，MAE)和均方根误差(Root Mean Squared Error，RMSE)作为所提方法的评估指标，表示用户评分与预测评分之间的偏差。MAE和RMSE的具体计算方式如式(5)、式(6)所示。

(5)

(6)

其中，|N|表示预测评分的数目。

2.4 方法描述

首先，依次根据式(1)、式(2)计算每个项目的项目热门度和对应的项目热门惩罚因子；然后，基于改进的余弦相似度计算用户相似度并选取与目标用户最相似的K个近邻，通过这些近邻对目标用户未评分项目的评分来预测目标用户的评分；最后，对预测评分进行降序排序，并获取对应的项目推荐列表。融合项目惩罚因子改进协同过滤推荐方法的算法如下：

算法：融入项目热门惩罚因子的协同过滤推荐方法

输入：项目评分矩阵R，最近邻个数K

输出：用户对应的项目推荐列表

1:设置平衡参数γ

2:设置热门阈值PT

3: fori=1,2,…,ndo

4:根据式(1)计算项目热门度Hi

5:根据式(2)计算项目热门惩罚因子Wi

6: endfor

7: foru=1,2,…,mdo

8: 根据式(3)计算用户之间的相似度

9: 挑选最相似的K个近邻用户

10: endfor

11: 根据式(4)预测用户对项目的评分Pu,i

12: 对预测评分进行降序排序，并输出推荐列表

3 实验结果及分析

3.1 数据集描述

实验采用美国明尼苏达大学GroupLens项目组提供的MovieLens 100 K数据集，每位用户至少对20部电影进行过评分，最高评分为5分，最低评分为1分。该数据包含943位用户对1 682部电影项目的100 000个评分记录，稀疏性为93.7%。随机抽取80%数据作为训练集，剩下的20%数据作为测试集。

3.2 参数设置及分析

前期，在对原始项目评分数据中的空缺项进行填充时，偏好阈值参数和权重参数会影响最终的填充效果。由于该文与文献[17]均采用MovieLens 100 K数据集进行实验验证，故分别将偏好阈值参数和权重参数设置为1/60和0.1。在后期融合项目惩罚因子降低热门项目的贡献时，平衡参数γ和热门阈值PT会影响最终的预测结果。所以，先针对这两个参数进行相应的优化实验，再进行对比实验。

3.2.1 平衡参数γ对实验结果的影响

该文采用平衡参数γ来调节项目热门度对项目热门惩罚因子的影响。将γ的取值范围设置为[0.5,3]，步长为0.5,在PT=0，近邻数K的取值范围为[5,50]，步长为5时进行相关实验，结果如图1所示。从图1可以看出，γ值对实验结果有一定的影响。以近邻数K=10为例来进行具体分析。MAE值随着γ值增大呈现先减小后增大的增长趋势。当γ值较小时，热门项目与非热门项目对相似度的贡献相差不大，对热门项目的惩罚力度不够；当γ值较大时，则过分惩罚了热门项目对相似度的贡献。因此要对平衡参数γ进行调参，寻找最合适的γ值。图1表明γ最优值取1。

(a)平衡参数γ对MAE值的影响 (b)平衡参数γ对RMSE值的影响

3.2.2 热门阈值PT对实验结果的影响

该文用热门阈值PT来将项目划分为热门项目和非热门项目，即大于该阈值的项目则为热门项目，反之则为非热门项目。不同的PT值划分出的非热门项目集和热门项目集不同。为验证PT值对实验结果的影响，将PT的取值范围设置为[0.05,0.3]，在γ=1，近邻数K取值范围为[5,50]，步长为5时进行相关实验，结果如图2所示。从图2可以看出，PT值对实验的结果有一定的影响。以近邻数K=15为例来具体分析热门阈值PT对实验结果的影响，当PT值较小时，其对热门项目区分的力度过大，误将非热门项目归为热门项目，导致MAE值偏大；当PT值较大时，其对热门项目的区分力度过小，误将热门项目归为非热门项目，亦导致MAE值偏大。因此，需要对PT的值进行调整以获得最合适的值。图2表明PT的最优值取0.15。

(a)热门阈值PT对MAE值的影响 (b)热门阈值PT对RMSE值的影响

3.3 对照实验及结果分析

为进一步验证所提方法的性能，将所提方法即融合项目热门惩罚因子改进协同过滤推荐方法与文献[17]的方法(用户偏好二分策略和平均评分融合的预评分方法，即对比方法)进行比较。在MovieLens 100 K数据集上进行测试，不同近邻数(近邻数K为[5,50]，步长为5)下的MAE和RMSE值如图3所示。从图3可以看出，随着近邻数K的不断增大，这两种方法的MAE和RMSE的波动比较稳定，即这两种方法受近邻数K的影响不大。所提方法在MAE和RMSE指标上优于对比方法，进一步验证了所提方法的有效性。

(a)不同方法的MAE值对比 (b)不同方法的RMSE值对比

4 结束语

针对传统协同过滤算法存在的项目热门度偏差问题，即热门项目的推荐频率远远高于非热门项目的推荐频率，提出一种融合项目热门惩罚因子改进协同过滤推荐方法。项目热门惩罚因子有效地缓解了传统协同过滤推荐算法存在的项目热门度偏差问题。在真实数据集上的实验表明，在参数取最优值时，所提方法有效降低了评分预测的误差。但该方法也存在一定的不足，如度量项目热门度时未考虑时间因素，同一项目在不同时期对应的项目热门度可能有所不同等，未来将基于时间要素深入研究项目热门因子在推荐中的作用。