一种新颖的混合相似度计算模型

廖志芳 符本才 孔令远 王佳宁

(中南大学软件学院 湖南 长沙 410073)

0 引 言

传统的协同过滤算法中，一般会根据用户和物品评分矩阵计算用户或者物品之间的相似度，然后根据计算的相似度选择最近邻居并构建预测分数，之后产生推荐列表。所以相似度的计算决定了启发式协同过滤推荐算法的推荐精度和推荐质量，但当前传统的启发式协同过滤推荐中，相似度的计算仍存在一些片面性问题。如不能发现用户的兴趣变化，即基于统计直接进行相似度计算；只考虑用户评分和中心评分，而没有考虑评分中的其他因素，如用户属性、时间权重、用户评分习惯等。

为了改进和解决传统启发式协同过滤推荐中相似度计算存在的问题，Luo等[1]、Anand等[2]和Lopes等[3]提出了全局相似性算法，全局相似性基于传统的相似度算法的基础上，通过互为朋友的传递关系来计算出用户间的全局相似性并构建用户的最近邻居集。Lopes等的实验结果显示，在数据集极端稀疏的环境下，传统相似性算法和全局相似性算法的结合可以提高推荐的精度。Li等[4]提出波动因子概念，在计算用户间的相似度时考虑了用户间的波动因子影响，并利用了标准分数(z-score)来消除由于不同的波动因子在计算用户相似性时所带来的不同影响。Shen[5]提出了两阶段相似度学习的算法，其中第一阶段利用了PCC计算相似度获得了最近邻居，第二阶段利用既约梯度法进行相似度的梯度学习来提高推荐精度。Gao等[6]提出了基于项目重心属性模型的思想，其相似度计算包含了两部分，其中一部分是传统计算得来的相似度，另一部分首先定义了项目属性的权重值，然后通过项目重心属性模型计算得到初始的相似度，两个相似度加权之后考虑了评分时间的作用影响并计算得到最终的相似度值。

以上研究从各个角度出发，旨在加强用户和物品之间的关联从而提高用户或者物品之间的相似度而获得最佳最近邻居集，并在此基础上提高推荐精度和推荐质量。然而在加强用户和物品之间的关联时，可以考虑加入用户的人口统计学特征以及评分时效产生的时间衰减等对用户和物品之间的关联产生一定作用的影响因子，尤其在解决用户的冷启动问题上，考虑用户的属性特征是一个非常有效的解决方式。

因此，本文在此基础上提出了一种新的相似度计算方法——RIT-UA算法。RIT-UA算法包含了两部分：一部分为用户评分-兴趣相似性，这部分考虑了用户的评分相似性和兴趣相似性，并考虑了两者在评分时间以及用户间置信度的约束作用下用户相似性的变化和影响；另一部分为用户属性相似性，该部分考虑了用户的属性特征对推荐的影响，并通过获得每个属性特征的特征权重计算用户间属性特征的相似性，RIT-UA相似度算法最后线性拟合了这两部分。实验结果显示，本文提出的算法与传统方法相比可以获得更好的预测精度。

1 相关工作

在推荐系统的研究中，虽然这些年推荐系统得到了充足的研究和发展，但仍存在一些共性问题，比如数据稀疏问题、冷启动问题以及用户兴趣漂移等。从解决这些问题的角度出发，同时为了提高推荐的精度和准确度，许多研究者会从各方面研究考虑，包括基础的用户属性特征、用户发生行为的时间和地点等，并因此产生了相关方面的研究。

基于人口统计学特征的推荐DRS(Demographic Recommender Systems)是推荐系统中的重要组成部分，人口统计学特征可以用来识别用户的类型和偏好，系统可以根据用户的属性特征进行分类，并会根据分类结果产生推荐。尤其在解决用户冷启动问题以及评分数据稀疏方面，基于人口统计学特征的推荐起到了很大的辅助作用。在当前文献中，有许多证明了用户属性特征在推荐中可以提高推荐精度的研究。Beel等[7]阐述了用户属性特征数据对于推荐过程的作用，实验分析并证明了用户的属性特征对系统的点击率具有显著的影响。Wang等[8]从旅游推荐角度，实验证明了机器学习方法(朴素贝叶斯、贝叶斯网络、SVM)与人口统计学特征的结合可以提高旅游推荐的预测评分精度。Al-Shamri[9]在基于用户偏好建模方法上，分别结合用户属性特征构建了五种相似度计算的方法，实验结果显示结合用户属性特征可以提高系统的推荐精度。Santos等[10]在一个真实的推荐场景中使用了用户属性特征来挖掘和分析场景中的上下文约束。Chen等[11]通过用户信息构造了用户属性特征向量，并在此基础上考虑共同评分项以及项目频率计算得到的新的相似度，实验结果证明该方法可以有效解决用户冷启动问题并提高了推荐精度。

随着推荐系统研究的深入发展，为提高推荐结果与推荐质量，许多研究员开始将上下文信息融入到推荐系统的研究中来。上下文信息中，相对而言，时间上下文较容易采集，并且为提高推荐系统的时序多样性的研究提供了重要的价值，成为了当前研究的一个热点[23]。Koren[12]利用矩阵分解(SVD)的方法，把时间当作一个重要特征加入到用户-物品特征集中，有效解决了用户兴趣漂移问题。Karatzoglou等[13]、Xiong等[14]和Liang等[15]将时间信息当作第三个特征向量，利用张量分解的方法对时间的动态变化进行了表示。荣等[16]根据用户的评分历史将其分成几个时期，并分析用户在每个时期的的偏好分布并对其偏好进行了量化。Li[17]根据时间对用户偏好进行了阶段性划分，并提出了Cross-domain的协同过滤方法，实验证明该算法不仅提高了推荐预测精度，还解决了用户兴趣漂移问题。

2 RIT-UA算法描述

在数据相对稀疏的情况下，从解决用户兴趣漂移问题考虑，本文基于传统的相似度计算过程，引入了用户属性特征以及评分时效衰减等影响用户评分行为的作用因素，提出了RIT-UA算法。RIT-UA算法主要由两部分组成，一部分为评分-兴趣相似性，另一部分为用户属性相似性。

2.1 评分-兴趣相似性

评分-兴趣相似性由评分相似性和兴趣相似性组成，主要考虑了用户对物品的喜好程度以及用户自身的评分习惯两个方面。同时，在这两个方面基础上引入评分时间产生的衰减作用，并结合文献[4]提出的波动因子概念，引入了用户间的置信度，最后得出用户间的评分和兴趣相似性，描述如下。

2.1.1 评分相似性

在电子商务系统领域，一般会采用评分(Rating)或者投票(Voting)的方式获取用户对物品的直接偏好。假设用户对物品偏好的等级为5级，分别为{非常喜欢，喜欢，一般，不太满意，不喜欢}，相应等级对应的分数为{5，4，3，2，1}，因此用户评分的结果就会产生一个评分矩阵。用户-物品的评分偏好矩阵可如表1所示。

表1 用户-物品评分矩阵

表1是一个用户-物品的评分矩阵。在评分矩阵中，当两个用户间的评分越近时，表明他们的偏好相近。当评分相同时，表明用户具有相同的偏好。若评分差异较大，则表明用户之间的偏好相反。所以为了刻画用户间评分相似度的非线性相关性，基于文献[18]提出了sigmoid函数对相似性的表示，本文同样构造了sigmoid函数用于用户间评分相似性的表示，公式如下：

(1)

式(1)表示用户u和用户v对物品i的评分相似性。

2.1.2 兴趣相似性

每个用户都有自身不同的评分习惯，如有的人不拘小节总是喜欢评较高的分数，而有的人要求严格，注重细节，比较倾向评较低的分数。所以对用户自身评分习惯的刻画将有助于提高预测的准确率。Koren[12]针对用户的评分习惯和物品固有的属性特征给出了其形式化定义，如式(2)所示。即把用户自身的评分习惯当作了影响用户评分的一项作用因子，其中bu表示用户自身的评分习惯。

bui=μ+bu+bi

(2)

所以在物品的评分范围内，当用户倾向于给高分且喜欢一个物品时，通常会对物品评较高的分数，然而即使用户不喜欢该物品，也不会对物品评较低的分数，反之亦然。因此可以根据用户对物品的平均评分，表示用户评分习惯的兴趣偏好。同样，基于文献[18]对相似性的sigmoid函数表示,本文也构造一个sigmoid函数用于表示用户间的兴趣相似性，如式(3)所示。

(3)

式(3)表示用户u和用户v对物品i的兴趣相似性。因此综合用户间的评分相似性和兴趣相似性，得到一个用户评分-兴趣相似性的计算公式，如式(4)所示：

(4)

2.1.3 时间作用因子

一般而言，把不同时刻下的用户行为等同对待，缺乏了对其进行有效的量化分析。时间作用因子表示了用户兴趣漂移的趋势变化程度，距离当前时刻越近的的评分信息应当具有更高的推荐效果，反之亦然。基于此，一些研究分别采用了线性和非线性函数来量化评分行为随时间变化的情况。

文献[19]为解决难以跟踪用户兴趣变化的问题，提出了艾宾浩斯遗忘曲线进行用户兴趣拟合的研究，艾宾浩斯遗忘曲线变化如图1所示。

图1 艾宾浩斯遗忘曲线变化图

本文基于文献[19]的研究，结合艾宾浩斯遗忘曲线的变化趋势，用以下函数来刻画用户兴趣漂移的变化趋势，即刻画时间作用因子的影响趋势，如公式所示：

(5)

式中：Δt表示用户关于物品i的评分时间差，α为作用参数，本文取α值为0.005。

所以考虑时间作用影响后，新的用户评分-兴趣相似性的计算公式为：

(6)

式中：|Iuv|表示用户u和用户v的共同评分项的数量。

2.1.4 用户间置信度

在用户数据极端稀疏时，用户间的共同评分项数量很少，相似度计算会存在较大偶然因素，Li等[4]通过波动因子方式来消除这种影响。所以本文基于此加入了用户间的共同评分项数目调节相似度权重，这里用自然指数进行调节，调节如式(7)所示：

(7)

式(7)表示用户u和用户v的置信度，Iu表示用户u的评分项，Iv表示用户v的评分项，|Iu∩Iv|表示用户u和用户v的共同评分项，max(|Iu∩Iw|)表示用户u和最近邻居中最大的共同评分项，Iw表示最近邻居集。

所以用户评分-兴趣相似性计算考虑置信度之后，调整后的公式为：

(8)

2.2 用户属性相似性

考虑用户属性相似性，一方面是可以提高预测精度，另一方面是为了解决新用户的冷启动问题，即没有其他可利用的评分数据时，可以利用用户属性特征数据进行建模和推荐。对于用户属性相似性的刻画，文献[16]对用户属性分成了数值型属性和名称型属性，并分别对其进行了定义和表示。本文基于易于理解和易于实现的角度，对用户属性相似性进行了如下定义。

对于单个用户属性而言，表示为：

sim(u,v,i)attr=1/0

表示当用户u和用户v关于属性i相同时值为1，不同时值为0。

所以，总的用户属性相似性为：

simattr(u,v)=∑w·sim(u,v,i)attr

(9)

式中：w为用户属性i的特征权重值。为了求得每一个特征属性的权重值w，本文选择了随机森林的特征选择算法，计算每一个用户属性特征的特征重要性程度，给出一个用户特征属性重要性的排行，并根据排行进行实验，进一步获取每一个属性的相对重要性权值。

2.3 基于RIT-UA的相似度计算

2.1节和2.2节分别考虑了评分-兴趣相似性以及用户的属性相似性，因此对评分-兴趣相似性以及用户的属性相似性进行加权结合，得到新的用户相似度计算公式为：

sim(u,v)=α·simscore(u,v)+β·simattr(u,v)

(10)

式中：β=1-α。得到相似度的计算公式之后，进一步可得用户对物品的预测公式，如公式所示：

(11)

下面是RIT-UA相似度算法的描述。

算法1RIT-UA相似度计算

Input:

Testset

算法:

1. For user in Testset do:

2. For item in Testset[user] do:

3. //get co-rated items

4. Users: getCorateditemsUserset(item)

5. //get the similarity between user and Users

6. calculateRituaSimilarity(Users, user)

7. //According similarity select neighbors

8. getTonKNeighbors(K)

9. //calculate predicted rating

10. rating: getRating(Neighbors)

11. end for

12. end for

所以从RIT-UA的算法描述中，我们知道RIT-UA算法执行的时间复杂度为O(m×n)，其中m和n分别为用户数和项目数。

3 RIT-UA算法描述

3.1 实验数据集

本文主要选取了Movielens-100k和Netflix两个数据集进行实验分析比较，过程如下。

3.1.1 Movielens-100k数据集

该数据集是由GroupLens研究小组所提供的一个电影评分数据集。数据集有943个用户和1 682部电影，共100 000条记录，其中每个用户至少评价了20部电影，评分区间为[1,5]，详细信息如表2所示。同时，该数据集的稀疏度为1-100 000/(943×1 682)=93.7%，图2(a)显示了ML-100k数据集中用户所评物品数从高到低的一个降序排序图，从图中我们可以看到，很多用户所评的物品数是少于100以下的。本文为了测试算法的性能，数据集分成80%作训练集，20%作测试集。

表2 数据集介绍

图2 用户所评物品数的趋势变化图(降序)

ML-100k数据集中关于用户的属性特征只有四个属性，分别为gender、age、occupation和zipcode。

3.1.2 Netflix数据集

这是部分原始Netflix比赛的数据，经过适当的数据清洗之后，数据集共有387 939条记录，存储4 861个用户对5 080个物品的评分。每个用户同样至少评价20个物品，评分范围也是{1～5}，详细如表2所示。

该数据集的稀疏度为1-387 939/(4 861×5 080)=98.4%，图2(b)显示了Netflix数据集中用户所评物品数从高到低的一个降序排序图，从图中我们可以看到，Netflix数据集中很大一部分用户所评物品项的数目是少于100的。同样的，为了测试算法的性能，数据集分成80%作训练集，20%作测试集。

在对Netflix数据集进行清洗的过程中，因为Netflix数据集是没有用户属性特征数据的，所以根据ML-100k关于用户属性特征数据的特点，本文模拟实验随机生成了Netflix数据集中用户的属性特征数据，生成用户关于gender、age以及occupation三个属性特征数据。其中age的范围为{10～65}，occupation共有20个职业，取值为{0～19}，gender取值为{0～2}。

3.2 实验评价指标

推荐系统关于预测精度的实验评价中，一般有平均绝对误差MAE(Mean absolute error)和均方根误差RMSE(Root mean squared error)等评价指标。相比较而言，本文采用均方根误差RMSE(Root mean squared error)作为本文实验的评价指标，其计算公式为：

(12)

3.3 实验过程与分析

3.3.1 用户属性特征的权重值实验分析

由式(9)可知，为了获取每个用户属性特征权重值w的值，本文选择了随机森林算法。

随机森林是一个Ensemble Learning机器学习算法，可以对复杂的相互作用的特征数据进行解析，即使在一定的数据噪声影响下亦具有很好的鲁棒性，且进行特征学习和分析时其学习速率较快。其变量重要性度量可以作为高维数据的特征选择工具，近年来已经被广泛应用于各种预测、特征选择以及异常点检测问题中[20]。

因此，对ML-100k数据集和Netflix数据集使用随机森林算法获取的每个用户属性的特征权重值，实验结果分别如图3和图4所示。

图3 用户属性特征权重值排序图(ML-100k)

图4 用户属性特征权重值排序图(Netflix)

对于ML-100k数据集，由图3所知，用户的四个属性特征(age，gender，occupation，zipcode)中，gender相对其他三个特征相对来说更重要些，表明gender特征在推荐过程中所起的作用是相对明显的，有关于这一特征的用户在评分上会更相似。相比较于gender特征，zipcode特征在推荐过程中所起的作用是相对较低的，所以其特征权重值相对就会较低。而其他的两个特征age和occupation的特征权重影响就相对居中了，实验显示其权重值大约分别为0.284和0.186。

图3和图4的图示部分显示了每一个特征可能的权重值的浮动范围。而对于Netfilx数据集来说，gender和age特征在推荐过程中作用是非常明显的，总体的特征权重值顺序和ML-100k类似。

为了测试(age，gender，occupation，zipcode)以及(age，gender，occupation)各个属性特征分别在ML-100k和Netflix数据集上的相对最佳权重值，本文做了几组比较实验，实验结果分别如图5、图6所示。由图5、图6所知，在数据集ML-100k中当(gender，age，occupation，zipcode)的特征权重值分别取(0.3，0.3，0.25，0.15)，实验结果相对较好。而对于Netflix数据集，(age，gender，occupation)分别取(0.5，0.4，0.1)时实验结果相对较好，下文实验将分别取此值。

图5 不同用户属性特征权重值实验比较(ML-100k)

图6 不同用户属性特征权重值实验比较(Netflix)

3.3.2 alpha、beta的权重值实验分析

根据式(10)，为了获取实验效果相对较好的α和β值，基于ML-100k和Netflix数据集，分别做了几组实验，实验结果如图7、图8所示。

图7 不同alpha与beta值实验结果(ML-100k)

图8 不同alpha与beta值实验结果(Netflix)

根据图7、图8结果可知，在数据集ML-100k中，当α和β分别取0.75、0.25时，实验效果相对较佳。而对于Netflix数据集，当α和β分别取0.7、0.3时，其实验结果相对较佳。所以本文下面实验将分别取此值。

3.3.3 与其他相似度计算方法对比实验分析

为验证本文算法的有效性，本文将与Pearson相似度、修正余弦相似度(Acosine)、PIP[21]相似度和NHSM[22]相似度在ML-100k数据集和Netflix数据集上进行实验比较，实验结果分别如图9、图10所示。

图9 不同相似度算法实验比较(ML-100k)

图10 不同相似度算法实验比较(Netflix)

由图9可知，在数据集ML-100k中，总体实验结果上，随着邻居数的增加，本文算法实验效果渐渐优于其他算法。在邻居数目为[10，30]开始阶段，本文算法和PIP结果相近，而后期略优于PIP算法。NHSM算法在邻居数[10，30]阶段，其实验结果相对较优，而后面其结果渐渐略差。PCC和Acosine相似度算法在实验结果上略差于其他算法。在数据集Netflix上，由图10可知，本文所提相似度算法随着邻居数的增加渐渐优于其他算法，在邻居数目为[10，40]开始阶段，NHSM算法的实验结果相对最优，而后渐渐略差于本文所提算法。

3.3.4 不同数据规模下，算法精度的比较

本文基于ML-100k数据集，分别选取数据集的20%、40%、60%和80%，在邻居数k=20的前提下，验证不同方法在不同数据集规模下的实验精度比较，并进行了5-fold Cross Validation获取实验结果的平均值，实验结果如图11所示。

图11 不同方法在不同数据集大小下的结果比较(ML-100k)

由图11可知，本文所提算法在不同ML-100k数据集大小下，均为相对较优的实验结果，且实验结果均相对稳定，也表明了在数据相对稀疏的情景下，本文所提算法亦具有较高的识别度。其他三种算法中，PIP算法表现亦较为稳定，RMSE值也相对较低。而NHSM算法在数据集较为稀疏时，RMSE值较高，而随着数据集大小的不断提高，其表现越来越优越，并渐渐趋于稳定。

4 结 语

本文基于传统相似度计算中存在的一些问题，提出了一种新的相似度计算模型。该模型分别对用户评分偏好、用户评分习惯、评分时间的作用因子等方面进行了刻画和表示。并在此基础上，考虑了用户属性特征对用户评分的影响，研究了各个属性特征在推荐过程中的作用，并通过随机森林方法计算了用户各个属性特征的权重值。最后的实验结果表明，与其他方法相比，本文所提方法显著提高了推荐的精度，同时在数据相对稀疏的情况下亦具有很好的实验效果。实验的不足在于计算用户属性的特征权重值时，由于数据集中用户属性特征的数据相对较少，从而在计算用户属性特征权重上没有更加明显的区分度，而恰好用户属性特征的这部分数据在现实数据中相对隐私并且不易获得，所以对于实验上有一定的影响。

[1] Luo H,Niu C,Shen R,et al.A collaborative filtering framework based on both local user similarity and global user similarity[J].Machine Learning,2008,72(3):231-245.

[2] Anand D,Bharadwaj K K.Utilizing various sparsity measures for enhancing accuracy of collaborative recommender systems based on local and global similarities[J].Expert Systems with Applications,2011,38(5):5101-5109.

[3] Lopes A R S,Prudencio R B C,Bezerra B L D.A collaborative filtering framework based on local and global similarities with similarity tie-breaking criteria[C]//International Joint Conference on Neural Networks.IEEE,2014:2887-2893.

[4] Li H,Wang G,Gao M.A novel similarity calculation for collaborative filtering[C]//Wavelet Analysis and Pattern Recognition (ICWAPR),2013 International Conference on.IEEE,2013:38-43.

[5] Shen J.Collaborative Filtering Recommendation Algorithm Based on Two Stages of Similarity Learning and Its Optimization[C]//Large Scale Complex Systems Theory and Applications,2013:335-340.

[6] Gao L,Huang M.A Collaborative Filtering Recommendation Algorithm with Time Adjusting Based on Attribute Center of Gravity Model[C]//Web Information System and Application Conference.IEEE Computer Society,2015:197-200.

[7] Beel J,Langer S,Nürnberger A,et al.The Impact of Demographics (Age and Gender) and Other User-Characteristics on Evaluating Recommender Systems[M]//Research and Advanced Technology for Digital Libraries.Springer Berlin Heidelberg,2013:396-400.

[8] Wang Y,Chan S C,Ngai G.Applicability of demographic recommender system to tourist attractions:a case study on trip advisor[C]//Proceedings of the The 2012 IEEE/WIC/ACM International Joint Conferences on Web Intelligence and Intelligent Agent Technology-Volume 03.IEEE Computer Society,2012:97-101.

[9] Al-Shamri M Y H.User profiling approaches for demographic recommender systems[J].Knowledge-Based Systems,2016,100:175-187.

[10] Santos E B,Garcia Manzato M,Goularte R.Evaluating the impact of demographic data on a hybrid recommender model[J].Iadis International Journal on www/internet,2014,12(2):149.

[11] Chen T,He L.Collaborative Filtering Based on Demographic Attribute Vector[C]//Etp International Conference on Future Computer and Communication.IEEE Computer Society,2009:225-229.

[12] Koren Y.Collaborative filtering with temporal dynamics[C]//ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.ACM,2009:89-97.

[13] Karatzoglou A,Amatriain X,Baltrunas L,et al.Multiverse recommendation:n-dimensional tensor factorization for context-aware collaborative filtering[C]//ACM Conference on Recommender Systems,Recsys 2010,Barcelona,Spain,September,2010:79-86.

[14] Xiong L,Chen X,Huang T K,et al.Temp-oral Collaborative Filtering with Bayesian Probabilistic Tensor Factorization[C]//Siam International Conference on Data Mining,SDM 2010,April 29-May 1,2010,Columbus,Ohio,Usa,2010:211-222.

[15] Liang Xiong,Xi Chen,Tzu-Kuo Huang,et al.Temporal Collaborative Filtering with Bayesian Probabilistic Tensor Factorization[C]//Siam International Conference on Data Mining,SDM 2010,April 29-May 1,2010,Columbus,Ohio,Usa,2010:211-222.

[16] 荣辉桂,火生旭,胡春华,等.基于用户相似度的协同过滤推荐算法[J].通信学报,2014(2):16-24.

[17] Li B,Zhu X,Li R,et al.Cross-domain collaborative filtering over time[C]//IJCAI 2011,Proceedings of the,International Joint Conference on Artificial Intelligence,Barcelona,Catalonia,Spain,July,2011:2293-2298.

[18] Jamali M,Ester M.TrustWalker:a random walk model for combining trust-based and item-based recommendation[C]//ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.ACM,2009:397-406.

[19] 于洪,李转运.基于遗忘曲线的协同过滤推荐算法[J].南京大学学报:自然科学版,2010,46(5):520-527.

[20] 姚登举,杨静,詹晓娟.基于随机森林的特征选择算法[J].吉林大学学报:工学版,2014,44(1):137-141.

[21] Ahn H J.A new similarity measure for collaborative filtering to alleviate the new user cold-starting problem[J].Information Sciences,2008,178(1):37-51.

[22] Liu H,Hu Z,Mian A,et al.A new user similarity model to improve the accuracy of collaborative filtering[J].Knowledge-Based Systems,2014,56(3):156-166.

[23] 窦羚源,王新华.一种基于时间和标签上下文的协同过滤推荐算法[J].太原理工大学学报,2015(6):735-740.