基于R语言的商品评论情感可视化分析
2020-04-02陈俊宇
陈俊宇,郑 列
(湖北工业大学理学院,湖北 武汉 430068)
在线评论来自消费者使用产品后的自身感受,能够反映卖家产品质量和服务的好坏。通过情感分析,对评论者的褒贬态度、意见进行判断或评估,从而了解用户对商品的情感态度,评论情感可视化是将评论文本抽象量化的过程,将用户评论情感数据通过丰富的图形或图像进行内容展示,可以使情感分析的结果直观化,便于被有效接纳和应用,进而帮助商家洞察文本数据中隐含的产品信息和顾客需求。本文通过自然语言处理技术,实现对文本数据的可视化流程分析,对评论数据进行高频词汇和主题词的提取,挖掘和分析文本数据所包含的隐含信息,通过对用户的评论进行文本挖掘,能够从大量网络评论中提取反映评论褒贬极性的特质词语,避免消费者所需信息被大量的评论噪音掩盖,从而为消费者的购买决策和企业的营销策略提供支持[1-2]。
1 设计框架与思路
评论情感可视化分析可归纳为数据采集、数据预处理、特征词提取、主题模型建立和情感可视化五个步骤,通过将量化的数据转换为直观感受图形以便大众感知。本文研究的文本对象是京东商城华为荣耀系列magic2的评论数据,目的在于通过对购买者的文本评论数据的信息挖掘,获取此类文本数据隐含的消费者关注的评论观点。先对数据进行情感分类,再对数据进行包括文本去重、中文分词,去停用词等预处理;再对预处理后的数据提取特征词,对评论数据进行词频分析并制作词云图,并结合LDA主题模型,运用LDAvis 可视化工具对评论数据作可视化分析,流程见图1。
图1 评论数据可视化分析过程
2 在线评论商品属性的特征抽取
2.1 数据预处理
2.1.1 分词在对文本数据分析前,需要对文本做分词处理,分词的过程是将连续的词句按照一定的规范重新排列组合,分割成单个词序列的过程。文本分词对后续文本挖掘有着十分重要的影响。本文采用的文本分词方法是基于R软件,调用jiebaR安装包来实现。jiebaR包拥有自己的系统词典,且词汇量相当丰富,在此次文本分析中够用[3]。
2.1.2 去停用词停用词是指某一行业领域目前不再使用的词条。删除这类词,既可以基于现有的停用词词典,也可以根据需要手动建立词典。另外,文本中使用频率不高的非停用词往往对文本特征的表示没有价值,故对这类词也可以进行筛选,即可根据词的长度或出现频率高低进行过滤处理。
2.2 文本特征提取
特征选择是特征降维的一种技术,目的在于从样本所有特征中筛选出具有区分性和代表性的特征,通过减少无关特征来提高模型的性能。特征选择一般要先构造目标评分函数,然后基于评分函数来筛选出高评分的特征。本文采用的算法是TF-IDF算法。其中,TF(Term Frequency)代表词频,IDF(Inverse Document Frequency)表示逆文档频率[4]。
如果一个词在文章中出现多次并且不是停用词,那么在这种情况下,它很可能就代表了文章的特性,也就是要提取的特征词。文本特征提取公式如下:
TF×IDF(i,j)=tfij×idfi=
|D|表示语料库中的文档总数。
3 文本主题挖掘
商品评论主题挖掘是从大量评论中找到消费者关注的主题。LDA主题模型是一种文档主题生成模型,包含词、主题和文档三层结构,通过训练语料,生成文档主题、主题词语概率矩阵,同时LDA 主题模型也是一种非监督的学习方法,运用词袋模型,将每篇文档视作一个词频的向量,
从而识别文档中隐藏的主题信息[5]。
图2 LDA模型图
如图2所示,假设某个商品评论集由M篇评论文档构成,K为主题的个数,N为文档的单词总数,α和β分别是文档主题分布和主题词语分布的参数,Z是文档中生成词W的主题,整个过程就是利用“文档-主题”概率分布模型来选取某个主题,然后根据选到的主题,利用“主题-词语”概率分布模型来抽取该主题下的某个单词。不断重复上述步骤,最后形成文档。
4 实证分析
4.1 商品评论数据获取
商品评论中隐含的信息,必须通过获取商品的评论数据分析得到。网络爬虫技术作为一种自动爬取网页、获取网页内容的方式被广泛应用。八爪鱼数据采集器是一种分布式云计算平台,它可以在很短的时间内从不同的网站或网页轻松获取大量的标准化数据,并帮助任何需要从网页获取信息的客户实现自动化采集数据,从而降低获取信息的成本,提高效率[6]。本文利用八爪鱼软件采集了京东商城华为荣耀系列magic2手机的在线评论(表1)。
表1 商品部分评论数据
4.2 数据清洗
通过八爪鱼采集器内置的京东评论数据采集规则,共爬取了magic2手机从上市至今的购买者评论数据共计3687条,针对反爬虫机制出现的重复爬取和噪声数据,需要对文本数据作去重删除处理,将剩余的2850条评论数据,最终存储到txt文本中,将其作为实验的样本数据。对这些评论数据进行手动分类,类别包括情感倾向为正面、负面、中性的评论以及噪声评论,最终得到如表2所示的样本集统计。
4.3 词频统计
本文采用的文本分词方法是基于R软件,调用jiebaR安装包来实现。jiebaR包拥有自己的系统词典,且词汇量相当丰富,在此次文本分析中够用。在对文本分词之后,全文共分成了36905个词语,但其实这些词中包括了语气助词、副词、介词、连接词等,这些词语没有太大的分析意义,但出现的频率却很高,比如“得、呢、了、还、于是、那么”等。为了避免后期统计词频时增加许多的噪音,所以一般都会将这些词进行过滤处理。本文采用的是哈工大停用词,在筛出了停用词后剩余27277个词。经过分词和去停用词处理后,提取词频如表3所示。
表3 词频统计结果(前10)
4.4 特征词提取
文本处理中一个非常重要的环节是特征词提取,然后由IDF来算出每个词的权重,词语出现的频率越高则IDF值越大。得到"词频"(TF)和"逆文档频率"(IDF)以后,数值相乘即得到这个词的TF-IDF值。一个词对文章的重要性与该词的TF-IDF值大小成正比关系。最后只需要选取TF-IDF值排在最前面的几个词,即为文章的特征词。根据算法,将手机评论的特征词提取出来,大致分为6类(表4)。
表4 属性特征词
4.5 可视化分析
4.5.1 词云图对情感分类后的评论数据,在完成分词等一系列预处理操作后,按照词频降序排列,画出排在前 100热词的词云图,其中正面评论词云图见图3,负面评论词见图4。
图3 正面评论词云图
图4 负面评论词云图
正面评论词云图中词频较高的词语是手机、华为、不错、喜欢、流畅等,从这些评论中可以看出该款手机的外观、运行速度都给用户带来了很好的体验;负面高频词语主要是退货、售后、降价、问题、划痕等,从这些评论中可以看出手机的硬件、细节及卖家售后等方面并没有让顾客满意,主要原因在于该款手机上市时期正值双十一狂欢节,活动期间商铺推出的优惠活动不一样,导致前后价格波动较大,另外负面情绪还集中在京东售后服务方面,大多数买家对京东非自营卖家的服务态度表示失望,并且在商品退换过程中出现纠纷等问题。
4.5.2LDA主题可视化利用LDAvis 作为可视化工具对主题模型进行交互式可视化分析,结果为可以交互的html页面,左边面板代表主题气泡,当选定一个主题气泡时,右边面板就变成与选定主题最相关的30个术语,红色横条代表该术语在选定主题中出现的频次,而浅蓝色横条代表该术语在语料料库中出现的频次[7]。
某个词语主题的相关性,由右边面板上方的参数λ来调节,以确定最相关的30个术语是出现频率最高的,还是该主题最独特的。当λ接近1时,在该主题下频繁出现的词跟主题正相关,所以可以通过调节λ的大小来改变词语与主题的相关性。本文选择参数λ为0.8,点击主题1后的可视化结果如图5所示。该主题与手机性能相关,代表主题的主要关键词有“喜欢、清晰、像素、还行、效果、指纹、软件”等。当点击右边面板的术语时,左边面板代表主题的气泡也会随之发生变化,每个气泡的位置不变,但面积变成由该术语在这些主题上的分布比例决定,图6为点击“像素”术语后的可视化结果,可以看出该术语主要出现在主题1中,在主题18中也占少许。
图5 LDAvis主题可视化
图6 点击“像素”术语后的LDAvis主题可视化
词云图能直观地将高频词汇通过颜色和大小展示出来,同时LDAvis能够对主题模型进行交互式可视化分析,在高频词汇的基础上能够提取出词语与文本关联度高的主题词,将两种方法结合,能够将文本信息更直观、准确地呈现出来。
5 总结
对商品评论进行特征提取和可视化分析,能够帮助商家指导客户购买产品,而且能够让商家更好地发现用户的需求,进而改进产品,提升用户体验。基于R软件对手机评论进行可视化分析方法不仅适用于不同型号的手机评论分析,而且适用于不同种类的商品评论分析。结合主题模型和词云图两种可视化方法将用户评论情感数据通过丰富的图形进行内容展示,可以使情感分析的结果更准确,更能全方面了解产品和客户需求,此外本文的文本数据分类通过人工标注,这是本文的不足之处,后续可在这一模块深入研究。