APP下载

面向微博的社会情绪词典构建及情绪分析方法研究

2015-04-12蒋盛益黄卫坚蔡茂丽王连喜

中文信息学报 2015年6期
关键词:语料词典类别

蒋盛益,黄卫坚,蔡茂丽,王连喜

(1.广东外语外贸大学语言工程与计算实验室,广东广州510006;2.广东外语外贸大学信息学院,广东广州510006;3.广东外语外贸大学图书馆,广东广州510420)

1 引言

互联网成为当下中国社会非理性情绪的集散地,是社会情绪分析的重要数据来源。作为新型的网络交流平台,微博不仅成为人们表达情感的重要载体,更是民众讨论社会热点事件的重要场所,汇集了大众对社会话题的情绪表达。研究面向微博的社会情绪分析方法具有重要的现实意义,一方面有利于政府或相关部门进行舆情监控和传播引导;另一方面对社会事件的情绪分析有助于危机公关处理、名人形象维护等。

文本情绪分析的本质是对有情绪倾向的主观文本进行分析和处理的过程。现有文本情绪分析方法,主要以基于词典的匹配方法和基于机器学习的分类方法为主[1]。基于机器学习的分类方法主要有朴素贝叶斯、支持向量机和最大信息熵等。由于基于机器学习的分类方法易受训练语料影响,且部分算法涉及了复杂的参数设置,所以不便于建模。目前最常见的方法是构建高质量的情绪词典,并将其应用于文本情绪识别。由此可见,构建合理、覆盖范围宽泛的情绪词典是基于词典匹配方法的关键。

情绪词典是文本情绪分析的重要辅助资源。情绪词典的构建往往需要结合人工标注、语义词典扩展或基于语料库抽取标注等方法。英语中最重要的情绪词典资源是WordNet-Affect,该词典通过选择和标注代表情绪概念的WordNet中的同义词集而获得的Ekman六种基本情绪相关的词语,然后利用WordNet中定义的关系、情绪标签和领域标签进行扩展,找到情绪同义词所在的Synset扩展得到情绪词典[2]。Zaher Salah等人通过两种方法创建领域情绪词典:1)从已标注的语料中计算词汇极性及程度,生成词典;2)从已有词典出发,融合领域语料中的词汇语义信息、上下文信息、关系信息,学习一个基于分类器的扩展领域词典[3]。Suke等人[4]认为具有相近或相同情感的观点词有更高的概率同时出现,采用协同训练框架进行半监督的情绪分类训练以扩展情绪词。

在中文情感词典资源方面,HowNet是国内较为全面的知识库。借助于HowNet,不少学者尝试构建特定领域的情绪词典。柳位平等在HowNet情绪词集合的基础上,利用HowNet的义原计算词与词间的相似度,并根据词和正向、负向种子词的平均相似度的差来判定词的情绪倾向性,从而得到特定的情绪词典[5]。常晓龙等将词语间的语素关系融入到图模型中、并结合词语同义关系,提出一种构建词典的半监督学习方法,形成了融合语素特征的中文褒贬词典[6]。徐琳宏、林鸿飞等构建了中文情绪词汇本体库,将情绪分为七个基本大类和21个小类,并利用相关情绪词典和语义知识库获得候选情绪词,再人工对部分种子词语的情绪类别和强度进行标注[7]。

本文的目的在于构建一个规模大,覆盖范围广的社会情绪词典。首先,根据现有的社会情绪相关文献和分析目标确定社会情绪类别,并整合已有情绪词典,补充典型的微博情感词,建立规模较小的基准情绪词典。然后采用深度学习工具Word2vec对微博平台上的社会热点事件微博及评论等语料进行分析,以增量式的方式扩展基准词典;接下来,再辅以HowNet词典和人工筛选,生成最终的情绪词典。最后,利用所构建的社会情绪词典分析微博文本标注语料的情绪倾向,并对比基于情绪词典和基于SVM分类的情绪分析结果以验证所构建的词典的有效性;与此同时,利用所构建的情绪词典分析微博平台的社会热点事件呈现的社会情绪倾向,从侧面验证本文构建的情绪词典的有效性。

2 面向微博的社会情绪词典构建

情绪词典的构建流程如图1所示。

图1 社会情绪词典构建流程图

2.1 基准情绪词典的建立及微博语料获取

社会情绪不同于个人情绪,个人情绪是指个体对一系列主观认知经验的通称,是多种感觉、思想和行为综合产生的心理和生理状态,其最基本的情绪有喜、愤、哀、惧、恐、爱等。当然也存在不同的看法,美国著名的心理学家伊扎德提出了12种基本情绪:兴趣、惊奇、痛苦、厌恶、愉快、愤怒、恐惧、悲伤、害羞、轻蔑和自罪感;社会情绪则侧重于群体成员情绪之间的相互作用和影响,是建立在个体对社会的人和事的认知、心理变化基础上的社会反映。目前,国内关于社会情绪的研究起步较晚,社会情绪分类体系方面的研究相对缺乏。考虑到本文分析的目标是微博平台上社会大众对特定新闻事件的情绪倾向,因此本文重点关注包括喜欢、愉快、愤怒、悲伤等社会大众普遍存在并且广泛关注的情绪类别。结合目前社会情绪的研究成果,同时对已有文献[8-9]和相关情绪词典进行梳理和归纳,最终将社会情绪类别确定为八类,分别是:愉快、喜欢、同情、悲伤、焦虑、厌恶、愤怒、怨恨,并以此作为词典扩展以及情绪分析的依据。确定情绪词典的类别之后,依次建立每个类别下所对应的基本情绪词,并以此构成基准情绪词典。基本情绪词是通过心理学、语言学和社会学专家从大连理工大学林鸿飞教授等建立的情绪词典以及微博语料中为每个类别挑选约40个词语构成。

本文实验的微博语料来自新浪微博平台上社会热点事件的微博文本及其转发和评论的文本。通过模拟登录的方式,对新浪微博平台上的特定事件进行爬取。首先获取新浪微博媒体中粉丝数大于100 000的权威媒体的微博账号,然后针对某一特定社会公共事件,爬取这些微博账号发表过的带有该公共事件关键字的微博及其所有转发与评论文本,最终由这些微博以及其转发评论文本共同构成该公共事件的语料集合。目前共获取了200多个社会公共事件的微博语料,包括厦门纵火案、昆明火车站暴恐案、上海外滩踩踏事故等备受关注的事件。在获取微博语料后,需要对语料进行预处理,包括去除重复微博文本、去除停用词和分词等,为后续的分析提供有效的语料。

2.2 基于word2vec的词语相似度计算

word2vec是谷歌一款基于Deep Learning的开源学习工具,它通过有效的连续词袋模型和skipgram语言模型实现了词语的向量化,最大化地利用了词的上下文信息以丰富词语的语义信息,以文本向量空间的相似度来表示文本语义相似度。本文利用word2vec在大规模语料中计算词语相似度,并将其应用到情绪词典的构建过程中,然后通过迭代实现增量式的词典扩展。

word2vec提供了distance函数,用以发现所查询词语的相似词语列表。根据初始构建的基准情绪词典,依次输入基准词典各个类别下的词语,利用word2vec得到的词向量进行相似度计算,分析得出最为相关的词语。实验设置如下:

1)迭代的次数为8,即将上一次迭代的输出词语作为下一次迭代的输入词语,从而使输入词语的规模更大;

2)考虑到前后迭代词语的重要性不同,给迭代前和迭代后的词语赋予不同的权重。第一轮迭代后扩展出来的词语按照与情绪类别相似度从高到低排列,取相似度最大的前10个词语作为候选词扩充到词典,原基准词语与新扩充的候选词作为下一轮的基准词语;往后的迭代则取相似度最大的前两个词语扩充到词典。

3)迭代过程中,首先要去除停用词,但是由于停用词表具有一定的局限性,所以另外制定一些规则,过滤无意义的词语,包括:

a)纯数字的词语;

b)非表情符的纯标点符号组成的字符串;

c)在前面迭代过程中已经筛选掉的词语;

d)根据词性去除一部分词语,保留名词、动词、形容词、副词等。

由于微博语料是动态获取和扩展的,因此构建词典时采用增量式的扩充方式。具体的做法是将上一轮语料扩展输出的词典用作下一轮扩展的候选情绪词典,同时加入新的微博语料以扩展语料规模,进一步有效地扩大词典规模。

2.3 情绪词的筛选

在语料规模不大的情况下,通过word2vec扩展得到的词语可能存在着准确度不高的问题,因此我们对扩展后的词典进行基于HowNet词典的自动筛选和独立的人工筛选。

借助HowNet词典计算扩展出来的词语与基准词语的相似度,通过排序方式筛选相似度高的词语。因为HowNet里面的词语更新具有一定的滞后性,HowNet中并不一定包括扩充出来的词语,因此不能通过HowNet来计算该词语与种子词语的相似度来筛选候选词,所以我们采用的方法是:如果HowNet词典没有包含某词语,则默认其为新词保留;如果HowNet词典中包含该词但相似度小于指定阈值,则剔除该词。经过筛选后,进一步通过人工判断其类别。经过外部词典辅助筛选和人工筛选,最终得到包含6 887个词语的基于微博语料的社会情绪词典。本词典的各个情绪类别的情绪词数量分布如表1所示。

表1 扩展后的词典

3 基于情绪词典的微博社会情绪分析

3.1 单条微博的情绪分析

微博文本体现出来的情绪倾向可认为是微博用户对于某一社会事件发表的主观看法,主要由两个方面来体现:情绪类别及其强弱程度。情绪类别即所构建的情绪词典定义的八个类别中的一个或多个;情绪类别的程度由情绪词的权值来体现。为验证本文所构建社会情绪词典的有效性,利用本词典对微博平台上的社会热点事件进行情绪分析。由于文本的情感强度更取决于句法结构、语境等整体因素,为了减少单个词语对整个文本情感强度的影响,本文对情绪词典的每个词语赋予1的权值,如果出现多个同类别的词语,则将对应的向量维度值进行叠加或加权计算。考虑到情绪词可能被特殊词语(否定词和程度副词)修饰而改变情绪倾向,因此本文对这些特殊词语做进一步处理:一方面,被否定词修饰的情绪词通常会改变情绪倾向,所以考虑搜索并判断情绪词前后三个词内是不是含有否定词。如果是,则将该情绪词的权值乘以-1。另一方面,程度副词使情绪倾向在强弱程度上发生变化,类似于否定词的处理,搜索并判断情绪词前面一个词是不是程度副词,将程度副词的强度分为五个等级并赋予相应的权值。

单条微博情绪分析方法具体描述如下:

1)文本预处理。首先过滤噪声文本,如广告、重复的文本等;然后使用中国科学院分词系统导入本文构建的情感词典,对微博文本进行分词,去掉停用词。由于word2vec是根据词共现的原理计算两个词语之间的相似度,而预处理的过程中去掉的停用词大部分为没有实际意义的介词,代词等,所以去掉停用词不会对实验结果产生太大的影响;

2)情感特征词提取。通过导入情感词典对评论文本分词后,选取出当前情感词典里面的词作为该条评论的情感特征词,利用情感特征词构建文本情感特征向量。

3)如果情感特征词前有程度词,则情感特征词的权重应该为程度词与特征词的权重之积(情感特征词的权重设为1);

4)如果情感特征词前有否定词,则统计否定词的个数N,每个否定词的权重设为-1,最终情感特征词的权重应该是N个-1与特征词权重之积;

5)通过计算该条评论文本属于每一个情绪类别的对应情感特征词的权值之和,选取权值最大的那个情绪作为该条评论的最终情绪类别。

按照以上处理步骤得出每条微博文本的特征向量后,选取出权值最大的特征项作为该微博文本的情绪倾向,并与事先人工标注的进行对比评价,分别计算出准确率和召回率。

本文从厦门纵火案和呼格吉勒图冤案两个热点社会公共事件的微博语料中随机抽取了10 000条微博文本进行不同情绪类别的人工标注,最后确认了7 629条有效微博文本作为实验的数据。实验结果如表2所示。

表2 基于情绪词典的情绪分析结果

为了对比基于情绪词典和基于SVM分类的情绪分析,利用开源工具liblinear对微博语料进行情绪分类:

1)对于标注了的7 629条微博文本,按2∶1的比例将数据集划分为训练集和测试集。

2)对文本数据进行文本预处理、特征表示和选择,实现文本向量化。

a)去除重复文本和无意义的符号,进行中文分词。

b)根据CHI公式计算词语的特征权重。

首先,计算每个词t与类别c之间的相关程度(假设t和c之间符合具有一阶自由度的CHI分布)。词语t对于类别c的CHI值由式(1)计算。

其中,N表示语料库中微博文本的总数目;A表示包含词语t且属于类别c类的微博数目;B为包含词语t但是不属于类别c的微博数目;C表示属于类别c但不包含词语t的微博数目;D表示既不属于类别c也不包含词语t的微博数目。

接着,根据式(2)计算特征词语t对于整个语料的CHI值。

其中,m为情感类别数,X-max2(t)表示选取特征项与各情感类别的CHI值中的最大值。

然后,对每个词语t的CHI值进行从大到小排序,选取CHI值大的前K个词语集合作为特征项。

最后,通过公式(3)的词语权重计算公式得到每个特征项的权值,用这些特征项权值组成的向量表示文本,将文本向量化。具体地,针对语料统计每个特征项在该文本数据中出现的个数m,记为词频TF;统计每个特征项在不同文档中出现的次数,记为文档频率DF,其逆文档频率log(DF)记为IDF。根据式(3)计算每个t的权重值。

3)利用开源项目liblinear对训练数据进行建模,建立分类器,参数设置为默认值。

4)构建分类器后,在测试集上预测分类,并计算准确率和召回率以评价分类的结果(如表3所示)。

表3 基于SVM分类的分析结果

续表

由表2所示结果可以看出,基于本文所构建的情绪词典的分类器的平均准确率为76.9%,平均召回率为61.4%;F值是0.694,而SVM分类器的平均准确率为63%,召回率为60%,F值是0.61。这初步验证了本文所构建的面向微博的社会情绪词典的性能,说明该词典能够准确且高效地反映微博文本中不同的情绪倾向。

3.2 基于情绪词典的微博热点事件情绪分析

进一步,将本文所构建的情绪词典应用到微博平台上的社会公共事件的情绪分析,通过典型的社会事件例子从侧面反映情绪词典的有效性。对特定社会公共事件的语料进行整体的情绪分析,以判断该事件反映出来的公众社会情绪倾向。本文选取受到广泛关注的“厦门纵火案”事件和“呼格吉勒图冤案”事件。把同一个事件的微博语料当成整体,通过分词、情绪词典匹配和特征权重计算,得到微博语料对应的不同情绪倾向的比重。分析结果如图2和图3所示。

图2 “厦门纵火案”事件分析结果

如图2和图3所示,不同的情绪倾向按照权值占比从高到低排序,可以直观地观察到占比排在前三(总和超过78%)的情绪倾向。对于“厦门纵火案”事件:厌恶,愤怒,焦虑三者的权值占比高,表明社会情绪偏向于厌恶、愤怒和焦虑;而对于“呼格吉勒图冤案”事件:愤怒、厌恶和悲伤权值占比高,表明社会情绪偏向于愤怒、厌恶和悲伤。针对这两个事件,从社会民众普遍的心理感知角度来看,符合上述提到的几种情绪倾向,这在一定程度上也说明本文构建的情绪词典和分析方法的有效性。

图3 “呼格吉勒图冤案”事件情绪分析结果

4 总结与展望

本文基于微博平台上社会热点事件的微博语料,建立了面向微博的社会情绪词典,该社会情绪词典包括八个类别共6 887个词条。应用该词典对公共事件进行社会情绪分析,并通过基于情绪词典的微博情绪分析和基于SVM的情绪分析结果的对比,验证了本文构建的情绪词典及情绪分析方法的有效性。最后,通过对微博平台上的社会热点事件的整体情绪分析,从另一个侧面表明所构建的情绪词典的有效性。

本文的研究工作还存在一些不足,后续将从以下几个方面进行深入研究:

1)邀请更多心理学、语言学等领域专家等对词典进行校验,提高词典的质量。

2)获取更多公共事件,扩大语料库规模,同时借助维基百科等外部数据源,融合多种词语相似度计算方法,进一步扩大词典规模。

3)在情绪词典的应用方面,增加微博评价对象识别,以更准确反映公共事件的社会情绪。

致谢:在本文的研究过程中,郑漫丽、陈丽云、陈东沂等同学作了大量探索性实验,丘心颖、谢柏林、李霞等老师给出了一些建设性的建议。

[1] Zhang Jianfeng,Xia Yunqing,Yao Jianmin.A review towards microtext processing[J].Journal of Chinese Information Processing,2012,26(4):21-27.

[2] Carlo Strapparava,Alessandro Valitutti.WordNet-Affect:an Affective Extension of WordNet[J].ITC-irst,Istituto per la Ricerca Scientifica e Tecnologica I-38050Povo Trento Italy:1083-1086.

[3] Salah Z,Coenen F,Grossi D.Generating domain-specific sentiment lexicons for opinion mining[M].Advanced Data Mining and Applications.Springer Berlin Heidelberg,2013:13-24.

[4] Li S,Hao J,Jiang Y,et al.Exploiting Co-occurrence Opinion Words for Semi-supervised Sentiment Classification[C]//Advanced Data Mining and Applications.Springer Berlin Heidelberg,2013:36-47.

[5] 柳位平,朱艳辉,栗春亮等.中文基准情感词词典构建方法研究[J].计算机应用,2009.10(29):2875-2877.

[6] 常晓龙,张晖.融合语素特征的中文褒贬词典构建[J].计算机应用,2012,32(7):2033-2037.

[7] 徐琳宏,林鸿飞,潘宇,等.情感词汇本体的构造[J].情报学报,2008,27(2):180-185.

[8] 桂守才.基础心理学[M].北京:人民教育出版社,2007.

[9] 林传鼎.社会主义心理学中的情绪问题[J].社会心理学科,2006,21(83):37-62.

猜你喜欢

语料词典类别
基于归一化点向互信息的低资源平行语料过滤方法*
一起去图书馆吧
米兰·昆德拉的A-Z词典(节选)
米沃什词典
词典引发的政治辩论由来已久 精读
对外汉语教学领域可比语料库的构建及应用研究
——以“把”字句的句法语义标注及应用研究为例
多类别复合资源的空间匹配
国内外语用学实证研究比较:语料类型与收集方法
漫画词典
异种语料融合方法: 基于统计的中文词法分析应用