基于Ganglia和Nagios的云计算平台智能监控系统

张小银+陈国胜

摘要：随着现代数据中心云计算规模日益增长，云计算平台的智能运维管理面临较大挑战，尤其在实时监控领域方面。本文首先对云计算监控技术进行了深入分析和研究，然后在开源云计算平台Hadoop环境下，将Ganglia和Nagois两种开源监控软件进行整合，并利用移动飞信来实现对云计算平台的实时监控。实验结果表明，该系统可对云计算平台内主机和服务以及运行环境的各项性能指标进行全方位监控，实现对故障的实时预警和报警，使得管理人员能准确定位、实时处理云平台异常情况，从而提高了云平台的服务质量，有较好的应用价值。

关键词：云计算；Hadoop；性能指标；监控系统

中图分类号：TP3 文献标志码：A文章编号：1672-1098（2015）02-0000-00

Abstract：With the growing scale of cloud computing in modern data centers， the intelligent operation and maintenance management faces a great challenge， especially in real-time monitoring. After a thorough analysis and research of cloud computing monitoring technologies， this paper integrates two open-source monitoring software Ganglia and Nagois in a Hadoop open-source cloud computing platform， and use a mobile message software FeiXin to achieve real-time monitoring of the cloud computing platform. Experimental results shows that the proposed system realizes an all-round monitoring of performance indicators for hosts and service of operating environment in cloud computing platform and a real-time warning of faults， which help management personnel accurately locate and real-timely process abnormal situations. Therefore the system improves the quality of service of cloud computing platform and has a good practical value.

Key words：Cloud computing； Hadoop； Performance indicators； Monitoring system

随着云计算技术的不断成熟发展，云计算平台的规模以及资源也不断增加。现代数据中心的运维管理面临着重大挑战，传统的管理方法和管理模式已经无法满足要求。

为提高云计算平台的可靠性，保证服务质量，有必要在云计算平台中引入监控机制[1-3] [10]，以便能准确定位性能异常或故障的节点，及时做出恢复和调整；掌握整个系统的运行状况，分析系统瓶颈，为整个系统负载均衡提供数据支持，在系统出现异常时能起到预警的作用。

Ganglia是加州大学伯克利分校发起的一个开源监控项目，主要用来监控大规模分布式系统的性能[1] [2] [4] [10]。Nagios也是功能强大的开源监控系统，能监控所指定（本地和远程）的主机以及服务，可利用故障状态实现故障报警[1] [2] [3] [5] [10]。Ganglia侧重于数据采集，没有内置网络服务的监控和故障状态级别，Nagios更侧重于告警功能，配置文件较多，配置步骤繁琐[1-2]。因此，本文采用两款软件结合，协同工作。

经过几年的迅速发展，Hadoop已经成为开源云计算平台的佼佼者，目前具有广泛的用户群体[2] [6]。因此，研究利用Ganglia和Nagios整合来监控Hadoop系统具有广阔的应用前景。

1相关技术原理

11Hadoop技术

云计算是并行计算、分布式计算和网格计算的发展。具有超大规模、虚拟化、按需服务、高可靠性和高扩展性等特点。

Hadoop是一个开源的分布式计算平台，由Apache软件基金会支持发布。整个Hadoop的体系结构主要是通过HDFS来实现对分布式存储的底层支持，通过MapReduce来实现对分布式并行任务处理的程序支持的。

Hadoop分布式文件系统（HDFS）采用了主/从（Master/Slave）结构模型，一个HDFS集群由一个名称节点（Namenode）和若干个数据节点（Datanode）组成。Namenode作为主控服务器，负责管理文件系统的元数据，Datanode存储实际的数据。Namenode执行文件系统的命名空间操作，如打开、关闭、重命名文件或目录，Datanode负责处理客户的读写请求，执行数据块的创建、删除和复制工作。Namenode使用事务日志来记录HDFS元数据的变化，使用映射文件存储文件系统的命名空间。采用冗余备份、副本存放、心跳检测、安全模式等策略使HDFS可靠性得到保证[2] [6]。

MapReduce是一种并行编程框架，它将分布式运算任务分解成多份细粒度的子任务，发到由上千台机器组成的集群上，这些子任务在各处理节点之上并行处理，最终通过某些特定的规则进行合并生成最终的结果。MapReduce任务是由一个JobTracker和多个TaskTracker节点控制完成，JobTracker单独运行在主节点上，负责调度管理TaskTracker，调度一个作业分解的所有子任务。主节点监控子任务的执行情况，从节点仅负责完成由主节点指派的子任务。MapReduce将分布式运算抽象成Map和Reduce两个步骤，最终完成Hadoop的并行处理任务[2] [6]。

12云计算监控技术

1） Ganglia监控技术

Ganglia在结构上由gmond 、gmetad和gweb三个守护进程组成，三者相互协调[1] [2] [4] [10]。具体如图1所示。

gmond是数据采集器，运行在所有被监控主机上的一个守护进程。用于收集被监控主机上的基本指标，或者收集用户自定义的指标，在同一个组播或单播通道上的传递。gmond 所产生的系统负载非常小，这使得在各被监控主机上运行gmond时，不会影响到各主机的性能。Ganglia的收集数据可以分为单播和组播两种工作模式。

gmetad是数据混合收集器，运行在监控主机上的一个守护进程，gmetad通过轮询收集各主机上gmond 的数据， 并聚合集群的各类信息，然后保存在本地RRD存储引擎中。

gweb是Web可视化工具，采用PHP脚本语言实现，运行在Ganglia的监控主机上。可以通过浏览器从RRDTool数据库中抓取信息，将数据可视化，动态的生成各类图表。

Ganglia集群是主机和度量数据的逻辑分组，一般每个集群运行一个gmetad，可以构成层次结构，正因为有这种层次结构模式，才使得Ganglia可以实现良好的扩展。

2） Nagios监控技术

Nagios监控系统分为核心和插件两大部分。Nagios的核心部分只提供了很少的监控功能，其它大部分监控功能需要安装相应的Nagios插件完成 [1-3] [5]。

Nagios可实现如下功能：监视本地或者远程主机资源；监视网络服务资源；允许自定义插件来监控特定的服务；出现异常时，可以通过邮件、短信等方式通知管理人员；可以事先定义事件处理程序，当主机或者服务出现故障时自动调用指定的处理程序；可以通过Web界面来监控各个主机或服务的运行状态。

Nagios必须运行在Linux/Unix服务器上，这台服务器称为监控中心，每一台需要监视的主机或者服务都运行一个与监控中心服务器进行通信的Nagios软件后台程序。监控中心服务器根据读取配置文件中的指令与远程的守护程序进行通信，并且指示远程的守护程序进行必要的检查。

远程被监控的机器可以是任何能够与其进行通信的主机。根据远程主机返回的应答，Nagios将根据配置以合适的行动进行回应，通过一种或者多种方式报警。

NRPE是Nagios的一个功能扩展，它可在远程Linux/Unix主机上执行插件程序，通过在远程主机上安装NRPE构件以及Nagios插件程序，向监控中心提供该主机的一些本地的情况。

2云计算平台智能监控体系

本文在开源云计算平台Hadoop环境下，将Ganglia和Nagois两种开源监控软件进行整合，配合移动飞信来实现对云计算平台的实时监控。形成了如图2所示的一整套云计算平台的智能监控体系。

该模块通过整合Ganglia和Hadoop平台来采集监控主机的基本指标或者用户自定义的指标。然后进行数据处理，包括信息聚合，分类，可视化，生成报表等。具体过程如下：

Ganglia的监控进程（gmond）发送的指标格式是有明确定义的。用户可配置Hadoop指标子系统，按照Ganglia的要求，直接向Ganglia发送指标数据。用户可以根据需要，用Ganglia对Hadoop的一个或全部上下文进行监控，需要监控的Hadoop上下文包括Java虚拟机（JVM）上下文，远程调用（RPC）上下文，分布式文件系统（DFS）上下文，Mapreduce（mapred）上下文等配置项。每个上下文对应一个Hadoop指标子系统，每个子系统包括多项Hadoop指标。

Hadoop的配置见文件hadoop-metrics2.properties，配置项的前缀是上下文名称，每个上下文配置项都有如下三个属性。

在本系统中，由于只有少数主机需要处理，为简化启用和配置，Ganglia只使用单个集群。

在组播模式下，当节点规模过大，组播会对系统性能会产生一定的影响。在本系统中，尽管只有三个节点，仍采用单播传输模式。

22监控模块

该模块通过整合Nagios与Ganglia来完成相关资源的监控，包括主机资源，网络资源等。

在后台，Nagios实际上只是单一进行调度和通告的引擎。Nagios本身并不能监控任何内容，只能调度插件程序的执行，并处理输出结果。

本系统采用Nagios来监控Ganglia指标。Ganglia项目在gweb模块中包含了一系列官方Nagios插件。这些插件使得Nagios用户可以创建一些服务，将存储在Ganglia中的指标和Nagios中定义的告警阈值进行比较。

在实际应用中，使用Ganglia插件来监控系统，如：Ganglia内部使用心跳计数器来确定某台主机是否在运转；将给定主机的单个指标与预定义的Nagios的门限值进行比较来检查特定主机的某种指标；检查特定主机上多种指标；检查使用正则表达式所定义范围内主机的多种指标；验证一套主机上的一个和多个指标值是否相同。

在图3中，这些插件和一系列专门为此创建的gweb PHP脚本进行交互。毎个PHP脚本从插件接收参数，解析从gmetad获取的有关状态缓存，提取被监控实体当前的指标值，并返回。Nagios插件和PHP脚本成对出现。

实际应用中，在hosts.cfg中定义hostgroup，格式如下：

其中，check-heartbeat.sh是Nagios插件。

此外，可以使用Nagios监控Ganglia主机的运行情况，如使用check-nrpe守护进程，监控Ganglia的所有故障，如监控汇聚主机上的gmetad和rrdcached以及所有主机上的gmond，监控TCP端口（如gmetad和gmond的监听端口）的连通性等。

23报警模块

为了减轻工作负担，使管理人员能实时获取云计算平台运行异常或故障信息，本文使用整合了Nagios与移动飞信的报警模块将报警信息直接送到管理人员手中。

Nagios利用插件使用Ganglia采集的信息，在运行指标超过阈值的情况下通知管理人员，通知方式采用移动飞信。

Nagios下飞信的配置主要包括：

飞信命令定义

配置commands.cfg文件，定义一个服务故障时发送报警短信的指令，如下

3云计算平台智能监控系统的实现

31系统总体架构及实现环境

本系统使用三台VMware虚拟机，根据需要组建Hadoop集群，Hadoop集群各主机参数列表如表1所示。

表1Hadoop集群各主机参数列表

主机名IP地址CPU（个）内存（G）硬盘（G） host110100981281010200 host6101009812488100 host7101009812688100

在三台主机中安装CentOS 65系统，开发环境安装JDK17，安装Hadoop 112[7]，配置host1作为NameNode、SecondaryNameNode， 三台主机均配置为DataNode， 在host1上运行JobTracker，在三台主机上均运行TaskTracker。

在host1上安装Ganglia-gmetad 317，Ganglia-gweb 342[8]，Web服务器Apache22，脚本语言php-533，在三台主机均安装Ganglia-gmond 317。

在host6主机上安装Nagios Core 344[9]， nagios-plugins-15， nrpe-214，Web服务器Apache22，脚本语言php-533，安装移动飞信fetion。系统总体架构如图4所示。

Ganglia和Nagios均具有丰富的Web展示功能。实现环境中，Ganglia能监控hadoop集群及各主机性能指标众多，大约有几百个，下面只展示其中的几个，图5至

图5host6节点一月内平均负荷图6host1节点一天内jobtracker.heartbeats指标图7host1节点一天内namenode.blockReport_num_ops指标

Nagios监控效果只选取一张图，Nagios所有主机服务状态详述（局部）如图8所示，上面十五项是hadoop集群中host1、host6、host7三台主机上五个服务项的状态信息，这五个服务项分别是：GMOND、check-ganglia-heartbeat、check-ganglia-metric disk-free、check-ganglia-metric load-one、check-value-same-everywhere，下面八项是Nagois主机上服务的状态信息，本系统中Nagois主机即为host6。从这些效果图可以看出，Ganglia和Nagios协调工作，实现了对Hadoop系统性能的监控。图8Nagios所有主机服务状态详述（局部）本系统一般只需设定Nagios插件返回Critical和Unknown二种状态发出报警，且一小时间隔循环发送即可。在系统主机和服务出现异常情况时，管理员接收飞信的手机会收到报警短信，格式如下：发信人为“12520139xxxxxxx”，短信内容为“XXX：1010098126host7/GMOND is CRITICAL”，最后是接收短信日期时间，“XXX”为接收飞信手机机主的姓名。此时，管理员可在本地或远程实时维护host7主机上的GMOND服务。

在实际应用中，可以根据具体需求调整要监控的服务项。利用Hadoop、Ganglia和Nagios良好的可扩展性，动态增加节点，以便加入更多的Hadoop应用。通过改变Hadoop集群的负载，或通过调整VMware虚拟主机的部分参数，使系统负载达到均衡。由于系统中使用的端口众多，因此应特别注意iptables防火墙的设置。

4结 语

在开源云计算平台Hadoop环境下，利用Hadoop系统提供的监控接口，将Ganglia和Nagios整合，通过Web可视化工具，强大的图表展示功能，直观地了解每个节点以及整个Hadoop系统的工作状态，并利用移动飞信进行故障报警，对调整Hadoop系统的运行参数、提高系统整体资源效率起到重要作用。

参考文献：

[1]袁凯.云计算环境下的监控系统设计与实现[D].武汉：华中科技大学，2012.

[2]张仲妹.云计算环境下的资源监控应用研究[D].北京：北方工业大学，2013.

[3]沈青，董波，肖德宝.基于服务器集群的云监控系统设计与实现[J].计算机工程与科学，2012，34（10）：73-77.

[4]Matt M.，Bernard L.，Brad N..陈学鑫，张诚诚译.Ganglia系统监控[M].北京：机械工业出版社，2013：12-15，133-135.

[5]陶利军.掌控：构建Linux系统Nagios监控服务器[M].北京：清华大学出版社，2013.

[6]刘鹏，黄宜华，陈卫卫.实战Hadoop：开启通向云计算的捷径[M].北京：电子工业出版社，2011：37-38，60，62.

[7]Apache Software Foundation. Hadoop官方网站[EB/OL]. .

[8]http：//ganglia.info/. Ganglia发布网站[EB/OL]. .

[9]http：//www.nagios.org/. Nagios官方网站[EB/OL]. .

[10]李超，梁阿磊，管海兵.海量存储系统的性能管理与监测方法研究[J].计算机应用与软件，2012，29（7）：78-80.