电力信息化存储系统优化研究
2018-08-30蒋明方圆蔡梦臣
蒋明 方圆 蔡梦臣
摘 要:电力系统现在主要采用SAN网络存储平台,虽具有较高的可靠性,但是随着业务数据的爆发式增长,目前一些早期服役设备,已经难以满足现有业务系统发展需求,需要逐步进行更新、优化,以持续保证存储系统的可靠性和可用性。研究通过对现有的存储系统的优化提升,提高存储系统的响应速度和执行效率;利用分布式存储方式为系统提供良好的弹性扩展能力,满足公司日益增长的存储需求。
关键词:存储系统;SAN网络存储平台;分布式存储
中图分类号:TM73 文献标识码:A 文章编号:1671-2064(2018)14-0189-02
电力系统现在主要采用SAN 网络存储平台,平台核心交换机为双机冗余,设备之间的连接为双通道连接方式。存储设备为双引擎,具备冗余电源、冗余通道,具备较高的可靠性。但随着业务数据的爆发式增长,目前一些早期服役设备,已经难以满足现有业务系统发展需求,需要逐步进行更新、优化,以持续保证存储系统的可靠性和可用性。具体表现在以下三点:一是设备超期服役;二是SAN系统性能存在瓶颈;三是现有的存储系统容量不足。
为解决现有系统的局限,研究利用先进、成熟的技术,提升存储系统的响应速度及执行效率,同时提升系统弹性扩展能力,最终使整个存储系统具有高性能、高安全、高可靠性、高弹性、易管理等特点,满足公司日益增长的存储需求。
1 存储系统提升总体目标和遵循原则
1.1 总体目标
为满足日益增长的数据存储需求,提升存储系统扩展能力,本方案着重于实现以下目标:
(1)完成存储系统的升级改造,提升部分存储的性能;(2)完成SAN网络的优化升级,优化SAN网络性能;(3)完成新存储系统规划设计,以满足未来业务发展需求。
1.2 遵循原则
本存储系统提升方案遵循以下几点原则:
(1)高性能。应用业务系统,如ERP、办公自动化、数据库应用等常常要大量地对存储系统进行写入、读取操作,因此,对存储系统的性能将提出更高、更苛刻的要求。(2)高安全。电力信息数据安全性要求非常高,一旦数据发生问题,会导致业务连续性受到影响,甚至影响正常运行,因此,存储系统建设需要以安全可靠问基础。(3)高可靠。根据要求信息需要在24×7h的条件下保持在线状态,系统故障会引起应用服务中断,将给用户造成损失。(4)高弹性。存储系统要建设成标准、集中、易扩展的系统,能够在容量、性能需求不断增加的情况下,横向或纵向进行存储空间的平滑扩展。(5)易管理。对存储系统进行管理,简化工作,降低TCO,是保证存储系统稳定运行的重要因素。
2 存储系统优化方法
2.1 建设分层存储系统
分析业务系统存储需求,整合现有存储资源,制定存储系统更新换代实施计划,逐步对超期服役存储进行退役处理;并引入分层存储技术对现有架构进行优化,提升整个SAN存储系统可用性和性价比。具体建设过程分为两个阶段,第一阶段完成业务系统存储需求调研,论证分层存储建设方式,编制存储系统优化建设方案;第二阶段完成存储系统测试验证工作,通过测试后上线部署,并逐步完成数据迁移和监控分析完善工作。
2.2 应用存储系统融合技术
研究存储融合技术,用于对性能差设备、退役设备进行整合,提升设备利用率,节约数据中心建设成本;最终形成相关融合产品,在系统内进行推广。具体应用过程分为两个阶段,第一阶段完成存储融合技术方向确立,制定工作计划,并进行相关技術储备工作,第二阶段完成存储融合技术的研发工作、并在内部进行相关测试、试点部署工作。
2.3 自研分布式存储及管理系统
进行分布式存储系统自研工作,并结合存储发展趋势,进行分布式存储综合管控平台研发工作,在公司层面利用分布式平台进行综合管理,形成电力特色分布式存储管理系统,为数据中心发展提供支撑。具体研究及应用过程共分为三个阶段,第一阶段:进行相关技术调研和分析,并储备相关项目技术资源;第二阶段:完成对分布式存储技术进行研究分析,对国内主要厂商相关产品进行调研,形成分布式存储体系调研报告,完成分布式存储管理系统自研工作计划和实施方案;第三阶段:完成系统自研、测试、上线工作。
3 存储系统优化方案
根据上述提升方法,本建设方案认为提升后存储系统含高端存储系统1套、大容量存储系统1套、分布式存储系统2套、全闪存阵列存储3套、容灾存储系统1套。根据业务需求紧急程度并结合存储技术发展趋势,存储系统建设分三个阶段完成。第一阶段完成高端存储系统、大容量存储系统和2套全闪存阵列存储部署,完成部分灾备存储系统部署,完成相应的SAN存储网络和IP存储网络建设;第二阶段完成第三套全闪存阵列存储系统部署,完善灾备存储系统部署,完成分布式测试存储部署,完成相应存储网络建设工作;第三阶段完成分布式高性能存储系统部署,完成对应IB存储网络建设。总体部署图如图1所示。
3.1 第一阶段
机房部署2台高端SAN存储用于承载公司核心业务数据,2台存储采用双活模式部署确保存储高可用,同时为了保障数据安全将数据备份到灾备存储中。高端存储采用不低于16GB FC主机接口,配合不低于16GB传输接口的SAN交换机组建高性能存储网络。具体部署如图2所示。
高端存储通过SAN网络将原有的老旧存储通过存储异构方式进行利旧,可利用这些老旧存储为性能要求不高的非核心业务提供服务。
海量存储系统部署3个节点,采用分布式架构确保大数据量读写的性能和稳定性。此存储系统主要用于各类非结构化及半结构化数据的储存,并可为公司后期大数据业务提供存储服务,为相关大数据分析提供充足可靠的存储环境。
一阶段部署2套全闪存阵列,存储磁盘采用高性能SSD企业盘,整套系统总IOPS不低于50万,并具备极低的延迟,可为公司部分核心业务提供性能加速。
3.2 第二阶段
第二阶段在第一阶段的基础上增加一台全闪存阵列,完善全闪存阵列存储系统,将部分对IOPS和延迟要求高的业务迁移到全闪存阵列,进一步提升存储系统整体的服务器水平。
部署一套分布式存储用于各类测试业务,分布式存储采用5个节点的X86架构服务器,存储网络采用万兆以太网,业务网络根据情况采用千兆或万兆以太网。通过分布式文件系统将业务数据分散存放到各存储节点,结合多副本技术确保数据安全。此分布式存储系统除了承载测试业务数据外,还可以为一些业务负载不高的虚拟化业务提供数据存储。根据需要在灾备存储区部署IP存储,为分布式存储中的部分业务提供数据灾备服务。
3.3 第三阶段
随着公司业务系统的不断增长,更多业务对存储系统提出更高要求,第三阶段部署一套基于PCI-E SSD的高性能分布式存储系统,根据业务对性能要求情况,可以采用部分PCI-E SSD加速或全部基于PCI-E SSD构建。高性能分布式存储网络采用不低于56GB的IB交换机,确保整套存储系统在延迟、带宽、IOPS等方面均能满足关键业务的需求。
4 结语
綜上所述,研究通过对现有的存储系统的优化提升,提高存储系统的响应速度和执行效率;利用分布式存储方式为系统提供良好的弹性扩展能力,使系统具有高性能、高安全、高可靠性、高弹性、易管理等特点,为公司提供优良的数据存储服务,满足快速增长的数据存储需求。
参考文献
[1]Beaver D, Kumar S, Li H C, et al. Finding a needle in Haystack: facebook's photo storage[C]// Usenix Symposium on OperatingSystems Design and Implementation, OSDI 2010, October 4-6, 2010, Vancouver, Bc, Canada, Proceedings,2010:47-60.
[2]余庆.分布式文件系统FastDFS架构剖析及配置优化演示文档[OL].[2012-4-8].[2016-7-12].
[3]Geekwolf.FastDFS分布式存储实战文档[OL].[2016-7-12].
[4]刘爱贵.海量小文件问题综述[OL].[2016-7-13].
[5]张友东.TFS开源用户常见问题(FAQ)[OL].[2016-7-14].
[6] ChuYu.Intro Taocode[OL].[2011-9-29].[2016-7-13].