云存储技术与运维活页式工作手册式教材设计
2021-11-28曾文英
曾文英
摘要:为满足云存储技术与运维工程师岗位技能人才培养需求,针对云计算技术应用专业课程,从架构、路径、载体、项目化、模块化、体系等方面,进行云存储技术与运维活页式教材设计与探索。
关键词:云存储技术;活页式教材;工作手册;项目化;模块化
中图分类号:TP311 文献标识码:A
文章编号:1009-3044(2021)28-0155-03
开放科学(资源服务)标识码(OSID):
1 背景
云存储属于云计算服务的基础设施服务,起着数据存储、读写管理的核心功能。云存储技术与运维是云计算技术与应用专业的核心课程之一,课程内容包括:云存储架构、部署、管理与运维。主要面向岗位:云存储架构、云存储运维。采用活页式、工作手册式教材,有助于学生按项目化、模块化、目标任务分解方式掌握云存储技术技能。
云存储教学采用活页式、工作手册式教材,在教学中以项目为单元,以项目需求为导向,进行规划和设计,安装、配置和部署,训练实战技能。可基于应用场景设定,进行项目化教学实践。
2 相关技术
传统的企业存储(如SAN、NAS)已无法应对海量的非结构化数据的存储需求[1]。SDS社区推出代表性解决方案Ceph、Sheepdog、GlusterFS和Swift等。开源SDS(Software-Defined Storage,软件定义存储)分布式存储技术Ceph是一种高可用、易扩展的对象存储系统,适合企业在私有云、公有云和混合云场景下图片、视频等非结构化数据存储和管理需求[2]。
云存储根据面向部署方式不同,可分为以分三类:公有云存储、私有云存储、混合云存储[3]。
公有云存储基础设施由云存储提供商构建、拥有、管理和维护。如亚马逊公司Simple Storage Service(S3)、以Dropbox为代表的个人云存储服务,国内代表性产品搜狐企业网盘,百度云盘,乐视云盘 ,移动彩云,金山快盘,坚果云,酷盘,115网盘,华为网盘,360云盘,新浪微盘,腾讯微云,cStor云存储等。
私有云存储一般是企業在本地控制的存储服务器,位于企业防火墙内部。私有云平台有:Eucalyptus、3A Cloud、minicloud、联想网盘等。企业可拥有或控制基础架构,及应用的部署。
混合云存储把公共云和私有云结合在一起,是公共云、私有云和数据中心的某种组合。通常将由企业拥有和管理的资源与公共云存储提供的弹性、可扩展性和成本优势。可帮助公司面对迅速增长的负载波动或高峰需求。
云存储系统设计时应考虑基本目标和扩展目标,设计满足目标的集群架构和系统结构,实现云存储系统文件同步及重复数据删除等关键技术[4]。
可用开源软件构建云存储平台,可能需考虑存储集群的高可用、超大规模节点集群部署和维护、跨多数据中心解决方案等问题。可采用增加前端数据缓存、预备份数据来提高处理效率,通过增强数据冗余检查、数据的一致性检测保障数据安全,加强健康检查和告警模块、自动化部署、优化通知和轮询机制,实现便捷的运维管理。将所有存储组件都多活热备、分布到不同机架提高产品可用性[5]。
大数据时代,云计算及其数据处理技术在信息系统中的运用广泛,基于云计算大规模存储和按需服务优势。可将云计算技术与J2EE技术相结合,构建云信息系统。运用存储技术解决现阶段常见的结构化和非结构化数据共存的问题,建设创新服务平台,将云计算中的存储技术与现阶段流行的J2EE开发框架有机结合,设计并开发基于云存储与Spring、SpringMVC、MyBatis架构的创新服务平台系统,进行创新资源库的存储[6]。项目将软件开发与云计算、云存储系统结合,可培养产业急需的复合型人才。
云存储可与大数据结合,如搭建Hadoop集群由旧有设备和新购置设备组成,各节点在存储性能、计算性能、IO性能等存较大差异。在HDFS机架感知调度策略基础上,首先根据节点的CPU、内存大小、磁盘大小、磁盘I/O等固有硬件性能将节点划分为高、低配置节点,其次根据节点CPU使用率、内存使用率、网络带宽使用率、磁盘使用率等性能的动态因素建立节点的性能评价模型,划分性能级别。根据节点配置情况、性能级别及网络位置等综合调度,数据的访问频率对数据块的分布进行动态调整[7]。
3 云存储架构
存储系统根据所处的功能层次不同,可划分为4个层次:存储层、管理调度层、访问接口层、业务应用层。其中:存储层包括存储设备(IP SAN/FC SAN/NAS等)、存储虚拟化、设备管理与状态监控等,管理调度层包括分布式文件系统、对象存储、多副本一致性与纠删码、故障检测、负载均衡等;访问接口通过iSCSI、NFS、CIFS、FTP、HTTP、REST或API访问;云存储应用领域广泛,包括视频监控、智能分析、大数据检索等。
云存储技术根据用户可访问性不同,可分为私有云存储、公有云存储、混合云存储。云存储根据所依托的操作系统不同,分别有:Linux、Windows、MacOS等系统下的存储系统。面向云存储管理与运维工程师岗位,可将云存储技术与运维教程教学路径根据云存储的类型,分别进行教学,即私有云存储架构与管理、公有云存储部署与管理、混合云存储等设计。其知识目标主要为:存储分区、格式化;存储卷管理、存储集群构建与运维等;能独立完成云存储配置、容灾备份与安全控制等。
4 教学载体
4.1 云平台
教学采用的云平台可基于市场主流云平台Vmware、Openstack、Zstack[8]等的存储解决方案。OpenStack为2010年起开源的云计算管理平台项目,已进入主流企业市场,高速增长,但该项目依然面临较难部署和管理问题。ZStack项目始于2015年,下一代开源云计算IaaS软件,具有易用、稳定、灵活、超高性能等特点,发展以及成熟速度远快于OpenStack。有商业版以及开源社区版本。
开源分布式存储Ceph、GlusterFS、Sheepdog和MinIO,多家主流厂商和新锐厂商将其商业化,许多行业云和企业云业主考虑采用开源系统。可能的问题是系统庞大和复杂,部署和运维难度大;功能单一(仅块存储、文件存储或对象存储之一)等。可选择业界主流开源存储技术应用于课程教学。
4.2 云存储系统
云存储是分布式存储系统,主要包括:文件存储、块存储和对象存储等类型。
从物理存储看,服务器扩展存储的手段主要有直连存储(DAS)、存储区域网络(SAN)和网络附加存储(NAS)这三种类型。实例存储可以用DAS实现,也可用NAS或者卷存储;卷存储对应物理的SAN;云存储需通过虚拟磁盘(Virtual Disk)实现资源分配以及共享,Hypervisor采用NAS的方式来实现虚拟磁盘;VMware通常采用VMFS(Virtual Machine File System)或NFS协议来实现虚拟磁盘。应用直接通过REST API来访问对象存储。很多供应商都支持对象存储,如OpenStacks Swift, Amazons S3, Red Hats Ceph和Cleversafe。
有的厂商NAS存储提供对象存储接口。这是由于3种存储形式的特点决定的,如图1。
4.3 云存储运维
云存储设计、开发、配置与部署流程完后,需要进行云存储运维。具体可包括:云存储负载均衡、数据更新、数据迁移、数据副本一致性、冗余机制等。
主要用途:
备份、归档、灾难恢复 数据服务层:存储、资源、共享、备份;
数据管理层:用户、安全、副本、策略;
数据存储层:存储设备、虚拟化、集群 副本、冗余、安全、可靠性和可用性、控制性、性能等 在线存储服务;数据安全、可靠、高效;按需付費;减少IT托管成本;服务端维护 多租户;可扩展;高效、可用、安全控制 1.云存储分类:公有云存储、私有云存储;混合云存储。
1. 主流产品:OpenStack Swift;Ceph;GlusterFS;PureStorage;BAT云存储产品 ]
5 云存储活页式教材模块化设计
基于工作过程,设计阶段项目;将项目任务划分为多阶段任务,每阶段设置预期目标成果,团队分工协作完成任务。
6 基于活页式教材教学体系设计
根据活页式教材模块,每个教学单元采用的教学体系可概括为三环节教学体系:课前知识预习与自测;课中案例分析与实训;课后复习与创新设计。
课前,学生学习课件,了解所需的知识,完成自测习题。课中,师生进行案例分析,参考案例进行项目实训。课后,学生进行复习,巩固所学知识与技能,并进行创新思考和创新项目设计。
教材可划分为多个模块,涵盖云存储架构与运维岗位知识与技能目标、关键技术的应用等。主要模块可划分为:虚拟化技术、网络存储、私有云存储、公有云存储、云存储产品与服务支持、云存储运维与安全等。可包括云存储的安装、配置与管理等:虚拟机集群安装、配置;DAS、NAS、SAN等网络存储,RAID、LVM等安装、配置、部署与应用;OpenStack Cinder、Swift,Ceph,GlusterFS等存储安装与管理;Aliyun OSS、Huawei OSS、AWS S3等公有云存储部署与运维;云存储扩容、缩容与负载均衡、云存储备份、安全、容灾、加解密、恢复;超融合架构、混合云存储部署与管理等。如表4。
云存储活页式工作手册式教材可配套建设立体化资源。主要包括:1)项目文档:包括项目开发计划、需求说明书、详细设计说明书、用户手册、测试计划、测试分析报告等;2)教师用项目实训管理手册(为教师提供实训组织和评审的参考依据);3)学生用项目实训手册;4)项目源代码,相关数据,以及项目开发、测试、部署、运行所需要的工具;(5)视频教程;6)习题等。
7 结束语
云存储技术是云计算IaaS的重要形态,为软件开发与部署、数据存取等提供了载体。云存储技术涵盖软硬件平台、存储单元组织、读写算法、副本维护、主从协作等多方面。
建立活页式、工作手册式云存储技术与运维教材,可通过项目化、模块化、业务流程化合一的创新模式培养云存储工程设计人才。
参考文献:
[1] 知乎.目前行业云存储面临的运维问题及解决方案[EB/OL].[2020-12-20].https://zhuanlan.zhihu.com/p/157505629?utm _source=wechat_session.
[2] 谢泓生.基于Ceph的企业云存储系统的设计与实现[D].厦门:厦门大学,2019.
[3] 关于云存储的多种存在类型-电子发烧友网. [2020-12-20].http://m.elecfans.com/article/1017888.html.
[4] 李明娟,邸海涛,张鹏,等.云存储系统架构与关键技术研究[J].信息通信,2018,31(3):125-126.
[5] 王东旭,陈方县.基于开源软件构建云存储平台[J].电信工程技术与标准化,2017,30(7):10-13.
[6] 林珠,李海威,杨柏蔼.基于云存储与J2EE架构的信息系统设计及应用[J].计算机技术与发展,2017,27(10):177-180.
[7] 李青.科技云平台的数据存储管理技术研究[D].北京:北方工业大学,2016.
[8] 三种存储类型:块存储、文件存储、对象存储_Aiky哇-CSDN博客[EB/OL].[2020-12-20].https://blog.csdn.net/qq_35423190/article/details/109355597?utm_medium=distribute.pc_relevant _bbs_down.none-task--2~all~first_rank_v2~rank_v29-6.nonecase&depth_1-utm_source=distribute.pc_relevant_bbs_down.n one-task--2~all~first_rank_v2~rank_v29-6.nonecase.
[9] 常见的三种存储技术以及iSCSI协议[EB/OL].[2020-12-20].http://www.360doc.com/content/18/0917/07/35525662_787279 413.shtml.
【通联编辑:谢媛媛】