基于天翼云对象存储的存储网关建设研究

李网灿 赵勇

中国电信股份有限公司江苏分公司

0 引言

云计算的快速发展使得越来越多的企业将数据存储放入云端。然而，由于当下云存储在安全性、可用性、便利性、访问速度等方面存在的问题，传统应用并不能很好地接入云存储。大部分公共云提供商依赖于互联网协议（IP），通常是HTTP上的RESTAPI API方式，虽然对于创建新应用的程序很实用，但是对于原有系统兼容与适配则有非常高的成本。由于公共云技术和原有应用不兼容，需要在云存储系统和企业应用之间搭建对象存储网关。对象存储网关需要具备本地高速缓存、保证数据安全、使用便捷等特点，云端存储价格相比传统存储更具有优势，能够通过对象存储网关助力企业轻松上云。

对象存储网关提供基本的协议转换和简单的连接性，从而让不兼容技术透明交流。网关可以让对象存储显得像NAS过滤器、区块存储阵列、本地磁盘、备份目标，甚至是该应用本身的一个扩展。

1 研究现状

当前用户使用天翼云对象存储，存在如下问题：（1）很难快速地与现有系统对接，需要对接天翼云对象存储的SDK，这提高了用户使用天翼云对象存储的技术门槛；（2）对用户的带宽要求比较高，网速对对象存储的读写速度影响较大，导致大部分用户对高昂的带宽费用望而却步；（3）不支持离线读写，当业务系统和对象存储网络发生故障后，严重影响业务系统的正常使用。本研究根据上述问题，结合中国电信天翼云的对象存储，对用户快速使用对象存储进行了重新研究与定义，研究如何利用对象存储网关让用户方便快速地使用天翼云对象存储。图1展示了如何通过对象存储网关连接用户和对象存储。

图1 在用户和对象存储之间建立对象存储网关

2 系统架构

对象存储网关采用B/S+C/S架构，后台管理采用B/S架构管理对象存储网关账号，客户端采用C/S架构，通过本地数据缓存机制提高云存储服务的响应速度，通过硬件和软件配置，实现本地RAID冗余存储机制，建立起集本地高速存储、云端存储为一体的低成本、可扩展、安全便捷的云存储。

以天翼云对象存储为后端，依托客户本地或各地市天翼云IDC节点作为热数据缓存，通过互联网或者专线，利用对象存储网关把数据通过加密的方式上传到天翼云对象存储。用户可根据自身的需求配置相应的网络模式。系统整体架构图如图2所示。

图2 对象存储网关系统架构

2.1 文件加密去重上传技术

存储网关系统采用文件加密去重上传技术，确保数据在通信传输的过程中的安全，防止数据在传输中被篡改，确保数据丢失后不会造成用户敏感数据泄露，同时上传数据采用加密去重方式，节省用户存储成本。

结合天翼云对象存储实际情况，设计了文件加密去重。文件的数据进行分块去重加密，用户可自定义文件分块的大小，每一块采用MD5进行校验，如果对象存储服务器上有该文件块，则该文件块不需要再上传，只记录该文件块所在位置，减少文件存储容量，用户可以设置文件是否加密上传，解决用户对数据上云的安全性担忧。在存储文件时，对象存储网关生成用于记录待存储文件属性的索引文件、生成用于记录文件块大小及其在原文件中位置的MAP文件，为防止本地磁盘损坏需要将索引文件和MAP加密后上传到对象存储服务器上，防止索引文件和MAP文件丢失。整体流程如图3所示。

图3 数据加密去重上传判断

2.2 热数据缓存技术

读取文件时，首先会读取文件索引文件，将索引文件解密，找到对应的map文件，根据map文件找到对应的文件块，将文件块解密后进行重组得到需下载的文件。

上传的数据首先在本地进行缓存保存，然后数据再进行分块去重上传，在本地采用一个SSD缓存磁盘提高读写速度，对象存储网关采用多线程异步分块对文件进行上传。本地存储的副本根据用户使用数据频率，对冷数据定时进行本地缓存清理，对于经常使用的热数据，缓存在本地，不到云端实时下载，提高读写速度并节省对象存储请求次数。特殊情况下，当网络或者对象存储后端系统发生故障时，网关会先在本地SSD中存储数据，不会影响用户正常的业务使用，当网络恢复后，对象存储网关自动进行数据同步。对象存储网关按照缓存设计规则自动清理过期的缓存数据，保证本地缓存数据都是高频使用的热数据。具体如图4所示。

图4 对象存储网关缓存示意图

图5 数据读取示意图

2.3 虚拟磁盘技术

对象存储网关通过POSIX、FUSE将云端的对象存储服务转化为本地的块存储服务，通过协议转换，挂载到本地，此技术的数据存储方案沿袭了用户的使用习惯，用户操作更加简便，不需要改造现有的系统，轻松实现本地数据上传到对象存储。图6展示了通过虚拟磁盘技术，在本地直接虚拟一个磁盘，对用户而言，与本地普通磁盘操作方式完全一样。

图6 虚拟磁盘展示

2.4 容量动态扩容

对象存储在用户动态扩容时，在管理后台更改用户的存储空间，客户端进行重新挂载，在保留原有数据的基础上，实现安全的扩容。控制台获取扩展磁盘容量的信息，而扩展磁盘容量的信息包括网络磁盘的身份标识号码和虚拟磁盘申请的扩容空间的大小。根据网络磁盘申请的扩容空间大小，在管理平台记录扩容相关信息，管理平台内部解析身份标识号码，查询到对应对象存储授权信息，实现后端对象存储容量的扩容；同时根据网络磁盘空间的属性修改并保存网络磁盘的配置信息，将网络磁盘的新增空间在操作系统中进行刷新展示。图7展示了用户动态扩容流程。

图7 用户动态扩容

3 结束语

本研究描述了对象存储网关的整体架构设计，并结合中国电信天翼云对象存储的特点提出如何利用中国电信天翼云对象存储网关进行快捷地系统建设。

目前该研究成果正在江苏电信对象存储网关中运行，初步测试结果表明，搭建在中国电信天翼云上的对象存储网关与传统直接使用对象存储的方式相比具有以下优势：

（1）降低了客户使用对象存储的技术门槛。由于采用虚拟磁盘技术，使得客户不需要改造现有系统，像普通磁盘一样直接使用。用户不需要单独进行技术对接，不需要投入相应的研发人员进行系统开发，后期维护人员的数量、技术要求也大大降低，节省了运维工作量和成本。

（2）可靠性、安全性更强。文件采用分块去重加密上传，与传统的对象存储相比，大大降低数据被泄露的风险。

（3）读写体验速度更高。基于本地冷热缓存数据的设计，读写速度依赖于本地的缓存设备，不再依赖于高昂的带宽，即使网络突然中断，客户业务系统在不超过本地缓存设备容量的前提下完全不受影响。

（4）降低天翼云对象存储的并发压力。对象存储网关的缓存设计，在一定程度上减少了客户和对象存储之间的交互压力。

需要改进和完善的地方：

（1）小文件处理速度有待提高。由于采用虚拟磁盘技术，每个文件都需要一个map描述文件，所以针对海量小文件（200KB以下文件）批处理，需要频繁的IO磁盘，速度还有待提升，后续需要采用“内存+本地磁盘”相结合的方式进行优化。

（2）需要增加自动同步功能。目前用户备份需要手动复制数据，后续需要支持用户选择同步的文件夹进行自动同步。