大型数据存储与管理系统设计与实现

单德华，杨红艳，孙鸿雁

（辽宁省地震局，沈阳 110031）

0 引言

2006年～2008年中国地震局在1个国家中心和41个省地震局及直属单位（以下简称区域中心）建立了畅通高效的台站－区域－国家数据流平台，采用了SAN和NAS的相结合的存储结构，具有易扩容以及安全容错存储机制； 为数据库集群应用提供了高速、共享、稳定、大容量的共享磁盘存储；搭建存储局域网络，且具有故障自动切换功能。为各业务系统提供了基础存储平台。

国家中心通过150T的SAN+NAS存储系统、备份系统搭建了台网中心数据系统的基础设施，完成了汇集、入库等数据库应用系统开发和部署，建成了“十五”观测数据集成存储和管理的平台，每天汇集、存储、管理的观测数据量达到35G以上，对1021个测震台站、超过70个前兆台站数据进行了汇集和管理，数据库容量超过1500万条。

区域中心通过8.5T的SAN+NAS存储系统搭建了区域中心数据系统的基础设施，完成了汇集、入库等数据库应用系统开发和部署，建成了“十五”区域观测数据集成存储和管理的平台，每个区域中心平均每天汇集、存储、管理的观测数据量达到2G以上，对区域内测震台站和前兆台站数据进行了汇集和管理，数据库容量超过30万条。

大中城市节点、县级节点和台站节点采用144G的PC服务器搭建了本节点范围内的地震观测仪器数据采集和交换平台，有条件的节点将本地区及临近地区的测震实时数据汇集到节点的服务器中，形成虚拟观测台网，每个节点平均每天数据流量超过400M。

通过在国家中心和区域中心安装双机Oracle数据库，实现应用集成、综合共享和数据建模功能；在台站安装单机Oracle数据库用于存放综合在线监控类数据、前兆观测数据及其元数据，也可根据需要选择存放分析预报和研究需要的其它基础数据（如地震目录）和产出结果、速报台所需的测震观测数据和元数据等；在大中城市节点安装单机Oracle数据库用于存放本市及临近地区的震情和灾情数据、地震信息服务系统汇集的综合信息、应急指挥系统汇集的数据等；在县节点安装单机版Oracle数据库，用于存放本地及临近地区的震情和灾情数据、地震信息服务软件必要的后台基础数据等。在国家中心和区域中心安装的数据库采用Oracle10g的RAC技术。

1 数据存储

在中国地震台网中心和区域中心部署数据存储系统，主要包括以下功能：数据存储、数据管理、数据安全与备份。

1.1 国家中心数据存储子系统

国家中心数据存储子系统集成国务院抗震救灾指挥部技术系统、国家数字测震台网中心、国家地震前兆台网中心、国家地震分析预报系统和国家地震信息网络中心5个子项目的数据存储需求。

中国地震台网中心数据存储系统拓扑如图1所示。

图1 数据存储系统整体拓扑示意图

中国地震台网中心数据存储系统结构如图2所示。

图2 国家中心数据存储系统结构图

中国地震台网中心数据存储系统设计包括存储架构设计，磁盘阵列存储系统设计，备份系统设计三个部分。

数据的存储访问模式分为数据库系统和归档文件系统两类。数据库系统访问通过SAN结构来实现，归档文件系统访问通过网络共享方式实现。

存储系统各主要技术指标: 存储系统配置4Gb/s主机接口卡，4Gb/s端口的光纤交换机，4Gb/s端口的磁盘阵列，支持4Gb/s的磁盘通道实现端到端的全4Gb/s光纤通道存储。

1.2 区域中心数据存储子系统

区域中心数据存储子系统拓扑如图3所示。

图3 区域中心数据存储系统整体拓扑示意图

区域中心中心数据存储系统包括存储架构设计，磁盘阵列存储系统设计，备份系统设计三个部分。

2 数据管理

数据管理主要完成从业务库（测震、前兆）到信息库的数据交换和归档，数据汇集与管理如图4所示。

图4 数据汇集与管理物理结构图

服务层：不同服务集成在服务网站上，如：元数据查询、台站参数查询、WEBSERVICE订阅、波形数据等服务，统一集成在服务界面上，地震数据服务层仅负责服务请求和展现。

缓冲、调度层：负责服务调度管理，缓冲文件系统、临时库的管理等，数据一般是临时存储。为了提高服务的稳定和高效性，引人了调度管理的策略，不同的服务可以有不同的调度管理策略，根据服务性质不通，有不同的缓冲和调度策略。

图5 国家中心备份系统物理拓扑图

数据源层: 可以不同的数据源，如不同的数据库系统、文件系统。

根据实际的业务特点，在国家中心和区域利用备份软件和磁盘阵列的SnapView镜像软件，制定了信息数据库及其文件系统的备份策略与规划。国家中心和区域中心具体策略如表1所示。

3 结论

在1个国家中心和41个区域中心采用Oracle RAC双机系统，具有高可靠性、负载均衡和故障自动切换机制；为海量数据的准实时接收和汇聚的数据提供了可靠的数据容器，大中城市、县级节点、台站节点均采用标准版Oracle。

在国家中心和区域中心基于测试和验证，设计了测震10分钟等时的数据结构（原始数据格式为512字节），使数据纪录数缩小为原来的1/200，可提供3个月在线波形数据的高效存储和有效访问，采用了基于日期映射的分区技术，BLOB和CLOB存储类型单独存储的策略提高了数据汇集入库、存储管理和检索数据访问效率。

[1] Ken Henderson.SQL Server 存储过程、XML和HTML高级指南[M].北京:清华大学出版社,2002,231-238.

[2] Stephen Coffin.Unix系统V第4版参考大全[M].北京:科学出版社,2005,213-217.