APP下载

基于冲突检测的通信数据多路径自适应存储系统*

2022-11-28郑振峰

自动化技术与应用 2022年10期
关键词:存储卡存储系统数据结构

郑振峰

(陕西国防工业职业技术学院,陕西 西安710300)

1 引言

如何快速有效存储数据一直都是网络存储系统发展过程中的关键技术难点,传统的无线通信网络存储系统无法识别存储内容,主要是依靠文件系统利用主机CPU管理访问请求,并利用锁机制[1]控制访问请求之间的路径冲突;但是这与无线通信网络存储系统的多路径数据分布特性不相符,对通信数据无法做出精准的分析。再加上锁机制是以文件为单位的,这也在一定程度上大大限制了访问请求的多路径[2]并行,与通信系统特性发生冲突。与此同时,锁机制需要将相应的进程在阻塞和就绪状态之间进行调度,也影响了存储系统的I/O性能[3]。

目前,大部分的存储系统依然使用PCIe(peripheral component interconnect express)或SAS(serial attached SCSI)等接口,这些接口也是影响存储设备I/O性能的原因之一,再加上现在的存储设备主要是利用CPU主机来控制访问请求,通过存储设备接口获取数据状态信息,这就需要存储设备和主机之间频繁地互换信息,进一步加重了存储设备对I/O 性能的影响,同时还占用了较大的CPU。总的来说,存储设备现有的数据读写速度致使I/O 栈(I/O stack)成为影响I/O 性能的重要原因之一。但是目前现有的存储系统还缺乏更优的存储机制。文献[4]设计基于DSP 的多元数据同步采集与存储系,将DSP 作为中央处理芯片,利用CF 卡作为存储介质,实现通信数据自容式存储,此方法具有较高的存储精度,但是可扩展性较差。文献[5]设计一种机载高安全高可靠数据存储系统,利用应急关键数据销毁技术保障通信数据安全,通过Nand-Flash 数据存储模块进行数据分区操作,此方法在保障通信数据安全性上具有较高的价值,但是数据传输能耗较高。

为此,本文利用冲突检测对通信数据的特征进行分析,并以此对数据结构进行分配,实现通信数据的迁移,最终获得检测条件和响应时间。在此基础上完成存储系统的构建,以存储卡和上位机完成数据的过滤、解封装和重组以及存储,构建稳定的数据存储环境。

2 基于冲突检测的通信数据结构分析

2.1 通信数据结构冲突检测

分析金字塔模型和奇异熵的通信数据机制,提取通信数据特征点,观察单位时间内通信数据结构特征值的变化趋势,计算其平均值和梯度值,进而对通信数据进行冲突检测,详细步骤如下所示:

金字塔时间模型主要可用来描述多个通信数据结构,假设aggi表示通信数据特征值,T表示通信数据从开始到当前时刻所需的时间,在时域计算复杂聚合需求的聚类值可以计算出金字塔时间模型(tpast,tnow)描述的通信结构的聚类序列,利用(tpast,tnow)时域中通信结构的聚集需求的绝对误差如下所示:

式中,(aggnow-aggpast)为时间窗口上(tpast,tnow)的近似总价值,(aggnow-aggs)为(tnow,ts)上的近似总价值。通信系统的每一层结构中都包含着矢量信息,包含的矢量信息越多,表示时间的信息点也就越多,那么所得结果也就更加地精准。

将质数分配给通信系统中每一个项目集I的每一个项Ii,每个项Ii中,均有mi+1mi,那么用来记录通信数据结构的哈希函数就是:

其中,d(Ix)表示首次出现Ix的位置信息,还需要进一步确定d(Ix)在子项目集中首次出现的位置,这就需要对子项目集进行分组:

通过以上对奇异熵结果的计算过程,可以确定通信数据特征值的有效阶次[6]为:

其中,k表示奇异熵的有效数,m为奇异熵总数,△R0则表示奇异熵的增加量。

通过式(5)对数据结构二维数组S的奇异值分解结果,可以获得S=U∧VH为奇异值分解矩阵∧中对角线的信息。具体的通信数据结构冲突检测流程如图1所示。

根据图1可知,首先需要获取存储节点位置,得出奇异熵的增加量;然后,判断矢量信息是否>1,结果为是,则更新通信系统请求,生成检测节点,进行奇异值分解,然后生成错误报告,输出通信数据结构冲突检测结果。结果为否,则直接生成错误报告,输出通信数据结构冲突检测结果。以上计算过程说明了冲突检测对通信数据结构的检测原理,该原理计算过程简单,结果精准,实现了高效率的冲突检测。

2.2 通信数据检测条件与响应时间

在检测之前,需要对数据进行预处理,得到通信系统各节点中待识别数据结构的局部等价类,以分配冲突检测任务;然后根据分配结果对数据结构进行迁移[7],对数据冲突识别的反应成本模型进行了建立。具体实施过程如下:

假设,Si为通信系统中以节点PD(Di)的名义进行数据处理需要的时间,完成所有的数据预处理后,进一步检索网络节点中数据结构的本地等价类,最终完成对数据结构的冲突检测任务分配。

对数据结构φj,j[1,m]进行冲突检测,节点的表示信息也可看作是该节点的执行节点。完成冲突检测后,根据任务分配的结果对数据进行迁移。Di-out表示迁出数据,△Di-in表示迁入数据,可以计算出整个通信系统的通信数据迁移量,表达式如下:

当系统中所有节点完成迁移之后,每个节点根据冲突检测任务分配的结果完成局部等价聚合。

假设merge(ECi)表示网络节点Si进行局部等价类聚合的所需的时间,ECi表示待检测网络节点上数据的局部等价类聚合,表示通信数据迁移和局部等价类聚完成后网络节点Si上的待检测数据结构,check()表示冲突检测所需要的时间,那么就可以利用式(7)将通信数据结构中集合冲突检测总响应时间代价模型定义为:

式中,PD(Di)表示通信系统中网络节点对通信数据做预处理所需时间,bω表示网络带宽,merge(ECi)表示获得全局等效类所需的时间。

假设,tcij表示第i个数据结构在第j个节点上检测所需的时间,tmij代表在第i个数据结构在第j个节点上局部等价聚类数据结构聚合所需的时间,依据costRT(),可知最小通信数据迁移耗时为,通信数据局部等价类聚合耗时,为通信数据结构冲突检测耗时。将捕获的通信数据结构进行合理分配后,通信数据迁移、局部等价类时间和冲突检测时间相加所需时间最少,假设xij为第i个数据结构在第j个网络节点上的局部部分,把第i个数据结构分配到第j个网络节点时,符合xij=1,否则符合xij=0,可将该问题转换成以下整数规划的问题,那么目标函数[8]的表达式就可以表示为:

约束条件为:

其中,te表示系统中所有节点数据结构冲突检测所需的时间,表示第i个数据结构的LHS部分在整体中所占的比例,表示第i个数据结构的LHSRHS部分在整体中所占的比例,表示第i个数据结构LHS部分在第j个网络节点上所占的比例,表示LHSRHS部分在第j个网络节点上所占的比例。

3 基于冲突检测的通信数据多路径存储系统

通信数据多路径自适应存储系统架构图如图2所示,主要是由采集卡、上位机和大容量flash存储卡构成。

光纤模块将光信号转换成电信号,并将其传输到采集卡。采集卡经过重新配置和打印,然后通过Aurora接口传输到存储卡上,该存储卡实现了如下功能:从Aurora发送数据,在大容量flash 中快速存储,然后用DSP 存储卡处理PCI并传输到顶层flash。以前的PCI总线控制采集卡和存储卡,保证数据能准确无误地转储到上位机硬盘中。

3.1 存储系统硬件

为了适应通信系统的特性,存储卡可同时存储多路径数据,并对存储的数据进行过滤、解封装和重组,将重复数据去除掉,节省内存存储开销,并在一定程度上保证了数据存储的安全性。存储卡整体结构构成如图3所示。

存储卡内部可实现对数据的分类,主要有三个类别:一类为FC 帧、一类为FC 原语信号、另一类为其他形式的数据。

存储卡工作的主要原理:对新存储的数据进行过滤筛选,过滤规则通过上位机软件与存储卡之间的PCI 总线接口写入过滤模块中,执行开始指令。存储卡将需要过滤的信息从GTX接口传送至过滤模块中,通过过滤的数据将进入帧解析模块,未通过的数据则被系统永久删除。帧解析模块确定FC帧的帧长,并将详细信息写入描述符传送给帧重组模块。帧重组模块将接收到的描述符和FC 帧一一对应结合在一起,并传送至Aurora 接口。如果不进行过滤操作,上位机软件直接通过PCI 总线接口对存储卡执行存储命令,GTX 数据不需要过滤直接传输到帧解析模块,解析模块必须为三种不同的数据类型创建出不同的描述符,然后创建它们的帧重组模块send。帧重组模块分别对应于这三个描述符,FC帧并将其传输到Aurora 接口。帧重组模块的极光接口直接连接到存储卡的极光接口,重构后的数据传输到存储卡实时存储。

存储卡硬件部分FPGA 主要有6 个部分组成:GTX接口、过滤模块、帧解析/重组模块、Aurora 接口和PCI总线接口。

(1) GTX接口:GTX接口由GTX核来控制,可将系统中的通信数据进行串并转化、比特同步和8B10B编解码。

(2) 过滤模块:过滤规则由RAM上位机软件控制,当数据进入到过滤模块后,会提取FC 帧中的所有字符信息,和RAM 中的进行对比,通过过滤规则的将直接传送至下一阶段,未能通过过滤规则的则被系统直接删除。

贫困农村男青年婚恋困难还可能使农村婚姻道德和社会伦理道德受到严重冲击。现阶段农村社会“闪婚闪离”现象较为普遍,很多不道德和丑恶的社会现象得以滋生。同时,在调查中发现,由于女青年严重短缺,女青年在婚姻缔结谈判过程中占据主动权,而且在婚后家庭生活中也比较强势,甚至不能维持对公婆的基本孝顺和尊敬,家庭生活稍有不如意,便以离婚、离家出走相要挟。这些现象的存在,影响了农村的社会安定,也冲击了传统社会的夫妻相敬如宾、家庭恩爱和睦、孝顺公婆等社会伦理道德。

(3) 帧解析模块:帧解析模块主要对通信系统中的三种不同类型的数据做出处理。

针对FC帧这类数据,当解析模块检测到含有SOF类型的数据开始接收命令,直到检测到含有EOF 类型的数据停止工作。并计算此次接收数据的帧长,在帧尾处构建该FC 帧的描述符信息。描述符中一般包含有数据类型的标志、帧长和时标等信息。对于原语信号,在FC协议中,原语信号的表现形式为一个双字(DW:Double Word)。为了节省存储开销,当通信系统中帧间隙发送原语IDLE时,连续出现的原语信息仅构建一个描述符。对于其他类型的数据,在接收后只需要构建一个描述符传送给后面的步骤进行重组即可。因为这类数据出现的几率很小,而且基本都是无用数据。

(4) 帧重组模块:这一模块的主要功能是将传送过来的描述符和FC帧一一对应,重新组合在一起。具体实现步骤为:首先将接收到的描述符和FC帧分别存在不同的先进先出FIFO(First In First Out)中,然后对其判断,如果描述符与FC 帧是对应的则传送给Aurora 接口,根据描述符中的帧长信息读帧FIFO;如果描述符和FC 帧不对应,则直接传送给Aurora 接口即可,无需进行下一步操作。这样就完成了数据重组。

(5) Aurora 接口:Aurora 协议是一种占用内存开销极低、并且协议不明确的轻量级链路层协议。其主要优点是可以在任意硅片器件或者软件中操作,适用范围较广。

(6) PCI总线接口:PCI总线接口主要的工作内容是执行存储、过滤命令,并实行上位机软件的过滤规则。存储卡通过配置PCI核实现以上功能,完成数据的存储工作。

3.2 系统软件

系统的软件部分主要是由上位机软件实现对存储卡的管理和控制。上位机软件与存储卡之间通过PCI总线接口进行连接。上位机对存储卡的控制主要体现在两个方面:

(1) 开始/停止存储命令,显示存储数据的大小,以及转储操作;

(2) 控制存储卡是否接收数据存储在flash 中,并监视存入数据的大小。上位机软件还可以通过PCI总线接口将flash中的数据转储到计算机硬盘中。

4 系统性能测试

系统性能测试中路径数量越多的数据冲突数量会越小,为了保证本文提出的存储系统可以有效地运行,对该系统性能进行测试,确保该系统的整体功能和性能满足通信系统多路径的需求,这也是系统性能测试的目的。

在测试实验中,选择网络虚拟服务器来模拟路由器,数据冲突检测模块用C语言来编写,选取30条通信数据。图4所表示的信息是,当冲突检测数量由30条突然增加到210条时,不同系统检测所用时间的增长幅度变化趋势。

通过图4可以看出,随着冲突检测任务的增加,检测时间也随之增加。当检测数量为120条时,文献[4]系统的所用时间为130ms,文献[5]系统的所用时间为125ms,设计系统的所用时间为90ms。当检测数量为210 条时,文献[4]系统的所用时间为168ms,文献[5]系统的所用时间为160ms,设计系统的所用时间仅为130ms。由此可见,本文对数据冲突检测的算法可以在复杂的通信环境中,利用较短的时间来完成计算。

表1 冲突检测数据量、占用内存大小及总体耗费时间

随着通信数据的暴增,此次实验还对完成冲突检测后的数据占用存储空间的大小以及总体耗费的时间做了实验。自适应性能通过系统存储耗时指标来验证,系统存储耗时越久说明自适应性越好,系统存储耗时越短说明自适应性越差,实验结果如表1所示。

通过表1可以看出,当冲突检测数据数量不同时占用的存储空间大小和总体耗费时间也是不同的。数据由30条突然增加至210条,占用的存储空间大小变化不是很明显。这主要是因为存储系统的过滤和重组功能,过滤掉了无用信息,大大节省了存储开销,使存储内存利用得更加合理、高效,并且耗费的时间也比较少。

同时,此次实验还对存储系统大小在CPU上的开销差异做了测试。实验环境同上,对不同大小的存储开销在CPU上的占用率进行了仿真实验,实验结果如图4所示。

由图5可知,不同大小的存储开销使得CPU 的占用率发生了很大的变化。实验启动时,CPU 的占用率为75%。随着实验的进行,可以发现,占用率逐渐从3.2%上升至28%,但整体数据都在30%以下,可以保证计算机的正常运行、不卡顿。所有实验数据均在可接受范围内。

5 结束语

文章提出基于冲突检测的通信数据多路径自适应存储系统。首先对通信数据的结构特征进行分析,在此基础上完成数据的冲突检测,并以此对数据进行冲突分配,不同类型的数据经由存储卡完成迁移、过滤、解析和重组,由上位机软件控制将数据描述符和FC帧一一对应并完成数据的存储。通过系统性能测试结果表明,本系统性能稳定性较高,且占用的计算机CPU 开销较小,符合系统设计需求。

猜你喜欢

存储卡存储系统数据结构
分层式大数据存储系统缓存调度策略与性能优化
数据结构线上线下混合教学模式探讨
重典型应用,明结构关系
天河超算存储系统在美创佳绩
面向4K/8K的到来 存储该怎么办?
三星发布首款UFS存储卡
媲美SSD的速度UFS存储卡能否成为手机的助力
存储卡盒
基于电池管理系统的数据存储系统设计
数据结构与算法课程设计教学模式的探讨