基于云计算的应用服务高并发优化技术研究

摘 要：应用服务器高并发优化技术主要使用DNS-Server配置域名解析IP，易受轮询作用影响，导致服务器集群平均响应时间较长，因此，本文提出一种基于云计算的应用服务高并发优化技术。该技术利用云计算技术优化生成高并发应用服务器，将NodeJS作为编程语言，优化单一架构，集成完成数据处理与资源配置任务。并考虑并发服务器节点负载均衡权重，预设初始并发节点，采用简化方式优化高并发技术，进行应用服务高并发优化。试验结果表明，该技术的服务器集群平均响应时间均值低于1.000s，证明高并发优化技术有效提高了效率，具有高效性。

关键词：云计算；应用服务；高并发

中图分类号：TN 929" " 文献标志码：A

早期应用服务架构属于单体架构，随着信息技术进步和服务器涌入数据量增加，应用服务器架构逐渐向垂直架构转变，整体规模越来越大，集群的复杂性越来越高[1]，在提高应用服务综合性能的基础上也出现了并发数据处理问题。高并发优化技术可以调整服务器的数量，优化服务器的运行性能，使其满足平台的应用要求，降低响应时间，提高并发数据的处理效率，因此，相关研究人员针对应用服务的处理耦合关系设计了2种常规的应用服务高并发优化技术。第一种是基于MILP的应用服务器集群能耗与性能实时优化[2]，主要采用线性加权法和主目标法优化集群功率与请求丢弃率这2个目标，以此完成高并发优化；第二种是考虑网格化优势的应用服务高并发优化技术[3]，设计了Skyline优化查询方案，并进行网格化计算，完成应用服务高并发优化。但大多数应用服务高并发优化技术主要使用DNS-Server配置域名解析IP，易受轮询作用影响，导致服务器集群平均响应时间较长，不符合应用服务的数据处理要求。因此，为了降低服务器集群平均响应时间，提高高并发优化技术的应用效果，本文基于云计算，设计了一种应用服务高并发优化技术。

1 应用服务云计算高并发优化技术设计

1.1 基于云计算生成高并发应用服务器

云计算是一种分布式计算技术，可以将海量数据分解为若干个较小的数据处理程序，完成高效分布式并发计算，具有高效性优势[4]，因此，本文设计的高并发优化技术引入云计算，利用云计算技术生成高并发应用服务器。基于云计算规划高并发服务层次，如图1所示。

由图1可知，上述云计划高并发服务层次由上而下分为应用层、平台层、基础设施层和虚拟化层[5]，各个层级分别对应软件及服务、平台及服务、基础设施和服务以及硬件和服务。该云计划高并发服务需要根据层次要求对并发资源进行虚拟化处理，生成可靠的高并发应用服务器，如图2所示。

由图2可知，云计算高并发服务器主要包括3层，即微服务治理层、微服务通信层以及微服务提供层[6]，不同层的业务功能不同，设置的并发处理任务也不同。本文设计的高并发优化服务器将NodeJS作为编程语言，优化升级原本的单一架构，集成完成数据处理与资源配置任务，提高了高并发优化处理的可靠性。

微服务通信层属于高并发应用服务器的核心层，可以利用消息机制封装并发任务，使用轮询平滑加权方案设计并发处理策略，完成并发处理任务。该层可处理微服务间的通信和数据交换，使用消息队列、RPC调用和事件总线等机制进行微服务间的异步通信，同时能够处理高并发的请求和响应。通过消息机制封装并发任务，并采用轮询平滑加权方案设计并发处理策略，优化了并发处理效率，提高了系统的稳定性和性能。微服务提供层可有效拆分并发处理任务，设置不同的任务边界，准确优化原有的并发处理代码，可进行数据并发高效重构与云存储处理。该层利用轻量级的通信机制进行各服务间的通信和协作，可以根据业务需求动态伸缩和部署。微服务治理层内部设置API网关、配置中心和负载均衡等功能，具体执行时序如下所示。首先，对用户发起的请求进行响应，传输至API网关，API网关是系统的入口，用于接收用户请求并路由到相应的微服务。其次，进行短路验证，如果验证合格，就继续进行熔断服务；验证不合格，则返回上述结果。最后，根据熔断服务生成的结果完成其他并发任务，实时发送并行任务处理信息，保证最终的并发处理效率。

1.2 设计应用服务高并发优化算法

为了满足应用服务器的高并发处理要求，需要保证应用服务负载均衡，因此，本文在基于云计算生成高并发应用服务器基础上，设计了应用服务器高并发优化算法。考虑并发服务器节点负载均衡权重[7]，将该权重初步优化并预设初始的并发节点S，如公式（1）所示。

S=min{C（Si）/Csum}/W（Si） （1）

式中：C（Si）为并发服务/器节点；Csum为任务参数；W（Si）为负载均衡权重。

公式中的负载均衡权重如公式（2）所示。

（2）

式中：P（Si）为节点重要性评分。

此时假设不同的并发任务处于常规处理状态，则可以对上述设置的并发节点进行简化，以优化应用服务高并发技术。简化后的并发优化节点如公式（3）所示。

S0=min{C（Si）/Csum}/W（Si） （3）

简化后的并发优化节点存在有效的连接范围，此时不同高并发任务间存在一定的时序关系，因此需要计算服务器不同节点的负载状态参数Ui，如公式（4）所示。

Ui=1000×（Wcpu·Ci+Wnet·Ni+Wio·Di+Wmem·Mi）αS0 （4）

式中：Wcpu为应用服务器CPU权重；Ci为CPU均衡系数；Wnet为内存均衡参数；Ni为内存性能参数；Wio为服务器存储参数；Di为并发任务执行指标；Wmem为带宽调整权重；Mi为带宽并行处理参数；α为转换系数。

基于获取的负载状态对网络进行优化，使用负载均衡器将请求分发到多个节点上，进行请求任务分流，降低单个节点的负荷，使负载均衡[8]，生成的高并发优化均衡函数如公式（5）所示。

（5）

式中：w1、w2和w3为对应的权重；T（Csum）为任务优先级；T'为网络条件；Uimax为节点负载最大值。

此时仅通过生成的高并发优化均衡函数均衡应用服务高并发任务，无法达到最理想的效果。原因是此时的分配算法不能有效处理负载均衡中的请求异质性、机器异质性和实时机器负载差异性，因此，构建高并发优化均衡函数后，需要构建随机分配概率函数，将其与均衡函数结合，完成应用服务高并发优化。计算服务器的资源剩余量如公式（6）所示。

Ai（Si）=W（Si）（1-PA） （6）

式中：Ai为资源剩余量；PA为当前机器的资源占用率。

利用剩余资源确定任务请求j分配到第i个服务器节点上的随机概率权值，其计算过程如公式（7）所示。

（7）

式中：aj为任务请求j的资源消耗的权重值；Wij'为随机概率权值。

确定随机概率权值后，将其经过归一化处理，得到任务请求j被分配到第i个服务器节点上的随机概率，其计算过程如公式（8）所示。

（8）

式中：Pij为任务请求j被分配到第i个服务器节点上的随机概率。

当客户端发起任务请求时，根据公式（8）计算随机概率，根据随机概率值将任务请求随机分配到某个机器上。如果仅随机分配，应用服务高并发时仍可能存在负载过高的问题，从而影响使用效果[9]，因此将公式（5）的高并发优化均衡和公式（8）的随机概率联立，所得应用服务高并发优化算法NETusg如公式（9）所示。

（9）

式中：η为应用服务高并发优化系数；Bandwidth为服务并发处理常数。

结合上述高并发优化算法可以有效确定并发任务的传输状态，最大程度上提高并发任务的执行可靠性。至此完成基于云计算的应用服务高并发优化技术设计。

2 试验

为了验证设计的基于云计算的应用服务高并发优化技术的优化效果，本文配置了基础实验平台，将其与文献[5]、文献[6]中常规的应用服务高并发优化技术进行比较。

2.1 试验准备

结合应用服务高并发优化要求，本文将Web虚拟平台作为试验平台，搭建了相关的试验资源。虚拟化处理目前的服务器集群，通过路由器、虚拟机等进行环境测试。预设的测试平台共设置了10余个虚拟机，集成了编号为save1～save14的试验服务器集群。虚拟机需要按照中心配置要求为API网关提供集成处理服务，调整服务提供层，使其满足试验Redis缓存要求。配置的云试验环境如，图3所示。

由图3可知，该云试验环境可以同时执行用户管理、消息管理和应用管理，由3台虚拟机并行组成资源计算池，从而输出准确的试验结果。

2.2 试验过程

在试验过程中，根据1.2节设计的应用服务高并发优化算法，对实验平台上的并发任务进行分配和优化。具体步骤如下所示。1）初始化并发节点。根据公式（1）和公式（2），为每个并发服务器节点分配初始的负载均衡权重。该权重考虑了节点的重要性评分，确保了进行任务分配时能够优先考虑更重要的节点。2）计算负载状态参数。利用公式（4）计算每个服务器节点的负载状态参数。该参数综合考虑了CPU权重、内存均衡参数、服务器存储参数、并发任务执行指标和带宽调整权重等多个因素，为后续的负载均衡提供了依据。3）生成高并发优化均衡函数。利用公式（5）生成高并发优化均衡函数。该函数根据任务优先级、网络条件和节点负载最大值等因素，为每个任务请求分配相应的权重，以实现负载均衡。4）计算随机概率权值。利用公式（6）和公式（7）计算每个服务器节点的资源剩余量和任务请求分配到该节点上的随机概率权值。该权值根据节点的剩余资源和任务请求的资源消耗来确定，用于后续的随机分配过程。5）随机分配任务请求。根据公式（8）计算任务请求被分配到每个服务器节点上的随机概率。当客户端发起任务请求时，根据这些随机概率值，将任务请求随机分配到某个机器上。6）结合优化均衡函数和随机概率。将高并发优化均衡函数（公式（5））和随机概率（公式（8））联立起来，得到最终的应用服务高并发优化算法（公式（9））。综合考虑了负载均衡和随机分配的因素，能够最大程度上提高并发任务的执行可靠性。

按照上述步骤完成应用服务高并发优化。

2.3 试验参数设置

结合上述试验环境，设置基于云计算的应用服务高并发优化算法的参数，见表1。

根据表1中的算法参数取值，设置基于云计算的应用服务高并发优化技术的参数数值，进而输入相关试验指令，得出最终试验结果。

2.4 试验结果与讨论

根据上述试验准备，分别使用本文设计的基于云计算的应用服务高并发优化技术、文献[5]的基于IntelDPDK的应用服务高并发优化技术以及文献[6]的考虑网格化优势的应用服务高并发优化技术，记录不同服务器集群的平均响应时间，见表2。

由表2可知，本文设计的基于云计算的应用服务高并发优化技术在不同服务器集群下的平均响应时间较短，该技术的平均响应时均值仅为0.473s和0.433s，数值均低于1.000s，而文献[5]和文献[6]的方法在不同服务器集群下的平均响应时间较长，其均值均高于6.000s。证明本文设计的基于云计算的应用服务高并发优化技术的优化效果较好，有效降低了应用服务高并发优化技术的平均响应时间，提高了效率，具有高效性。

3 结语

综上所述，在信息技术普及背景下，我国正迈入大数据时代，各个领域产生的网络数据总量急剧增长，并发数据的处理难度越来越高。研究表明，数据具有十分重要的价值，是国家发展的重要部分，海量数据处理问题逐渐受到各个国家的关注。应用服务高并发技术可以提高海量数据的处理效果，保证应用服务的高效性，因此需要设计一种有效的应用服务高并发优化技术。但是常规的应用服务高并发优化技术的优化效果较差，因此，本文设计了一种基于云计算的应用服务高并发优化技术。该技术引入了云计算，通过权重和简化方式对进行了优化，并通过试验验证了该方法的性能。结果表明，本文设计的应用服务高并发优化技术的效果较好，能有效降低响应时间，具有高效性和一定的应用价值。

参考文献

[1]高国弘，刘垚，马力文，等.基于移动云计算技术的农用天气预报服务平台研发——以宁夏酿酒葡萄农事活动预报为例[J].中国农业气象，2022，43（1）：61-71.

[2]熊智，赵敏，蔡浩，等.基于MILP的应用服务器集群能耗与性能实时优化[J].湖南大学学报（自然科学版），2023，50（8）：153-164.

[3]李佳佺，刘晏如，李传文.一种网格化高并发Skyline查询处理方法[J].小型微型计算机系统，2023，44（4）：881-887.

[4]高若辰，淮晓永，张志达，等.面向云计算环境的OpenFOAM网格生成服务[J].电子技术应用，2022，48（4）：71-75.

[5]秦川.云计算技术在计算机数据处理中的应用——评《基于云计算的大数据处理技术发展与应用》[J].科技管理研究，2021，41（2）：232.

[6]李邦源，张春辉，常荣，等.5G边缘计算环境下资源效用与隐私保护权衡的服务迁移方法[J].南京师大学报（自然科学版），2021，44（4）：102-110.

[7]李华东，张学亮，王晓磊，等.Kubernetes集群中多节点合作博弈负载均衡策略[J].西安电子科技大学学报，2021，48（6）：16-22，122.

[8]翁杰，林兵，陈星.基于博弈论的多边缘服务器负载均衡策略[J].计算机科学，2023，50（2）：742-749.

[9]田真真，蒋维，郑炳旭，等.基于服务器集群的负载均衡优化调度算法[J].计算机科学，2022，49（1）：639-644.