100G以太网技术和应用
2009-10-23张远望
摘要:急速增加的带宽需求驱动100G以太网尽快地投入应用,支撑100G以太网接口的关键技术,主要包含物理层通道汇聚技术、多光纤通道及波分复用(WDM)技术。接口部分的高速光器件关键技术需要突破,接口速率提高带来的高带宽需求对包处理和存储、系统交换、背板技术等都提出了新要求。另外,网络需要解决新接口的传输问题,包括新接口传输标准定义和传输技术解决。就目前的成本和需求来看,100G以太网的商用在城域网先行是比较可行的方案。
关键词:100G以太网;IEEE802.3ba;100GE传输
Abstract: The rapidly increasing requirement of bandwidth drives the 100G Ethernet into use as quickly as possible. The key technologies supporting 100G Ethernet interface include the physical layer channel convergence technology, multi-fiber channel and Wavelength Division Multiplexing (WDM) technology. The high speed fiber device needs to be resolved, and the higher bandwidth requirements by higher interface speed demands more packet processing and storage, system switching, and the backplane design. Besides, the network needs to solve the issue of the transport for the new interface, including defining new transport standard and resolving the key transport technologies. Considering current cost and requirements, the commercial service of
100 Gbit/s Ethernet is viable in metropolitan area network.
Key words:100G Ethernet;IEEE802.3ba;100GE transport
推动以太网接口速率升级到100 Gbit/s的根本需求是带宽增加,其中最主要的因素就是视频等带宽密集应用,另外以太网的电信化应用也导致汇聚带宽需求增速加剧。从以太网用户接入、企业到主干在内的每一级网络都在逼近着其当前的速度极限。
推广100G以太网应用的前提是相关标准的制定。100 Gbit/s以太网接口对应的标准是IEEE802.3ba[1],目前处于草案2.1阶段[2],标准已经确定了各种接口介质、速率和物理编码子层(PCS)、媒体接入控制(MAC)层架构定义。标准在2009年7月会议后停止所有技术变更,2009年11月标准会议将产生草案3.0,预计于2010年6月前发布。此外,和100GE相关的标准组织还包括国际电信联盟远程通信标准组(ITU-T)和光互联论坛(OIF),其关注的侧重点不同,ITU-T主要制定100G传输光转换单元(OTU)帧结构和编码、容错技术;OIF主要研究物理层高速通道规范、定义电接口标准。
以太网升级到100 Gbit/s接口离不开关键技术支撑,关键技术的成熟和商用化也都还需要时间。从芯片、系统、网络各个层面包括标准研究都还需要技术突破和时间。
1 100 G以太网技术及标准
支撑100G以太网接口的关键技术,主要包含物理层(PHY)通道汇聚技术、多光纤通道及波分复用(WDM)技术。物理介质相关(PMD)子层满足100 Gbti/s速率带宽,新的芯片技术支持到40 nm工艺,这些提供了开发下一代高速接口的可能。对应于接口部分,光纤接口PMD的并行多模接口存在着封装密度大和功耗问题需要解决,单模4×25 Gbit/s的WDM接口存在25 Gbit/s串行并行转换电路(SERDES)技术和非冷却光器件的技术需要突破;对应于系统部分,接口速率提高带来的高带宽给包处理、存储,系统交换,背板技术都提出了新的门槛;对应于网络,需要解决新接口的传输问题,不光需要定义新的OTU帧结构,对于如此超高速传输,需要解决电子线路极限情况下的信号处理、光信号的调制、物理编码、色散补偿、非线性处理、与FE/GE/10GE帧结构和PHY内各子层的兼容性和一致性问题等,还需要使100G传输特性能够满足现有10G传输网的相关特性,否则带来的网络重建必将影响新技术的推进。
下一代以太网技术标准包含了40 Gbit/s和100 Gbit/s两种速度,主要针对服务器和网络方面不同的需求。40 Gbit/s主要针对计算应用,而100 Gbit/s则主要针对核心和汇接应用。提供两种速度,IEEE意在保证以太网能够更高效更经济地满足不同应用的需要,进一步推动基于以太网技术的网络会聚。标准规定了物理编码子层(PCS)、物理介质接入(PMA)子层、物理介质相关(PMD)子层、转发错误纠正(FEC)各模块及连接接口总线,MAC、PHY间的片间总线使用XLAUI(40 Gbit/s)、CAUI(100 Gbit/s),片内总线用XLGMII(40 Gbit/s)、CGMII(100 Gbit/s),各种介质的架构如图1所示[3]。
标准仅支持全双工操作,保留了802.3MAC的以太网帧格式;定义了多种物理介质接口规范,其中有1 m背板连接(100GE接口无背板连接定义)、7 m铜缆线、100 m并行多模光纤和10 km单模光纤(基于WDM技术),100 Gbit/s接口最大定义了40 km传输距离。标准定义了PCS的多通道分发(MLD)协议架构,标准还定义了用于片间连接的电接口规范,40 Gbit/s和100 Gbit/s分别使用4个和10个10.312 5 Gbit/s通道,采用轮询机制进行数据分配获得40G和100G的速率,另通过虚拟通道的定义解决了适配不同物理通道或光波长问题;明确了物理层编码采用64B/66B。
标准虽然给出了100 Gbit/s以太网的架构、接口定义,但目前尚有诸多待解决的问题。首先,PMD是802.3ba的一个关键部分,40G/100G光模块包含短波长的并行接口,对应40GBASE-4SR和100GBASE-10SR,主要的技术难点在于封装密度大;长波长的波分接口,难度在于PMA对应的25 Gbit/s的SERDES和封装技术,对于100G的WDM光模块非制冷激光器技术是标准相关的关键技术,封装形式由CFP多源协议(MSA)规定为CFP[4];对应的铜缆介质有关接口(MDI)标准的定义采用SFF-8436和SFF-8642,具体的结构尺寸和引脚分配已经给出。据了解目前主要供应商提供100G WDM光模块要到2010年。
100G接口对应的相关芯片在MAC层已经没有问题,PMA业务接口电接口规范要求每个通道工作在10.312 5 Gbit/s速率,除了标准成熟后使用专用集成电路(ASIC)实现,前期基于现场可编程门阵列(FPGA)实现的MAC则需要支持到10.312 5 Gbit/s速率,仅有少数FPGA公司支持[5]。之前的评估系统采用的是增加SERDES Mux器件[6],由8/20个5.156 25 Gbit/s的通道转换到4/10个10.312 5 Gbit/s的标准接口的过渡措施[7]。
对于100G以太网设备系统,除了以上100G以太网接口相关技术难点需要克服,还需要配套的包处理器,对于分布式大容量交换系统还需要大容量的分组交换系统套片等系统级的困难需要解决。
对于100G的包处理能力,目前业界还没有通用可选方案,开发中的几个方案都还待评估;对于网络处理器的内容可寻址存储器(CAM)等查找接口带宽最少要增加2倍以上,数据总线宽度、速率也都存在瓶颈,催生了Interlaken LA等串行高速总线接口投入使用。由于单片处理能力限制及总线接口转换等导致存在和多片堆砌的情况,至使单板面积、功耗等都难接受。基于FPGA定制开发的解决方案需要企业具备全面的技术,往往提供的业务处理能力受限。
分组交换系统套片,包括交换网和交换网接口芯片,或含流量管理(TM)芯片,以前大多数系统都难于支持每线卡大于100 Gbit/s的有效数据带宽,目前新方案每线卡背板接口带宽最大约为100~200 Gbit/s,背板SERDES总线速率支持到6.5 Gbit/s左右;支持100 Gbit/s接口每线卡带宽需要升级到200~500 Gbit/s带宽,背板SERDES速率甚至要达到10.312 5 Gbit/s以上,对于背板设计、工艺要求、材料、总线长度满足等都比以前要苛刻的多;对于满足电信级要求的系统,还需要满足虚拟队列(VoQ)、层次化服务质量(HQoS)等流管理特性,这就要求更大的处理带宽需求、更多的队列支持能力、更大的缓冲等提升系统设计难度。
随着系统要求的提升,系统功率也在提高。100 Gbit/s长波长PMD需要4个25 Gbit/s通道,SERDES速率和通道数的增加需要更大电源;100 Gbit/s处理器需要更大量的存储器,当然也需要更大功率;微处理技术也需要更大功率。对此,需要寻找解决方案。功率事关未来,同时功率也是重大的障碍,不仅要为电路板供电,还需要控制如此大的功率并保证系统冷却。随着我们转向速度更快的以太网,这些都是业界面对的主要问题。
高速以太网要想真正给用户带来实际的科技效益,必须将传送网业务承载到传送网上,而不能仅仅用在大型数据中心或者小范围局域网内。所以除了调制技术之外,高速以太网如何在光传送网上传输以及操作维护管理(OAM)等特性也是决定其成败的关键技术。ITU-T SG15 Q11济州岛中间会议已经达成了40G/100G以太网接口的OTU映射定义[8]:G.709中给出40GE映射到OPU3,使用1 024B/1 027B传输编码;100GE映射到ODU4/OTU4,比特率为111.809 973 Gbit/s
(=255/227×2.488 320 Gbit/s×40)。标准的成熟预计要到2011/2012年左右。对100 Gbit/s以太网等高速业务而言,虚级联技术可以实现适配,但是要提高光纤的利用率,虚级联并不是高效的技术,而只能提高每个波长的比特率。
采用串行100G的密集波分复用(DWDM)传输技术,将10×10GE/4×25GE的100GE业务通过ODU4适配到111.809 973 Gbit/s的OTU4中。由于单波100G速率非常高,对于各种物理损伤容限,如光信噪比(OSNR)、偏振膜色散(PMD)等提出了更高要求,需要使用特殊技术来降低传输光纤线路上传输光信号的波特率来提升损伤容限。例如,采用高阶的编码调制技术如正交相移键控(QPSK)、8相移相键控(8PSK)、正交幅度调制(QAM)、正交频分复用(OFDM)等,并结合偏振复用解复用技术。由于单波传输100GE对偏振膜色散(PMD)、色度色散(CD)有更严格的要求,因此,未来在接收端可能采用相干接收/电处理的方式,来提升对物理损伤的容限,包括非线性效应抑制、PMD、CD补偿等,从而使单波100GE能够在10G/40G网络中混合传送、平滑升级。
从长期来看,100GE DWDM传输将采用偏振复用、高阶编码调制、相干接收/电处理、超强FEC等技术的组合解决方案,从而可以平滑的将40G光网络升级到100G系统。由于100G传输需要高速光电器件的支撑,预计2012年,这些高速光电器件将会趋于成熟。
对应于以上介绍的关键技术,100 Gbit/s以太网不单单是解决接口构建的技术,更需要同步提升系统的处理能力,对应大容量的交换系统,高带宽的流管理和包处理能力,才能提供线速的处理和转发,提供电信级的特色功能。类似中兴通讯新开发的ZXCME 9500城域以太系列硬件平台目前就可以支持到100 Gbit/s接口带宽,还保留有足够的冗余和加速比,可以支持单个100 Gbit/s接口真正的线速转发,不需要更换交换网,系统散热也完全支持,只需要增加新线卡就可以。系统升级后,可以支持到单线卡双向400 Gbit/s以上的带宽。与此同时,解决了单机系统的问题100G以太网接口的应用还受制于传输网络的技术提升,100GE走向商用还有待时日。
2 100G以太网的应用
100 Gbit/s以太网标准和技术的开发是基于需求的驱动,但却是超前的,根据IEEE802.3ba任务组(TF)的计划预计到2010年中间可以完成标准制定,但真正的商用时间却取决于更多的因素。
首先,在标准成熟的前提下,还需要实实在在的网络需求驱动,并符合运营商的利益。带宽需求的主要因素包含:不断增加的业务都是基于IP的,就像现在ALL IP所描述的;几乎所有的IP分组从源发送到宿的全过程都是封装在以太网帧中;时分复用在以太网中透传(TDM over Ethernet)的技术已经成熟,传统语音的兼容已经不是问题;以太网封装比同步光网络/同步数字体系(SONET/SDH)封装更简单而且成本更低。这些决定以太网接口速率升级到100 Gbit/s的需求是客观和迫切的,在100 Gbit/s以太网上可以实现“网络通信加速、应用效能提升”的网络通信境界,能够快速存取储存于数据中心的种种应用,执行频宽管理、快取、压缩、路径最佳化及协议加速等功能。具体参见图2的应用场景[9],对于汇聚层的应用,下行端口正在切换到10 Gbit/s,上行只能采用10 Gbit/s端口的链路聚合,如果使用100 Gbit/s以太网接口则可以在数据流的管理、分配及效率上得到改善;对于数据中心,随着10 Gbit/s接口增加也同样存在上行及内部互联高速接口的需求;对于骨干网的高效传输也期待着100G高速接口和传输的成熟。
P802.3ba标准在制订时,已经充分考虑了电接口相关标准和技术的成熟情况,采用了10.312 5 Gbit/s的片间互联传输通道,多模的并行光纤接口可以支持在OM3光纤满足100 m甚至更远的距离;单模的40GB ASE-LR4使用粗波分复用(CWDM)经济可行,100GB ASE-LR4使用DWDM,每波长传25.781 25 Gbit/s,使用1 295~1 310 nm波长,完全可以使用原有光纤,综合技术和成本,标准选用的技术都是实用可行的,有助于促进100G接口在局部和城域网范围内商用。
对于全网范围的使用,串行100GE传输标准和技术成熟前,可采用反向复用技术。将10×10GE或者4×25GE接口的100GE业务经ODU2/
ODU3适配到OTU2/OTU3,在10G/40G光网络中通过多个波长进行传输。可以不需对现存的10G/40G DWDM光网络进行重新设计与改动,传输码型仍然为光双二进制编码(ODB)/差分归零码(DRZ)/电归零码-差分正交相移键控(eRZ-DQPSK)。这种模式可以采用10G/40G现有的成熟光电器件,并且整个系统的性能指标和10G/40G系统一致。这一方案可实现网络平滑升级,满足运营商的成本期望,并且器件成熟[10]。
所以就目前的成本和需求来看,100 Gbit/s以太网的商用在城域网先行是比较可行的方案,因为在城域网中,大量的数据需要随时的上下路,一个无需各种补偿器件的传输系统将会大大简化网络设计,100 Gbit/s以太网刚好可以满足这一需求, 同时高带宽满足了城域网每年40%的流量增长。总之,100 Gbit/s以太网的发展需求已经很明显,成本优势也会不断加强,但是100 Gbit/s以太网传输从调制方式到运营管理维护都需要不断的技术完善,真正大规模的商用还需时日。
此外,对这次技术升级,除100 Gbit/s以太网之外,包括光纤通道、Infiniband和SONET在内的其他协议也将现身40/100 Gbit/s网络,在90年代末,以太网端口设备的价格下降速度比竞争对手异步传输模式(ATM)和光纤分布式数据接口(FDDI)要快两倍以上。然而,40 Gbit/s和更快速度网络共享很多相似的FPGA、SERDES和编码技术,使任何协议所对应的设备都很难通过量产来获得成本优势。100 Gbit/s以太网也许不会像之前那样占据绝对的优势地位。
3 结束语
通过前面对100 Gbit/s以太网技术的介绍,和对关键技术及系统设计带来的困难分析,以及100GE传输网络的讨论,总的来说,100 Gbit/s以太网技术是很有生命力、备受关注的技术,大家都在热心参与,但标准和技术本身也都还有待成熟,商用试点会在2009年底启动,但成熟商用预计要到2012年以后。除了技术和商用的挑战,给各方面带来的机遇也是巨大的,首先给研究机构带来了研究发现和创新的机会;对于元件和模块供应商带来了新的高回报的市场(但也需要高投资);对于系统供应商是一次翻盘和藉此引领市场的机会。虽然目前正面临全球性的金融危机,我们乐观的相信,就像1994年至2002年在全球市场低迷情况下,以太网一支独秀,这次经济低迷也无碍100G以太网发展。
4 参考文献
[1] IEEE 802.3ba 40Gb/s and 100Gb/s Ethernet Task Force, IEEE P802.3ba?/D1.1[S/OL]. 2008. (2009-07-20) [2008-12-12]. http://www.ieee802.org/3/ba/.
[2] IEEE 802.3ba 40Gb/s and 100Gb/s Ethernet Task Force, IEEE P802.3ba?/D2.1[S/OL].2009. (2009-05-29) [2008-12-12]. http://www.ieee802.org/3/ba/index.html.
[3] IEEE 802.3ba 40Gb/s and 100Gb/s Ethernet Task Force, BaselineSummary_0908[S/OL].2008.[2008-12-12]. http://grouper.ieee.org/groups/802/3/ba/BaselineSummary_0908.pdf.
[4] CFP MSA, CFP-MSA-DRAFT, rev-1-0[S/OL]. (2009-03-23) [2008-12-12]. http://www.cfp-msa.org/Documents/
CFP-MSA-DRAFT-rev-1-0.pdf.
[5] Altera 40-100Gbps Ethernet Solutions, Version 9.0[EB/OL].2009. [2008-12-12]. http://www.altera.com/literature/wp/
wp-01080-stratix-iv-gt-40g-100g.pdf?WT.mc_id=ut_pr_al_ne_tx_j_213.
[6] Netlogic Calico NLP10142 100Gbps MLD Quad Channel Transceiver Preliminary Data Sheet[EB/OL]. (2008-11-03) [2008-12-12]. http://www.netlogicmicro.com/4-news/
pr/2009/09-03-19.htm.
[7] TORZA Anthony. Using FPGA Technology to Solve the Challenges of Implementing High-End Networking Equipment:Adding A 100 GbE MAC to Existing Telecom Equipment[S/OL]. 2008 (2008-09-23) [2008-12-12]. http://www.xilinx.com/support/
documentation/white_papers/wp280.pdf.
[8] JONES M L. Report of Joint Q9/15 and Q11/15 Meeting[R/OL]. 2008. (2008-11-26)[2008-12-12]. http://www.itu.int/md/
T09-SG15-081201-TD-GEN-0037/en.
[9] ZHAO Yongpeng. 100G: Opportunities and challenges, and enabling technologies[EB/OL].(2008-10) [2008-12-12]. http://www.c-fol.net/focus/aoe/file/100GOpportunities%20and%20challenges,%20and%20enabling%20technologies_AOE2008.pdf.
[10] 100G传输时代来临IT前沿[EB/OL].(2008-10-27)[2008-12-12]. http://www.cnii.com.cn/20080623/ca510849.htm.
收稿日期:2008-12-12
张远望,工作于中兴通讯股份有限公司,从事电信级以太网交换机的系统设计工作,研究方向为100G以太网。曾代表中兴通讯参加IEEE802.3ba标准起草,已发表论文5篇。