中国工业合作协会机房技术专业委员会
                                                                    北京工翔科技有限公司
  

数据中心最新布线架构分析


中国智能机房数据中心

在当今数据中心的建设热潮中,数据中心的建设正在风风火火的上马,需要数据中心的用户正纷纷忙着建设自由数据中心和租赁托管数据中心。

于是乎数据中心的布线架构也随着数据中心的发展和国模增大以及用户的需求的不同,悄然发展、变更着。

曾因为数据中心的综合布线系统仅仅只占到数据中心整体建设投资的10~20%,而无法引起用户和建设者的足够重视。

我们做个简单的比喻:

数据中心的机房就相当于一台PC;硬盘=存储;CPU=服务器&小型机;机箱=承载机房;风扇=空调;电源=供配电系统;综合布线系统=主板(总线);

而当今用户对于数据中心的要求更加体现在数据的安全和效率上,因此没有一个好的物理底层链路,性能在高的设备也无法体现其自身的优势。

于是人们开始着力于通过物理链路来提高数据中心的安全和效率。

也就出现了数据中心布线架构的革命,EOR架构、MOR架构、TOR架构也就随着产生了,并随着用户的需求变换着、提高着、更替着、结合着......。

什么是ToREoRMoR

ToR的英文全称为Top of Rank,意指柜顶,与列末EoREnd of Row)及列中MoRMiddle of Row)一样,都是数据中心的一种架构设计方式。

传统的机房架构主要以EoRMoR方式(两者差别主要在于网络机柜的位置不同)为主,采取类似的集中式布线。

其中,EoR方式是指服务器机柜中所有的服务器端口,都通过跳线连接到机柜上的配线架,再由配线架上的铜缆延伸到网络机柜(位于一组机柜尾部)中的接入交换机上。

MoR方式与EoR方式类似,只是将网络机柜部署在服务器机柜的中部,从而在一定程度上减少了从服务器机柜到网络机柜的线缆距离。

ToR方式的出现,为机房架构设计带来了新的变化:该方式将接入交换机放置在每个服务器机柜或单元的顶部,机柜内服务器直接通过短跳线连接到顶部的交换机上,再经由光纤从交换机的上行链路端口连至核心交换机。

简单来看,ToREoR/MoR两类方式,只是在接入交换机的位置上发生了变化,但实际上改变了整个机房的网络结构。仅从设备使用上来说,一方面增加了交换机使用数量,另一方面,综合布线系统由从前的集中式布线变为了点对点布线方式,大大缩减了布线使用量。

1EOR布线方式

1.1EOR布线方式的特点:

a、采用列头柜的布线方式,弱电列头柜(HDA)在整列机柜的一端尽头,弱电列头柜(HDA)作为本列所有服务器机柜(EDA)的汇聚机柜,用于安装:网络交换机、存储交换机、KVM设备、机房监控设备主机……等等。

b、各服务器机柜(EDA)中的设备通过弱电列头柜(HDA)中的汇聚设备及主干通讯线缆,与本机房的核心汇聚机柜(IDA)相连接。

c、如果是多模块的大型机房,本机房的核心汇聚(IDA)则通过主干光缆与数据中心的核心汇聚(MDA)相连接

1.2EOR布线方式的优点:

一般来说机房建设的时候,如果弱电列头柜(HDA)安装在本列机柜一端的尽头,则强电会安装在本列机柜的另一端尽头。

根据下图显示,EOR布线方式的特点是弱电系统的水平及主干线基本上不会有交叉和重叠,这对于数据中心中的布线管理有一定的好处。

1.3EOR布线方式的缺点:

a、从服务器机柜(EDA)到弱电列头柜(HDA)敷设铜缆,在链路上增加了从服务器到交换设备间的距离,增大了信号的衰减和增加了链路上收到电、磁干扰的几率;

b、从服务器机柜(EDA)到弱电列头柜(HDA)敷设铜缆,首先使得升级困难(六类布线系统只能支持1G链路,六A类及以上布线系统也最高只能支持10G链路,同时铜缆带宽相对较低),其次增加了链路上的故障节点,增加了布线系统的整体运维成本。

c、从服务器机柜(EDA)到弱电列头柜(HDA)会敷设许多铜缆,首先增加机房的整体承重压力;同时,随着铜缆数量的增加,桥架的体积也会随着增大,会对整个机房的冷却通风造成影响。

d、从服务器机柜(EDA)到弱电列头柜(HDA)的铜缆多,且距网络机柜越远的服务器机柜的铜缆,在机房中的布线距离越长,由此导致线缆管理维护工作量大、灵活性差。

eEOR系统同样面临着交换机端口预留和设备扩容的问题;EOR布线系统由于交换设备是在弱电列头柜(HDA)进行汇聚的,因此交换设备也会安装在弱电列头柜(HDA)里,通常会对交换设备的扩容和增加造成麻烦,因为在列头柜里进行扩容施工,我们很难保证不会影响其他机柜设备的正常运行,很容易破坏其他服务器机柜(EDA)在弱电列头柜(HDA)中连接交换设备的跳线。

f、铜缆交换设备的端口比光纤端口的交换设备的端口能耗高,大量使用长距离的铜缆链路,会使机房的日常功耗增高。

g、如果使用屏蔽铜缆,还需要进行大量的接地施工,增加大量的施工辅材成本。

2MOR布线方式

2.1MOR布线方式的特点:

MOR布线系统的方式和架构与EOR部下系统几乎相同,只是将每列的弱电系统汇聚机柜从弱电列头柜(HDA)(本列机柜一端的尽头)改为了弱电中头柜(HDA)(本列机柜的中间位置)。

2.2MOR布线方式的优点:

MOR布线方式与EOR布线方式相比,把每列的汇聚机柜从本列一端的尽头移到了本列的中间位置,这样使得水平铜缆的长度大大缩短,能够在链路上降低信号的衰减和减少了链路上收到电、磁干扰的几率。

2.3MOR布线方式的缺点:

除了与EOR相同的缺点外,还有一个较为麻烦的地方,那就是主干光缆的桥架走向会与水平铜缆的桥架和动力(强电)电缆的桥架垂直重叠;

这样除非强电桥架采用下走线方式,弱电桥架采用上走向方式,否则在桥架施工和布线施工上会增加一定的困难;也会给运维和扩容施工带来一定的困难(如:MOR架构接线方式-1)。

或者将主干光缆的敷设桥架从机柜的一端绕行敷设,则会造成较多的光缆浪费如:MOR架构接线方式-2)。

3TOR布线方式

3.1TOR布线方式的特点:

TOR布线系统的方式,取消了EOR布线方式的弱电列头柜(HDA)和MOR布线方式的弱电中头柜(HDA);采用从本机房的核心汇聚机柜(IDA)直接向服务器机柜(EDA布放预端接光缆的方式进行全光网络的布线;将原来安装在弱电列头柜(HDA)或弱电中头柜(HDA)的交换设备,改成了服务器机柜的架顶安装,铜缆仅仅只是在机柜内从交换设备端口连接服务器端口的跳线。

如果是多模块的大型机房,本机房的核心汇聚(IDA)则通过主干光缆与数据中心的核心汇聚(MDA)相连接

3.2TOR布线方式的优点:

a、采用全光网的布线方式,可以有效的降低数据中心的整体承重压力;

b、采用全光网的布线方式,可以忽略机房内的电、磁干扰问题,同时光纤不会产生出电、磁的干扰;

c、采用全光网的布线方式,因为光缆的高带宽和低损耗的特性,以及对1G10G40G100G以太网及2G4G8G16G存储网络的全面支持,可以有效的提高数据中心的升级和扩容的空间;

d、采用全光网的布线方式,由于光纤的不可被侦听的特性,可以有效的网络通讯的安全;

e、采用全光网的布线方式,可以:降低机房内的布线数量,降低材料和施工成本;

降低桥架占用空间,降低数据中心冷却功耗;

降低有源设备的端口能耗,降低运行成本;

更加符合节能和环保的要求。

f、采用全光网布线方式,全部采用预端接光缆,即提高了施工质量,又加快了施工进度;

g、采用交换机架顶的方式,将铜缆连接方式从水平布线改为机柜内的连接跳线,有效的消除了铜缆布线系统因为衰减和串扰而使网络通讯效率降低可能性;同时也使得网络结构更加简单,更容易维护;

h采用架顶交换机的方式,可以更加容易的增加或改变各个机柜内服务器的上联端口的性能、数量、通讯方式……等,更有利于设备的升级、变更、移动……等运维工作;

i采用架顶交换机的方式,可以再端口数较少的时候,2台或者3台服务器机柜共用一台机柜的布线设备,当系统需要升级或扩容的时候,可以再无需施工和增加布线系统的情况下,平滑升级;

j采用架顶交换机的方式,在对机柜进行运维时,最多只会影响到本机柜或者周边12台机柜,而不是像EORMOR布线方式那样,可能会破坏到整列机柜的跳线,使维护工作更安全;

3.3TOR布线方式的缺点:

从某种程度上来说,TOR布线架构会给人以交换设备端口浪费的感觉,有很多人认为采用架顶交换机的方式会造成交换机端口的浪费;

其实不然,我们在之前说过,交换机的安装实际上是需要结合服务器的端口数量的,如果单个机柜的设备数量过少,我们可以采用2台机柜或3台机柜共用1台机柜的配线系统和交换设备,其他空余的机柜的光纤链路可以作为存储网络或备份链路;

一般来说,我们在设计当前应用最广泛的10G主干网络的时候,通常都会给每台服务器机柜敷设212芯预端接主干光缆,以应付以后的网络升级40G的应用;

但是当主干链路从10G以太网通道升级到40G100G以太网通道时,40G以太网通道需要8芯光纤才能完成链路传输,而100G以太网通道则需要20芯光纤,到这个时候,原先设计至每台网络机柜的212芯预端接主管光缆的应用就显得非常紧张了,甚至会出现2台机柜合并在一起才有备份链路的情况,然而我们还要考虑FC存储网络的光纤连接问题。

同时由于交换设备是采用架顶方式,因此更换、维修、跳线、扩容、预留端口将更为方便,而且EORMOR布线方式也必须有足够的预留;试问哪个使用单位敢不给服务器机柜预留相应的设备备份端口?一旦个别设备端口突然出现故障,连个备用端口都没有的系统的安全又从何淡起?只是备份端口的多与少的问题罢了。

4EORMORTOR三种布线方式的比较

5、结束语

虽然就目前来看,很多数据中心的设计(尤其是中小型或超小型数据中心)的结构设计都是以EOR或者MOR的架构为主导;往往只有新设计和建设的大型或差大型数据中心才使用TOR布线架构。

但是我们将EORMOR就定位在中小型或超小型数据中心的应用架构,也不能说TOR就是大型或超大型数据中心的布线模式。

我们的布线架构是根据数据中心的实际应用进行设计的,要根据业主和使用方不同的需求进行专业和细致的设计工作,往往我们会发现,其实我们最后设计出的适用的布线架构其实是EORMORTOR的结合体,既有这几个布线架构的特点,有再架构的灵活应用程度上超过了单一布线架构。

最终总的来说一切都是要适用,适合是作重要的,我们不能被某个布线架构的特点限制死头脑,灵活应用,取其优点进行适合的设计和应用才是正确的。