`
xpp02
  • 浏览: 1014614 次
社区版块
存档分类
最新评论

新架构让数据中心犹如PC

 
阅读更多
摘要:随着VL2网络拓扑结构带来了对等带宽,大量数据可以存放在远方的数据中心,访问起来却犹如它们就在本地,这将对数据中心的架构产生重大影响。Todd Hoff参加了Hot Interconnects大会,对微软VL2架构做了详细解读。CSDN摘译如下:

【CSDN编译】已经有越来越多人的达成共识,对于整个世界而言Google的数据中心就是一台计算机。计算机的所有硬件资源(CPU、内存、存储)都是可替代的,身处两地的硬件也是可以互相替换的,计算机不再有明确的所有人,它已经进化成服务的一部分。

FDS架构FDS架构

Google是怎么做到的呢?正是采用了已经被验证过的系统架构和技术 ,帮助数据中心带来了深不可测的性能提升。MapReduc就是其中最著名的技术,被广泛应用于存储节点。

此外,采用了全新的网络拓扑,并使用全新的软件架构,这样你就可以将数据自由的存储在任何你希望它在的地方。数据中心俨然变成了计算机。

在服务器端,每个节点拥有8个PCI-E 3.0接口,提供高达每秒8GB的双向带宽,我们有足够的I/O来延续摩尔定律,饥饿的CPU野蛮的吞噬着数据包。未来,SoC将集成网络接口,提供更快的速度。

接下来的挑战是让网络如何工作。今年5月,微软利用分布式系统FDS创造了新的MinuteSort世界纪录(速度比采用Hadoop架构的Yahoo快了三倍,所用硬件资源只有后者1/6。),它展示了如何提供对等带宽(bisectional bandwidth)的方法,让每台计算机之间都能全速传输数据,这让数据存储在遥远的地方变得可能,数据不需要必须存储在当地的数据中心中。

建立一个负担得起的对等网络是需要绞尽脑汁选择方法的。基本的原则包括改变协议,更换路由器,或者更换主机托管商。微软给出的答案是更换托管商,并增加了集中控制层。

微软在VL2中详细说明了这一改变,VL2是一套可扩展并十分灵活的网络架构:

一个可用的网络架构可以通过扩展支持巨大的数据中心,并保证统一的高容量带宽,各个服务器拥有独立的带宽。VL2使用:(1)扁平寻址,这可以允许服务实 例被放置到网络覆盖的任何地方,(2)负载均衡将流量统一的分配到网络路径,(3)终端系统的地址解析拓展到巨大的服务器池,并不需要将网路复杂度传递给 网络控制平台。

VL2的核心思想是使用CLOS拓扑结构建立扁平的第二层网络。这样做的好处是,虚拟机在数据中心内任意移动,都永远不用改变IP地址。关于网络第二层ARP广播问题,通过改变ARP,并集中注册服务来解决。将不再产生广播风暴。

这种方法看上去很奇怪,不过我参加了Hot Interconnects大会,关于VL2的整个方案充满智慧。方案的成果显而易见,成本低、高带宽以及更低的东西部间的延迟,这一切都基于先进的软件架构。不过它不支持任意路由vSwitch的方法这一特性,这意味着你不能采用未来可能出现的效率更高的拓扑结构。

微软已建立FDS基准代码,并在其基础上发布了Blob Storage系统:

值得一提的是,在我们的系统中没有计算节点使用本地存储的数据,我们相信FDS系统极具竞争力。总过1470GB数据全部存放在远程,在一分钟内总共传输了4.4TB数据。

FDS总是在网络上发送数据。FDS采取两种方式减少数据传输成本。首先,我们给每个存储节点开通的网络带宽与其存储带宽匹配。SAS磁盘的读取性能达到120MB/s,或约1Gb/s,所以在FDS集群存储节点总是至少提供1Gb的网络带宽。第二,我们在存储节点与计算节点间使用了对等带宽网络, 即CLOS拓扑结构,在Monsoon项目中采用了这一架构。这两种方式将在远程的CPU和磁盘间融合建立互补干扰的通道,使系统的总I/O带宽基本上等 同于使用本地存储系统,如MapReduce。FDS其性质允许任何计算节点访问任何数据,并具有同等的吞吐量。

作为分布式文件系统FDS已经成为数据中心核心的架构组件。

通过10/100 Gbps网络和VL2以及FDS技术,我们取得了不错的进展,数据中心资源池内的CPU、内存、存储均做到可替换。但网络仍然是不可替代的,尽管我并不确认这意味着什么。SDN将帮助网络成为第一级对象,但是由于性能的原因,网络永远不能真正的与拓扑结构脱离。
分享到:
评论

相关推荐

    数据中心基础架构介绍

    数据中心基础架构介绍

    数据中心网络架构

    归纳综述数据中心网络架构及发展方向。包括二层接入、三层接入、业务模型等。

    新一代数据中心架构

    1.新一代基于云计算的整体数据中心架构 2.思科统一计算系统的设计理念 3.思科统一计算系统的创新架构及新产品 4.业务实用性与成功案例分享

    基于vSAN双活架构的云数据中心设计方案.docx

    基于vSAN双活架构的云数据中心设计方案.docx基于vSAN双活架构的云数据中心设计方案.docx基于vSAN双活架构的云数据中心设计方案.docx基于vSAN双活架构的云数据中心设计方案.docx基于vSAN双活架构的云数据中心设计方案...

    数据中心供配电系统架构.pdf

    数据中心供配电系统架构.pdf该文档详细且完整,值得借鉴下载使用,欢迎下载使用,有问题可以第一时间联系作者~

    基于超融合架构的数据中心建设方案合集(42份).zip

    基于超融合架构的新建数据中心解决方案 基于超融合架构的数据中心改造解决方案 超融合规划设计方案 超融合迁移方案 超融合系统验证方案 超融合技术白皮书 超融合一体机 超融合云数据中心解决方案 超融合IT新架构方案...

    数据中心逻辑架构设计.doc

    1数据中心逻辑架构设计 1 1.1数据中心逻辑架构 1 1.1.1源数据层 指服务于企业各业务系统的基层单元数据,这些数据支持了企业各类业务的应用,但 存在数据分散、局部性强、不利于企业级的数据分析、应用;建设数据...

    数据中心存储架构(完整版)

    存储系统是数据中心IT环境的核心基础架构,是数据中心数据访问的最终承载体。在过去的10年里,IT行业都已经发生了很大的变化,发展步伐令人难以捉摸,但是这一切也将会继续下去。存储在云计算、虚拟化、大数据等相关...

    大型金融数据中心网络架构设计V2.pptx

    大型金融数据中心网络架构设计V2.pptx

    数据中心发展趋势及数据中心架构部署图举例.pdf

    新一代数据中心是一个整合的、标准化的、虚拟化的、自 动化的适应性基础设施架构和高可用计算环境。它提供最 优化的IT服务管理,通过模块化软件实现自动化7x24小时 无人值守的计算与服务管理能力,并以服务流水线的...

    数据中心发展趋势及数据中心架构部署图举例(1).pdf

    新一代数据中心是一个整合的、标准化的、虚拟化的、自 动化的适应性基础设施架构和高可用计算环境。它提供最 优化的IT服务管理,通过模块化软件实现自动化7x24小时 无人值守的计算与服务管理能力,并以服务流水线的...

    基于云计算的电力数据中心基础架构及其关键技术

    :为了适应新一代数据中心的发展趋势,并满足智能电网的需要,提出了基于云计算的新一代 电力数据中心的基础架构。分析了现有电力数据中心的逻辑结构与功能,采用虚拟化技术对电力 数据中心的服务器进行虚拟化,提高...

    APC数据中心供配电系统架构

    APC数据中心供配电系统架构

    数据中心建设架构设计.docx

    数据中心建设架构设计 数据中心建设架构设计全文共18页,当前为第1页。数据中心建设架构设计全文共18页,当前为第1页。 数据中心架构建设计方案建议书 数据中心建设架构设计全文共18页,当前为第1页。 数据中心建设...

    H3C数据中心网络架构.pdf

    H3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络架构.pdfH3C数据中心网络...

    HW出品数据中心网络架构设计方案.pptx

    New DR 数据中心网络架构设计 数据中心分区设计 数据中心 & DCI 路由设计 参数设计 数据中心安全设计

    云数据中心网络与SDN:技术架构与实现.pdf

    云数据中心网络与SDN:技术架构与实现.pdf

    数据中心的架构与规划

    数据中心的架构和规划,较好的资料,比较有实际参考价值。

    基于软件架构的双活数据中心建设方案【最新版】.docx

    基于软件架构的双活数据中心建设方案【最新版】.docx基于软件架构的双活数据中心建设方案【最新版】.docx基于软件架构的双活数据中心建设方案【最新版】.docx基于软件架构的双活数据中心建设方案【最新版】.docx基于...

    基于软件架构的双活数据中心建设方案【最新版】.pdf

    基于软件架构的双活数据中心建设方案【最新版】.pdf基于软件架构的双活数据中心建设方案【最新版】.pdf基于软件架构的双活数据中心建设方案【最新版】.pdf基于软件架构的双活数据中心建设方案【最新版】.pdf基于软件...

Global site tag (gtag.js) - Google Analytics