本篇文章给大家谈谈人工智能数据中心项目,以及人工智能数据中心项目介绍对应的知识点,文章可能有点长,但是希望大家可以阅读完,增长自己的知识,最重要的是希望对各位有所帮助,可以解决了您的问题,不要忘了收藏本站喔。
本文目录
如何为数据中心构建人工智能的能力?
你要求的,先期收集数据传递给初级人工智能脑库,他形成一种模式(或语音或行为)在于人机交流时,行成逻辑思维判断持行那种(或行为,或语音,或组合持行能力)。
支撑AI的高性能数据中心网络架构如何设计?
近日,工信部印发《促进新一代人工智能产业发展三年行动计划(2018-2020年)》,意在加快人工智能从战略到落地,推动人工智能和实体经济深度融合。在新工业革命的背景下,大数据、计力、算法等快速迭代,正驱动人工智能进入新阶段。2017年Q3,全球AI公司融资金额突破77亿美元,是2012年的70余倍。可能会有人说这是“泡沫”,而我更愿意相信这是人工智能发展的必然结果。
在AI技术的应用过程中,各个企业都在寻找能够更好支撑高性能计算的基础网络解决方案。在《数据中心基础网络架构最佳实践及未来发展趋势》这篇文章中,我分享了如何设计一个稳定可靠的数据中心网络,下面我们再来探讨支撑AI应用的高性能无损网络应该如何设计。
前面提到大数据、计算力、算法等快速迭代,正驱动人工智能进入新阶段,而这些技术的实现对网络的低时延、无丢包、高性能这三个方面提出更高要求。
▲AI应用的技术体系及对数据中心网络的要求
高性能和无丢包比较好理解,就是指网络带宽性能的提升以及网络中不存在拥塞导致的丢包。产生时延的环节较多,要实现端到端的低时延,需要多角度分析:
其中,光电传输时延和数据串行时延相对较小,且很难通过架构设计来优化,我们应重点关注主机处理时延和设备转发时延。在各大企业积极寻求的高性能计算方案中,基于以太网的RDMA(RemoteDirectMemoryAccess)凭借其高性能和低成本优势逐渐取代InfiniBand而成为主流技术。RoCEv2(RDMAoverConvergedEthernet)技术基于UDP协议,对于建设支撑AI应用的高性能无损以网络变得尤为重要。
结合设备转发层面的时延优化手段,高性能无损网络的实现取决于两个要素:
无带宽收敛(1:1)的网络架构设计基于PFC(Priority-BasedFlowControl)和ECN(explicitcongestionnotification)功能的优先队列管理和拥塞管理综上,AI集群高性能计算和网络方案实践思路如下图所示:
▲AI集群高性能方案关键技术组合
在这里,我以25G网络为例,结合业界主流产品形态,分享AI网络架构设计和实现思路。
主要设计理念:
核心设备全线速高性能转发,核心之间不互联,采用Fabric架构,隔离核心故障,最大程度降低核心故障的影响;三层路由组网,通过ECMP提高冗余度,降低故障风险;TOR上下行收敛比严格实现1:1,通过提高核心设备接口密度扩展单集群服务器规模;应用PFC+ECN功能,实现低延时无损网络。网络架构设计:
1.中小型(集群规模1000台)
▲架构设计
架构特性:
每台TOR采用8*100GE上联8台32口100GBOX交换机,OSPF/BGP组网适用集群规模1000台每台TOR下联32台Servers,IDC内收敛比1:1,集群带宽25Tbps2.中型(集群规模2000台)
▲架构设计
架构特性:
每台TOR采用8*100GE上联8台64口100GBOX,OSPF/BGP组网适用集群规模2000台每台TOR下联32台Servers,IDC内收敛比1:1,集群带宽50Tbps3.大型(集群规模2000-18000台)
▲架构设计
架构特性:
每台TOR采用8*100GE上联4~8台核心(机框式),BGP组网适用集群规模2000~18000台每台TOR下联32台Servers,IDC内收敛比1:1,集群带宽50~450Tbps4.超大型(集群规模20000+台)
▲架构设计
架构特性:
单POD集群规模1000~2000台,数据中心集群规模20000+,BGP组网POD内收敛比1:1,单POD集群带宽25Tbps,总集群带宽500Tbps+POD内收敛比和上行带宽根据集群带宽需求灵活配置,适用与非AI应用混合部署在数据中心网络中,PFC和ECN功能将部署在Leaf和Spine设备上。PFC作用于设备互联端口,通过反压影响上游端口队列的发送速率,而ECN是作用在设备转发过程,最终影响的是数据流的发送方,通过降低某条数据流发送速率规避数据丢包。
PFC机制将以太链路上的流量区分为不同的等级,基于每条流量单独发送“不许可证”。相对于PAUSE帧而言,PFC可以将链路虚拟出8条不同等级的虚拟通道,当某条通道出现拥塞后不会影响其它通道。RoCEv2定义了RoCEv2CongestionManagement(RCM),其中拥塞管理用的特性ECN(RFC3168)是在交换机出口(egressport)发起的拥塞控制机制。当交换机的出口buffer达到设定的阈值时,交换机会改变数据包头中的ECN位来给数据打上ECN标签,当带ECN标签的数据到达接收端以后,接收端会生成CNP(CongestionNotificationPacket)并将它发送给发送端。CNP包含了导致拥塞的flow或QP的信息,当发送端收到CNP后,会采取措施降低发送速度。由于PFC作用于整个队列,而ECN只针对产生拥塞的具体会话,在设置PFC和ECN相关水线时,应做到先触发ECN后再触发PFC。从外卖订单和叫车订单的智能调度,到电商平台的智能推荐,再到人脸识别支付以及即将实现的全自动无人驾驶汽车量产,AI技术的应用已在方方面面影响着人们的生活和工作,让大家的生活越来越便捷、时间利用越来越合理。但是,这都离不开基础设施的支撑。锐捷网络将凭借在数据通信领域近20年的技术积累和行业经验,创新出更好的产品和解决方案,助力AI技术的蓬勃发展。
“新基建”时代,数据中心发趋势?
首先在规模化建设方面,更多的集中式、大手笔的投资方式将加速超大规模数据中心的建设。在这个大背景下,如何继续提高数据中心规模化效益,构建更大规模的数据中心网络,是每个数据中心架构设计师都要面对的挑战。组建超大规模数据中心主要受限于两方面的因素:一个是业界主流的交换网络设备的转发能力和端口密度;另一个则是网络架构设计思想,需具备极高的可扩展性和可管理性,以期能按POD进行数据中心网络的交付,并最终具备灵活扩展到承载更大规模集群的能力。
面对海量运维需求,数据中心规模扩张以后,设备数量呈倍数增长,设备种类也大大增多,如何实现海量设备的统一管理,实现业务到网络的联动,提高运维效率,降低运维成本,是大规模数据中心急需解决的问题之一。基于AI和Telemetry的智能运维是利用数据智能替换人工经验,期望在自动化的基础上实现遥测、大数据分析、机器学习和网络引导等功能,监控和管理潜在的网络安全问题,帮助数据中心更快地适应不断变化的业务需求,提高运营的洞察力,最终实现基于意图的网络。
无损数据中心层面,未来在公有云、人工智能等应用中将广泛采用语音交互、图像交互等新型的技术,这些交互服务通过访问线上数据库、云数据中心等来满足不同需求,诸如浸入式体验、全息通信、机器人看护等应用。由于这些应用需要通过网络传输和处理大规模多媒体信息,且设备密度和总信息量巨大,需要数据中心网络在极短时间内将大量的数据转换成实时的信息以及行为,保证交互服务在后台访问的时候能够避免丢包,减少时延并提高吞吐量,由此对数据中心网络提出了无损转发的需求。随着人工智能的飞速发展,工业控制、远程医疗、自动驾驶等越来越多的应用将走入我们的生活,而无损数据中心网络无疑为我们提供了一个极佳选择。
开放架构设备层面,数据中心开放式的架构给白盒交换机提供了发展良机,随着白盒交换机生态系统的发展,硬件、网络操作系统以及协议软件等逐步成熟,越来越多的客户投入到白盒交换机的研发和使用中,尤其在互联网行业,基于开放架构的白盒交换机已经在大型互联网公司的云数据中心规模部署。随着业务的精细化发展,对网络的定制化的需求越来越多,自主可控的开源设备将会发挥出更大的作用。
什么是IDC数据中心?为什么新基建要大力发展IDC?
新基建
所谓新基建,就是区别于道路、铁路、桥梁等传统基础设施的新型基础设施,主要包括5G、大数据、人工智能、区块链、集成电路等新技术的推广和应用,以提升生产力水平,改善产业结构,提升我国的国际竞争力。
其中,新型基础设施的基础是数据和数据服务,特别是对大数据、AI、5G的应用来说,数据是重中之重,没有数据就没有应用,产业化就无从谈起。国家目前也已经提出将数据作为重要的生产要素,也是凸显了数据对于新时代国家竞争力提升的重要性。
数据中心那么问题来了,数据存在哪?
数据要存在数据库服务器中,并通过应用服务器对内对外提供服务,这些服务器又放在哪呢?
这些基础设施要放在机房里,而机房往往又被称作数据中心,提供数据存储、服务器存管、信息安全服务、负载服务、物理安全等通用且专业的服务,当然这些IT基础设施需要专业的人员或机构来运维。
有了数据中心之后,应用人员可以专注于业务逻辑的处理,不用拘泥于基础的设施维护和安全防范,更加有利于业务创新,有利于社会价值的产生。
数据中心分类根据面向对象的不同,数据中心可以分为私有数据中心和通用数据中心。
私有数据中心往往由企业自行建设自行维护,主要服务自家的业务,比如BAT等大型互联网公司、工农中建交邮储等大型商业银行等有实力的企业都会自建数据中心。
通用数据中心是由专业的企业承建和维护,并对外提供服务的数据中心,用以解决广大企业,特别是初创企业IT基础设施能力弱、业务压力大的问题,使之聚焦于业务创新。典型的包括移动、电信、联通等运营商建设的数据中心,当然也包括网宿科技、长城等专业企业建设的数据中心。
我是会说科技,关注我,一起聊聊数据、科技、IT、安全、金融那些琐事。
好了,本文到此结束,如果可以帮助到大家,还望关注本站哦!