生成式人工智能革命已經(jīng)來臨
大家準(zhǔn)備好了嗎？
多年來，人工智能(AI)和機(jī)器學(xué)習(xí)(ML)重塑了各行各業(yè)，賦予人們強(qiáng)大的能力來解決了許多復(fù)雜的全球性問題。這些具有變革性的力量，過去被稱為HPC(高性能計算)，已經(jīng)推動了各種規(guī)模的企業(yè)組織進(jìn)行數(shù)字化轉(zhuǎn)型，不僅提高了生產(chǎn)力和效率，還增強(qiáng)了解決問題的能力。隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)支持的高度創(chuàng)新的生成式人工智能模型的涌現(xiàn)，游戲規(guī)則正在被進(jìn)一步顛覆。通過生成原創(chuàng)內(nèi)容和應(yīng)對復(fù)雜的挑戰(zhàn)，生成式人工智能不僅將徹底改變組織的運(yùn)作方式，還將徹底改變創(chuàng)新本身的結(jié)構(gòu)。
這些數(shù)據(jù)和計算密集型機(jī)器學(xué)習(xí)及生成式人工智能應(yīng)用的增加，對數(shù)據(jù)中心基礎(chǔ)設(shè)施提出了前所未有的要求，需要可靠的高帶寬、低延遲數(shù)據(jù)傳輸、更高等級的布線和機(jī)柜功率密度，以及先進(jìn)的冷卻方法。隨著數(shù)據(jù)中心為生成式人工智能做好準(zhǔn)備，用戶需要創(chuàng)新、強(qiáng)大的網(wǎng)絡(luò)基礎(chǔ)設(shè)施解決方案，以幫助他們輕松設(shè)計、部署和擴(kuò)展后端、前端和存儲網(wǎng)絡(luò)架構(gòu)，以適應(yīng)復(fù)雜的高性能計算人工智能環(huán)境。值得慶幸的是， 西蒙為您提供了開展生成式人工智能革命所需的一切，而且所有這些都有經(jīng)驗豐富和專業(yè)的數(shù)據(jù)中心服務(wù)作為后盾。
??智能在各?各業(yè)的蓬勃發(fā)展推動了35%以上的市場增?，預(yù)計?2032年，僅?成式??智能?項的市場規(guī)模就將達(dá)到1.3萬億美元。 (Precedent Research, 2023)
先進(jìn)的人工智能要求重新考量數(shù)據(jù)中心的設(shè)計
加速生成式人工智能和機(jī)器學(xué)習(xí)模型由訓(xùn)練型(學(xué)習(xí)新能力)和推理型(將能力應(yīng)用于新數(shù)據(jù))組成。這些深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)模仿人腦的架構(gòu)和功能，在分析大量復(fù)雜數(shù)據(jù)集的模式、細(xì)微差別和特征的基礎(chǔ)上，學(xué)習(xí)和生成新的原創(chuàng)內(nèi)容。大型語言模型(LLM)，如ChatGPT和Google Bard，就是這些生成式人工智能模型的例子，這些模型在海量數(shù)據(jù)的基礎(chǔ)上進(jìn)行訓(xùn)練，以理解和生成合理的語言反應(yīng)。
按順序執(zhí)行控制和輸入/輸出操作的通用CPU無法有效地從多種來源并行提取大量數(shù)據(jù)并進(jìn)行快速處理。因此，加速機(jī)器學(xué)習(xí)和生成式人工智能模型依賴于圖形處理單元(GPU)，后者使用加速并行處理來同時執(zhí)行數(shù)千次高吞吐量計算。單個基于GPU的服務(wù)器的計算能力可媲美數(shù)十個基于CPU的傳統(tǒng)服務(wù)器的性能！
獨(dú)特的機(jī)器學(xué)習(xí)和生成式人工智能特性
為了從海量數(shù)據(jù)集中提取信息，機(jī)器學(xué)習(xí)和生成式人工智能模型在后端HPC多節(jié)點集群中運(yùn)行，這些集群擁有成百上千個相互連接的GPU，并有一些獨(dú)特的要求：
?常?的帶寬 – 服務(wù)器端100G、200G、400G，甚至是800G的速率，交換機(jī)至交換機(jī)連接快速遷移至800G和1.6T速率。
超低延遲 – 實時(< 20 毫秒)節(jié)點間東西向數(shù)據(jù)傳輸。
功耗?幅增加 – 基于GPU的服務(wù)器需要10倍以上的電力，導(dǎo)致機(jī)柜功率密度達(dá)到30-100kW甚至更高。
先進(jìn)的冷卻技術(shù) – 數(shù)據(jù)中心正在評估更高效的冷卻方法，如芯片級液冷和浸入式液冷，以處理服務(wù)器產(chǎn)生的高熱量。
InfiniBand和以太?協(xié)議 – InfiniBand的高吞吐量和低延遲性能在后端的GPU間連接中占主導(dǎo)地位，而以太網(wǎng)的兼容性、安全性和管理功能則是前端接口的理想選擇。以太網(wǎng)的不斷進(jìn)步將使二者在后端并存。
前端是指?站或應(yīng)?程序?向的?戶元素，如設(shè)計和交互性，?后端則包括為其提供動?的服務(wù)器端的邏輯和數(shù)據(jù)架構(gòu)。
?密度、?性能的布線系統(tǒng) – 節(jié)點之間、以及用于存儲、管理和交換的高速連接需要更多的高帶寬布線。
由于功耗和冷卻要求較高，支持人工智能通常需要將GPU分配到不同的機(jī)柜中，并從柜頂交換 (ToR)配置轉(zhuǎn)移到列末或列中(EoR/MoR))配置。較高的功率要求可能還需要先進(jìn)、高效的液體冷卻方法。
人工智能網(wǎng)絡(luò)向高速遷移(后端)
初步預(yù)測(2023-2027)
InfiniBand和以太網(wǎng)將共存。 到2027年，幾乎所有端口將達(dá)到800G及以上的速率。 網(wǎng)絡(luò)帶寬達(dá)到三位數(shù)的復(fù)合年增長率。
人工智能網(wǎng)絡(luò)向高速遷移 (前端)
初步預(yù)測(2023-2027)
所有端口為以太網(wǎng)。 到2027年，幾乎2/3的端口將達(dá)到800G及以上速率。 我們已為人工智能做好準(zhǔn)備無論是需要在由數(shù)千個互連GPU組成的大型HPC集群內(nèi)支持更高的機(jī)柜功率密度和ToR配置的人工智能云服務(wù)提供商，還是希望在現(xiàn)有現(xiàn)場或主機(jī)托管數(shù)據(jù)中心內(nèi)構(gòu)建自己的特定業(yè)務(wù)人工智能基礎(chǔ)設(shè)施的大型企業(yè)。西蒙提供用戶所需的一切，以支持人工智能網(wǎng)絡(luò)的設(shè)計、交付和日常運(yùn)營，包括：
• 高密度、端到端的LightVerse單模和多模MTP光纖系統(tǒng)，可為后端、前端和存儲架構(gòu)提供高達(dá)800G及以上的高性能超低損耗(ULL)傳輸。
• 全面的直接銅纜(DAC)和有源光纜(AOC)系列，用于以太網(wǎng)、RoCE和InfiniBand網(wǎng)絡(luò)人工智能集群內(nèi)的后端點對點高速、低延遲連接。
• 能夠在ToR和EoR/MoR配置中同時支持InfiniBand和以太網(wǎng)協(xié)議。
• 憑借專業(yè)知識和經(jīng)驗，幫助企業(yè)設(shè)計和部署優(yōu)化的人工智能InfiniBand和以太網(wǎng)銅纜和光纖基礎(chǔ)設(shè)施，以滿足計算、存儲、帶外和帶內(nèi)管理等所有網(wǎng)絡(luò)的需求。
• 數(shù)據(jù)中心服務(wù)，根據(jù)具體用例、預(yù)算、現(xiàn)有基礎(chǔ)設(shè)施和未來需求來提供基礎(chǔ)設(shè)施設(shè)計建議。
兩大數(shù)據(jù)中心巨頭強(qiáng)強(qiáng)聯(lián)手
長期以來，以太網(wǎng)一直是滿足大多數(shù)網(wǎng)絡(luò)需求的實際協(xié)議，而InfiniBand則是HPC網(wǎng)絡(luò)中的常見協(xié)議，由于其遠(yuǎn)程直接內(nèi)存訪問(RDMA)技術(shù)可以處理多個高帶寬、低延遲的并行連接，因此已經(jīng)成為人工智能集群中后端GPU互連的強(qiáng)大替代方案。InfiniBand交換機(jī)的延遲約為100納秒，而以太網(wǎng)交換機(jī)的延遲為230納秒。隨著對人工智能支持的改善，全球InfiniBand市場預(yù)計將在2023年至2028年間增長40%以上。
相比之下，以太網(wǎng)的廣泛TCP/IP生態(tài)系統(tǒng)支持、可擴(kuò)展性、易用性以及安全和管理功能使其成為前端人工智能網(wǎng)絡(luò)的理想選擇，包括交換機(jī)到交換機(jī)連接、存儲結(jié)構(gòu)以及帶外和帶內(nèi)管理網(wǎng)絡(luò)。隨著交換機(jī)技術(shù)和協(xié)議如RDMA over converged Ethernet (RoCE)和Ultra Ethernet Transport (UET)的發(fā)展以滿足人工智能工作量的要求，InfiniBand和以太網(wǎng)將在后端人工智能集群中競爭和駐留，而前端人工智能網(wǎng)絡(luò)仍將是以太網(wǎng)。歸根結(jié)底，這兩種技術(shù)在人工智能架構(gòu)中各有所長，最高可支持800G的速度，其路線圖可達(dá)1.6T。
西蒙數(shù)據(jù)中心設(shè)計服務(wù)
?持企業(yè)充分利?其數(shù)據(jù)中???智能環(huán)境的真正潛?。
無論您是受托為多個客戶提供IT服務(wù)并履行SLA(服務(wù)水平協(xié)議)的服務(wù)提供商，還是投資人工智能和高性能計算(HPC)網(wǎng)絡(luò)以加速業(yè)務(wù)發(fā)展的企業(yè)，數(shù)據(jù)中心的底層網(wǎng)絡(luò)基礎(chǔ)設(shè)施都是您發(fā)展壯大的不二法寶。
數(shù)據(jù)中心的布線基礎(chǔ)設(shè)施是滿足內(nèi)部和外部客戶對頂級人工智能網(wǎng)絡(luò)和高性能計算可用性和性能期望的核心。您的團(tuán)隊還需要無憂的正常運(yùn)行時間、可靠性和可擴(kuò)展性保證，這樣他們才可以專注于取得成功的必要條件。
我們?nèi)绾螏椭?/strong>
我們將數(shù)據(jù)中心的專業(yè)知識集中到全球服務(wù)網(wǎng)絡(luò)中，旨在指導(dǎo)您選擇和設(shè)計所需的底層物理基礎(chǔ)設(shè)施，以確保您的數(shù)據(jù)中心為人工智能做好準(zhǔn)備，同時為您提供所需的持續(xù)支持，以快速響應(yīng)不斷變化的需求、防止宕機(jī)并保持最高性能。
數(shù)據(jù)中心布線合規(guī)檢查服務(wù)
獲得對當(dāng)前布線基礎(chǔ)設(shè)施策略的總結(jié)，以及對可能進(jìn)行的改進(jìn)及節(jié)約的詳細(xì)分析和指導(dǎo)建議。
數(shù)據(jù)中心設(shè)計服務(wù)
您是否希望設(shè)計、部署或升級數(shù)據(jù)中心空間，并需要專家的建議和幫助來幫助您完成整個過程? 我們的數(shù)據(jù)中心設(shè)計專家團(tuán)隊隨時準(zhǔn)備為您提供支持。
技術(shù)服務(wù)團(tuán)隊
我們的專業(yè)技術(shù)服務(wù)團(tuán)隊遍布全球，為客戶的整體西蒙體驗提供支持。我們的團(tuán)隊與您一路同行。
業(yè)界領(lǐng)先的合作伙伴提供支持
多年來，我們建立了一個由數(shù)據(jù)中心合作伙伴組成的體系，他們都是各自領(lǐng)域的專家。西蒙以與全球人工智能和高性能計算領(lǐng)導(dǎo)者合作為榮，他們提供的互補(bǔ)性產(chǎn)品和服務(wù)與我們一流的IT基礎(chǔ)設(shè)施解決方案相結(jié)合，為我們的客戶提供額外的價值和支持。
對超低損耗連接的需求
后端和前端人工智能網(wǎng)絡(luò)中的InfiniBand和以太網(wǎng)鏈路利用了經(jīng)濟(jì)高效的多模和短距單模光收發(fā)器技術(shù)的帶寬能力。對于高速結(jié)構(gòu)化布線鏈路，多模光纖可支持200G和400G至50米，而短距單模光纖可支持更長的500米和2000米距離。對于以太網(wǎng)部署，多模(SR和VR)和短距離單模應(yīng)用(DR和FR)有嚴(yán)格的插入損耗要求，多模的最大信道損耗為1.9 dB，DR單模為3dB，F(xiàn)R單模為4dB。
對于人工智能網(wǎng)絡(luò)內(nèi)的結(jié)構(gòu)化布線，超低損耗(ULL) MPO/MTP連接可確保最大信道長度，同時確保留有余量以適應(yīng)安裝變量，并提供支持便捷跳接的靈活性，從而有助于提高可管理性、可擴(kuò)展性和部署速度。在選擇連接時，不同供應(yīng)商的損耗值可能會有所不同，許多供應(yīng)商提供標(biāo)準(zhǔn)損耗、低損耗和超低損耗連接。由于存在差異，因此必須確保第三方驗證的最大插入損耗值能夠真實反映性能。
西蒙的ULL LightVerse® MTP多模和單模布線系統(tǒng)已通過第三方驗證，可提供相當(dāng)大的插入損耗余量，從而提高人工智能網(wǎng)絡(luò)的性能，傳輸速度可達(dá)100G、200G、400G和800G。
對多模和單模APC連接的需求
除了嚴(yán)格的插入損耗要求外，高速400G和800G應(yīng)用以及未來的1.6T應(yīng)用由于信噪比(SNR)較高，更容易受到反射率的影響。短距離DR和FR單模應(yīng)用尤其容易受到影響，因此行業(yè)標(biāo)準(zhǔn)規(guī)定了基于信道中光纖耦合數(shù)量的反射率(回波損耗)值。
反射性能差會對信道插入損耗和傳輸性能產(chǎn)生不利影響。因此，除了用于高速AI鏈路的傳統(tǒng)單模MTP連接外，許多云數(shù)據(jù)中心還指定使用多模斜面物理接觸(APC)連接器。與采用圓形光纖端面的超物理接觸(UPC)連接器不同，APC連接器采用8度角研磨，以減少反射信號量。多模MTP/UPC連接器的反射值通常為-20dB，而多模MTP/APC連接器的反射值提高到-35dB。
人工智能應(yīng)用的布線解決方案
西蒙的優(yōu)勢
西蒙成立于1903年，在為全球客戶制造和創(chuàng)新高質(zhì)量、高性能數(shù)據(jù)中心解決方案方面是值得信賴的行業(yè)領(lǐng)導(dǎo)者。西蒙高級數(shù)據(jù)中心解決方案從底層開始設(shè)計，以滿足當(dāng)前和未來人工智能和高性能計算環(huán)境的苛刻需求。我們對數(shù)據(jù)中心需求的深刻理解推動了我們應(yīng)對最新人工智能革命的戰(zhàn)略轉(zhuǎn)移。所有這些都以西蒙行業(yè)領(lǐng)先的質(zhì)量、性能和可靠性為后盾，幫助您降低風(fēng)險，最大限度地延長正常運(yùn)行時間，并成功交付新的人工智能應(yīng)用和服務(wù)。
西蒙已經(jīng)成功地為其他幾家公司設(shè)計并部署了HDR 200G和NDR 400G InfiniBand算力系統(tǒng)。 西蒙對行業(yè)領(lǐng)先的硬件廠商的參考架構(gòu)設(shè)計有深刻理解，能為特殊用例場景提供布線設(shè)計建議。 西蒙針對AI低延遲需求有獨(dú)特的解決方案，簡化部署，并提供初始安裝后的靈活性。 西蒙可以支持所有的通用網(wǎng)絡(luò)：算力、存儲、帶外管理和帶內(nèi)管理。 不斷優(yōu)化提升的產(chǎn)品線以滿足不斷變化的數(shù)據(jù)中心需求，得益于持續(xù)改進(jìn)、大量研發(fā)投入和對行業(yè)標(biāo)準(zhǔn)的領(lǐng)先參與的企業(yè)文化。 全球銷售覆蓋和完善的數(shù)據(jù)中心合作伙伴體系，以一系列領(lǐng)先的產(chǎn)品和服務(wù)為客戶帶來增值方案。 我們廣泛的解決方案涵蓋了InfiniBand和以太網(wǎng)光纖、銅纜、DAC和AOC，支持端到端安裝。
生成式人工智能的混合布線系統(tǒng): 超越傳統(tǒng)的點到點
雖然高性能計算集群中的長距離鏈路得益于結(jié)構(gòu)化布線，但GPU的短距離低延遲連接通常依賴于DAC等點對點解決方案。但是，鋪展GPU和機(jī)柜的人工智能集群已經(jīng)超出了DAC的長度極限。AOC和單根光纜可提供長達(dá)100米的機(jī)柜到機(jī)柜連接，但在大型集群中管理成百上千根光纜就成了一件麻煩事。使用結(jié)構(gòu)化布線的一些好處如下：
增加靈活性: 使用配線架和光跳線來連接任意兩個GPU, 更容易適應(yīng)你不斷變化的AI需求。
密集交換機(jī)連接: 無縫管理高密度leaf至spine交換機(jī)連接的線路優(yōu)化設(shè)計。
保護(hù)關(guān)鍵設(shè)備: 在移動、增補(bǔ)和變更操作中避免觸及重要的、昂貴的設(shè)備端口。
經(jīng)濟(jì)?效且可擴(kuò)展: 簡化日后的運(yùn)維工作，可擴(kuò)展至更高速率而無需重新布線，節(jié)約時間和費(fèi)用。
易于查障排錯: 配線架上的標(biāo)準(zhǔn)化標(biāo)簽和文檔可簡化故障排除工作，減少宕機(jī)時間。
改善?流和空間: 減少線纜擁塞，改善氣流，方便設(shè)備訪問。
認(rèn)證的性能: 符合行業(yè)標(biāo)準(zhǔn)的系統(tǒng)保證布線性能。
與領(lǐng)先協(xié)會共同開拓人工智能
西蒙是很多塑造人工智能未來的領(lǐng)導(dǎo)組織的活躍成員。
“西蒙與InfiniBand的合作加強(qiáng)了我們在全球推進(jìn)網(wǎng)絡(luò)基礎(chǔ)設(shè)施解決方案的承諾。我們認(rèn)識到InfiniBand在滿足人工智能和加速卡不斷升級的需求方面發(fā)揮著關(guān)鍵作用。西蒙致力于提供創(chuàng)新的布線和連接解決方案，以促進(jìn)該技術(shù)的發(fā)展和應(yīng)用。”
– Gary Bernstein | 西蒙全球數(shù)據(jù)中心高級銷售總監(jiān)
“以太網(wǎng)聯(lián)盟長期以來一直致力于通過行業(yè)標(biāo)準(zhǔn)和多廠商互操作性來支持以太網(wǎng)的發(fā)展。這與西蒙長期參與行業(yè)標(biāo)準(zhǔn)制定并致力于提供基于標(biāo)準(zhǔn)的優(yōu)質(zhì)解決方案的理念不謀而合。”
– John Siemon | 西蒙公司首席技術(shù)官
“IEEE802.3工作組負(fù)責(zé)制定以太網(wǎng)網(wǎng)絡(luò)標(biāo)準(zhǔn)。西蒙積極參與所有重要工作組的工作，為眾多人工智能網(wǎng)絡(luò)制定200、400、800G和1.6T標(biāo)準(zhǔn)。”
– Dave Valentukonis | 西蒙公司北美技術(shù)服務(wù)經(jīng)理
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份，全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報告》（以下簡稱“報告”），該報告…
數(shù)字化浪潮下，安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年，受疫情因素影響，包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來自市場 “不確定性”因素的沖擊，市場…
博思高鄧紹昌：乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟，在市場變革中逆風(fēng)飛揚(yáng)
11月24日，由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國物聯(lián)網(wǎng)產(chǎn)業(yè)大會暨品牌盛會，在深…