2024 年 Nvidia GTC 大會(huì)涵蓋了圍繞 AI 時(shí)代的主題，這引出了以下總體問題：各行業(yè)組織的云和 IT 基礎(chǔ)設(shè)施是否已為 AI 的未來做好準(zhǔn)備？

在主題演講中，Nvidia 首席執(zhí)行官黃仁勛在加州圣何塞 SAP 中心向觀眾發(fā)表了兩個(gè)小時(shí)的演講。演講的亮點(diǎn)是新的Blackwell GPU 平臺(tái)，該平臺(tái)旨在在萬億參數(shù)大語言模型上運(yùn)行實(shí)時(shí)生成 AI。每個(gè) Blackwell 芯片提供 2080 億個(gè)晶體管，最新版本的 NVLink 提供 1.8TBps 的雙向吞吐量。

這一最新聲明激發(fā)了人們對(duì)人工智能潛力的日益興奮。根據(jù)TechTarget 的企業(yè)戰(zhàn)略集團(tuán)研究，54% 的組織將在未來一年內(nèi)擁有或預(yù)計(jì)將擁有生成式人工智能。

然而，盡管有這么多令人興奮的事情，Nvidia GTC 上展示的技術(shù)規(guī)模也應(yīng)該讓任何企業(yè)決策者三思而行。在做出任何決定之前，先問問自己：是否需要這種級(jí)別的技術(shù)？能負(fù)擔(dān)得起嗎？如何根據(jù)自己的組織和用例調(diào)整我 AI 基礎(chǔ)設(shè)施投資規(guī)模？

盡管 GPU 技術(shù)有時(shí)會(huì)供不應(yīng)求，但可用的基礎(chǔ)設(shè)施選項(xiàng)卻并不短缺。三大公共云提供商 AWS、Google Cloud Platform 和 Microsoft Azure 在 Nvidia GTC 期間宣布計(jì)劃利用新的 Blackwell 技術(shù)。

這些公共云服務(wù)為組織提供了利用最新 GPU 技術(shù)的選擇，而無需在本地采購和部署基礎(chǔ)設(shè)施。雖然預(yù)計(jì)云應(yīng)用將大量采用，但 AI 和生成式 AI 工作負(fù)載正在推動(dòng)本地基礎(chǔ)設(shè)施的復(fù)興。

根據(jù)研究， 78% 的企業(yè)表示他們更愿意將高價(jià)值的專有數(shù)據(jù)保存在自己的數(shù)據(jù)中心。人工智能計(jì)劃的成功取決于數(shù)據(jù)，企業(yè)希望將人工智能工作負(fù)載部署到更靠近數(shù)據(jù)所在位置，以降低成本并加快價(jià)值實(shí)現(xiàn)時(shí)間。

因此，基礎(chǔ)設(shè)施提供商正在積極致力于通過提供將其技術(shù)與 Nvidia 的技術(shù)相結(jié)合的集成和經(jīng)過驗(yàn)證的基礎(chǔ)設(shè)施產(chǎn)品來加快 AI 計(jì)劃的價(jià)值實(shí)現(xiàn)時(shí)間。

在展廳里，大家看到了戴爾科技、DataDirect Networks、日立 Vantara、Hammerspace、Liqid、Pure Storage、Vast Data 和 Weka 的產(chǎn)品。每款產(chǎn)品都旨在簡(jiǎn)化 Nvidia 技術(shù)的部署和集成，同時(shí)加快 AI 計(jì)劃的價(jià)值實(shí)現(xiàn)時(shí)間。盡管目的相似，但這些產(chǎn)品針對(duì)的是成本最小。雖然檢索增強(qiáng)生成等技術(shù)可以降低現(xiàn)有模型出現(xiàn)幻覺的可能性，但之前的不良體驗(yàn)可能會(huì)阻礙內(nèi)部用戶對(duì) AI 項(xiàng)目的熱情。

用例識(shí)別至關(guān)重要，因?yàn)榛A(chǔ)設(shè)施需求可能會(huì)因所用數(shù)據(jù)的規(guī)模、用于訓(xùn)練模型的參數(shù)數(shù)量以及你計(jì)劃開發(fā)自己的模型還是使用自己的數(shù)據(jù)增強(qiáng)現(xiàn)有模型而有很大差異。使用現(xiàn)成模型的檢索增強(qiáng)生成也可以使基礎(chǔ)設(shè)施投資比人們預(yù)期的要輕得多。

在確定用例時(shí)，組織可以利用不斷壯大的服務(wù)合作伙伴生態(tài)系統(tǒng)來確定正確的策略。此外，戴爾科技等基礎(chǔ)設(shè)施提供商正在通過補(bǔ)充咨詢服務(wù)組合來增強(qiáng)其基礎(chǔ)設(shè)施選項(xiàng)，以幫助組織識(shí)別和定義用途，以及準(zhǔn)備其數(shù)據(jù)以用于 AI 計(jì)劃。

人工智能和生成式人工智能有望改變整個(gè)商業(yè)格局。鑒于最新 Nvidia 技術(shù)的強(qiáng)大功能，很容易讓人不知所措。但不要驚慌，人工智能計(jì)劃通?？梢詮暮侠淼幕A(chǔ)設(shè)施投資開始。重要的是確定正確的用途和數(shù)據(jù)集，并在流程早期利用合作伙伴。