英偉達(dá)日前發(fā)布了全新的 NVIDIA L40S GPU，以及搭載該 GPU 的 OVX 服務(wù)器系統(tǒng)，IT之家的小伙伴們可以在這里找到相應(yīng)技術(shù)文檔。

英偉達(dá)發(fā)布 L40S GPU：AI 推理性能較 A100 高 1.2 倍© 由 IT之家 提供

▲ 圖源 英偉達(dá)官網(wǎng)

據(jù)悉，這款 L40S GPU 搭配最新發(fā)布的 OVX 服務(wù)器，可適用于 AI 大模型訓(xùn)練和推理、三維設(shè)計(jì)、可視化、視頻處理、工業(yè)數(shù)字化等多種用途，相比 A100 GPU，這套“相得益彰”的 L40S 系統(tǒng)能夠“增強(qiáng)生成式 AI、圖形和視頻處理能力，并滿足不斷增長的算力需求”。

IT之家經(jīng)過查詢得知，L40S GPU 是英偉達(dá)此前 L40 GPU 的升級(jí)版本，配備 48GB GDDR6 ECC 顯存，該 GPU 基于 Ada Lovelace 架構(gòu)，搭載第四代 Tensor Core 和 FP8 轉(zhuǎn)換引擎，運(yùn)算速度是上一代的 5 倍。但依然不支持 NVLink。

英偉達(dá)聲稱，L40S 的生成式 AI 推理性能比 A100 高 1.2 倍，訓(xùn)練性能高 1.7 倍，英偉達(dá)表示，對(duì)于“具有數(shù)十億個(gè)參數(shù)和多種數(shù)據(jù)模式的復(fù)雜 AI 工作而言”，L40S 的效能更加突出。

英偉達(dá)表示，英偉達(dá) L40S GPU 將在今年秋季上市，每臺(tái)英偉達(dá) OVX 服務(wù)器系統(tǒng)最多可搭載 8 個(gè) L40S 加速卡，不過英偉達(dá)并沒有透露該 GPU 的定價(jià).

英偉達(dá)同時(shí)表示，華碩、戴爾、技嘉、HPE、聯(lián)想、QCT 和美超微等廠商，將“很快推出”搭載 L40S GPU 的 OVX 服務(wù)器系統(tǒng)。