NVIDIA近日宣布，全球領先的系統制造商將推出AI就緒型服務器，其支持同于今日發布的VMware Private AI Foundation with NVIDIA，幫助企業使用自有業務數據來定制和部署生成式AI應用。

NVIDIA AI就緒型服務器將采用NVIDIA?L40S GPU、NVIDIA BlueField?-3 DPU和NVIDIA AI Enterprise軟件使企業能夠微調生成式AI基礎模型并部署生成式AI應用，比如智能聊天機器人、搜索和摘要工具等。這些服務器還提供由NVIDIA加速的基礎設施和軟件，以支持VMware Private AI Foundation with NVIDIA。

作為全球領先的系統制造商的戴爾科技、慧與和聯想，將于年底前推出搭載NVIDIA L40S的服務器，以加速推進企業級AI的發展。

NVIDIA創始人兼首席執行官黃仁勛表示：“全新的計算時代已經來臨，各行各業的企業都在競相采用生成式AI。我們正在通過涵蓋全球頂尖軟件和系統合作伙伴的生態系統，將生成式AI帶給全球企業。”

對于將部署VMware Private AI Foundation with NVIDIA的企業來說，NVIDIA AI就緒型服務器是一個理想的平臺。

VMware首席執行官Raghu Raghuram表示："生成式AI正在大力推動數字化轉型進程，企業需要一種全面集成的解決方案，以更加安全地構建應用，從而推動業務發展。通過VMware、NVIDIA、以及我們服務器制造商合作伙伴的專業知識相結合，企業將能夠在確保數據隱私、安全和可控性的前提下開發和部署AI。

助推企業生成式AI轉型

各行各業正在競相將生成式AI用于藥物研發、零售產品描述、智能虛擬助手、制造模擬、欺詐檢測等各種用途，NVIDIA AI就緒型服務器將為這些行業提供全棧加速基礎設施和軟件。

這些服務器采用NVIDIA AI Enterprise，即NVIDIA AI平臺的操作系統。該軟件為100多個框架、預訓練模型、工具套件和軟件提供生產就緒型企業級支持和安全性，包括用于LLM的NVIDIA NeMo?、用于模擬的NVIDIA Modulus、用于數據科學的NVIDIA RAPIDS?和用于生產型AI的NVIDIA Triton?推理服務器。

專為處理包含數十億參數的復雜AI工作負載而打造的L40S GPU搭載第四代Tensor Core和FP8 Transformer引擎，可提供超1.45 PFLOPS的張量處理能力，其訓練性能是NVIDIA A100 Tensor Core GPU的1.7倍。

相較于NVIDIA A100 GPU，NVIDIA L40S可將智能聊天機器人、助手、搜索和摘要等生成式AI應用中的生成式AI推理性能提高1.2倍。

通過集成NVIDIA BlueField DPU，可加速、卸載和隔離巨大計算工作負載，其中包含虛擬化、網絡、存儲、安全，以及其他云原生AI服務，以進一步提高速度。

NVIDIA ConnectX?-7智能網卡提供先進的硬件卸載和超低延遲，可為數據密集型生成式AI工作負載提供同類領先的可擴展性能。

推動企業生成式AI部署的龐大生態系統

全球領先的計算機制造商正在構建NVIDIA AI就緒型服務器，包括戴爾PowerEdge R760xa、適用于VMware Private AI Foundation with NVIDIA的慧與ProLiant Gen11服務器以及聯想ThinkSystem SR675 V3。

戴爾科技主席兼首席執行官Michael Dell表示：“生成式AI是創新的‘催化劑’，將助力解決一些全球性的重大挑戰。而采用NVIDIA AI就緒型服務器的戴爾生成式AI解決方案將扮演至關重要的角色，即通過推動生產力水平實現前所未有的提升，并變革工業運營的方式，以加速人類的進程。”

慧與總裁兼首席執行官Antonio Neri表示：“生成式AI將推動企業生產力規模的全新擴展——從賦能聊天機器人和數字助理，到幫助設計和開發新的解決方案。我們很高興能繼續與NVIDIA密切合作，在一系列企業級調優和推理工作負載解決方案中采用NVIDIA的GPU和軟件，這將加速生成式AI的部署。”

聯想集團主席兼首席執行官楊元慶表示：“企業迫切希望采用生成式AI來推動智能化轉型。通過與NVIDIA和VMware合作，聯想正在進一步擴大自身在生成式AI領域的領先地位，并鞏固自身的獨特定位，即在客戶采用AI的旅程中為其提供幫助。”

供應情況

搭載L40S GPU和BlueField DPU的NVIDIA AI就緒型服務器將于年底前上市，云服務提供商預計將在未來幾個月提供實例。