C114訊 4月10日消息 在企業級AI基礎設施市場上,英偉達毫無疑問占據了先發優勢,但英特爾在奮起直追。
北京時間4月9日晚間,英特爾Vision大會召開。英特爾重磅發布了英特爾至強6處理器的全新品牌,推出英特爾Gaudi 3加速器,以高性能、開放性和靈活性助力企業推進生成式AI創新,并發布了涵蓋全新開放、可擴展系統,下一代產品和一系列戰略合作的全棧解決方案,以加速生成式AI落地。
其中,英特爾Gaudi 3加速器將會是英特爾對抗英偉達的利器。英特爾CEO基辛格也對此寄予厚望。企業希望將生成式AI從試驗階段擴展到應用階段。因此,他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經濟實用、節能的處理器所打造的可快速部署的解決方案。并且,Gaudi 3還能滿足復雜性、成本效益、碎片化、數據可靠性和合規性等需求。
英特爾表示,英特爾Gaudi 3 AI加速器將為AI系統提供動力,該AI系統可通過以太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升。該加速器將為尋求大規模部署生成式AI的企業帶來AI訓練和推理方面的重大飛躍。
英特爾Gaudi 3預計可大幅縮短70億和130億參數Llama2模型,以及1750億參數GPT-3模型的訓練時間。此外,在Llama 7B、70B和Falcon 180B大型語言模型(LLM)的推理吞吐量和能效方面也展現了出色性能。英特爾Gaudi 3加速器提供開放的、基于社區的軟件和行業標準以太網網絡,允許企業靈活地從單個節點擴展到擁有數千個節點的集群、超級集群和超大集群,支持大規模的推理、微調和訓練。
對于Gaudi 3 芯片,英特爾在此前的新聞通氣會上稱該產品的能效是英偉達芯片的兩倍多,運行 AI 模型的速度是英偉達 H100 GPU芯片的1.5倍。
Gaudi系列是英特爾在2022年5月面向人工智能應用場景專門推出的芯片品牌,用以對標英偉達的人工智能計算芯片。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨,包括戴爾、惠普和超微電腦在內的公司將使用該芯片。