11月10日,2023數字科技生態大會在廣州正式啟幕。會上,天翼云重磅發布一站式智算服務平臺“慧聚”,為加速大模型在行業的應用落地提供強勁動能。
在平臺層,“慧聚”平臺將大模型開發訓練過程中的關鍵流程、復雜技術和寶貴實踐經驗進行總結和抽取,構建出一站式全鏈路的大模型生產應用的流水線。在技術上,“慧聚”平臺成功突破了算子加速、模型并行、斷點續訓等技術難點,將高性能計算能力、分布式算力調度能力、訓練和推理多環節加速技術、高性能數據存儲技術進行封裝,穩定性、訓練推理速度等核心指標大幅提升。在功能上,“慧聚”平臺基于數據平臺、模型開發平臺、模型服務平臺和應用服務平臺四大平臺,提供數據準備、模型開發、任務管理、模型優化等多個產品功能模塊,每個功能模塊包含多級組件。功能與組件之間可以靈活組裝,幫助用戶打造針對不同場景的專屬工具集。
目前,天翼云已經為大模型開發者、大模型提供者、應用廠商、政府與科研機構、行業協會等合作伙伴提供多種生態模式支持。依托國云智算底座,發揮國云安全優勢,天翼云將與產業各方合作伙伴緊密協作,廣泛匯聚國內外AI芯片伙伴、各類通用大模型及行業大模型伙伴及廣大開發者,共建繁榮的大模型創新生態,攜手打造先進的智算生產力,全面賦能經濟社會的數字化和智能化。