5月15日,2024春季火山引擎 FORCE 原動力大會金融專場論壇在北京舉辦。會議聚焦大模型在金融行業的規模化應用,升級發布了火山引擎金融大模型解決方案服務體系,并分享了多個已落地的金融大模型應用場景。
堅持12字內核,做好新時代金融的數字原力
火山引擎金融行業總經理劉俊在致辭中表示,“一般認為,數字金融是金融機構適配數字經濟的金融創新,既包括自身的高質量數字化轉型,也包括高質量地服務好數字經濟發展。”
劉俊指出,過去四年,火山引擎為200余家金融機構提供了技術支持和創新解決方案,逐漸形成“行業-增長-云”的數字金融解決方案體系,即針對銀行、資管、保險、泛金融細分領域業務特點,打造行業場景方案;綜合運用內容、數據、算法、音視頻等數智技術,打造體驗創新和數據驅動的增長方案;以自主創新、云原生架構、開放解耦的敏捷底座,打造上云方案。
業界普遍認為,金融行業具備良好的數字化基礎,且高度依賴數據和技術,具備大模型落地的高潛場景。根據不同的服務對象,劉俊將火山引擎的金融大模型應用方案歸類為 BCDE 四大場景,即 Business 對公領域、Customer 對客領域、Developer 對開發者領域和 Employee 對企業管理者及員工領域。火山引擎正與金融機構共同探索“場景+模型+算力”的落地方式,推動大模型技術在金融行業的規?;瘧?。
劉俊表示,火山引擎將堅持“體驗創新、數據驅動、敏捷迭代”的12字價值內核,持續探索包括大模型在內的數字技術的創新發展和規?;瘧?,助力數字金融的高質量發展。
服務體系全面升級,提升大模型落地的價值獲得感
火山引擎金融行業解決方案負責人王建軍認為,緩解技術焦慮的最佳辦法是與業務應用找到結合。構建“以模型-應用-數據為核心、算力為支撐”的大模型飛輪將有助于大模型的規?;瘧茫茨P万寗语w輪啟動,并應用于業務場景,場景中產出新的數據并反哺模型迭代,三者相互作用,釋放效果增強的飛輪效應,底層則由穩定安全的算力平臺提供動力支撐。
王建軍分別從算力、模型、應用三個方面,介紹了升級后的火山引擎金融大模型解決方案服務體系。
算力:全新發布混合云 veStack 智算版,具有萬卡集群組網,3.2T 高性能無損網絡的超大規模優勢;端到端工程化所支撐的極致性能,能夠實現97.78%訓練加速比和分鐘級故障發現和自愈;擁有多元異構能力,可適配十余種 GPU,支持主流國產化 GPU。
模型:基于大模型服務平臺火山方舟構建“1+1+N”的模型生態。一方面,字節跳動自主研發的豆包大模型當天正式發布,并致力于成為更強性能、更低價格和更易落地的大模型。豆包大模型(原名:云雀)是首批通過大模型服務安全備案的大模型之一,當前日均處理1,200億 tokens 文本、生成3,000萬張圖片,支持內部50多個業務進行 AI 創新,其主力模型在企業市場的定價比行業便宜99.3%。另一方面,與合作伙伴聯合打造的“火山引擎-智譜 AI 金融行業大模型”,能夠滿足金融機構對安全和私有化部署要求更高的行業場景;此外,火山方舟也已接入多個行業主流大模型,幫助金融機構更加靈活地應對市場變化和業務需求。
應用:圍繞“BCDE”四大場景,火山引擎分享了展業助手、智能貸后管理、智能客服、智能體構建、代碼生成、ChatBI、員工服務等7個已與客戶共建的應用示例,并重點介紹了新一代 AI 應用開發平臺扣子以及企業專屬 AI 應用創新平臺 HiAgent,二者分別滿足企業不同部署環境下的低代碼智能體搭建需求。
王建軍認為,大模型的規模化應用,除了考驗模型能力,更考驗對業務的理解和整體工程化能力。目前,火山引擎已與招商銀行、華泰證券、海爾消金等多家金融機構達成大模型合作,未來將繼續以價值獲得感為核心,攜手金融機構 AI 創新。
金融大模型落地實踐及思考
國家金融與發展實驗室副主任楊濤認為,大模型在金融行業具有廣泛應用場景,但其合規應用需要直面諸多風險,應引導金融機構根據自身資源稟賦選擇差異化技術路線,避免“一哄而上”。
華泰證券信息技術部數據科學研發中心聯席負責人曾文秋分享了華泰證券構建平臺化、服務化的大模型能力體系的思考,以及在智能客服、研報撰寫及解讀等領域的應用經驗。曾文秋認為,大模型的價值是長期的,且規模化落地需要有組織和伙伴的保障。攜手像火山引擎這樣的合作伙伴,有利于金融機構專注自身業務創新,快速驗證技術價值。
海爾消費金融有限公司 CIO 梁樹峰認為,大模型技術將對消費信貸的業務流程、客戶服務、數字化運營和研發體系產生不同程度的影響,并計劃將大模型率先應用于坐席助手、分析助手、研發助手等場景,輔助工作人員更智慧地完成工作。他以坐席助手場景為例,介紹了在5分鐘通話時長下,大模型已可較準確地完成通話記錄的歸納摘要,顯著提升了坐席人員的產能。同時,他也指出了大模型在信息安全、技術代差、算力等方面的挑戰,并強調了與火山引擎合作的重要性。
隨后,行業嘉賓們共同探討了大模型時代的展望和思考。
會議最后,火山引擎為金融行業年度優秀合作伙伴頒發獎項,分別表彰他們在機構上云、數據驅動和智能應用等領域的杰出貢獻。
大模型技術的發展與革新,為數字金融注入了新的活力。火山引擎將繼續打磨算力、模型和場景的融合能力,以全棧 AI 服務推動大模型在金融機構的規?;涞睾蛢r值獲得感,助力金融機構智能化轉型。