當(dāng)前，生成式AI(GAI)正以前所未有的速度發(fā)展，成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，也越來越多地為終端用戶多樣化、個性化的內(nèi)容創(chuàng)造打開新的可能。
前不久，聯(lián)發(fā)科宣布聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，共同推進(jìn)聯(lián)發(fā)科硬件平臺與飛槳和文心大模型適配。近期，聯(lián)發(fā)科還宣布運用Meta LIama 2大語言模型和聯(lián)發(fā)科先進(jìn)的AI處理器(APU)以及完整的AI開發(fā)平臺(NeuroPilot)，建立完整的終端側(cè)AI計算生態(tài)，賦能終端設(shè)備生成式AI應(yīng)用。
不難看到，聯(lián)發(fā)科大力投資AI技術(shù)與生態(tài)，推進(jìn)“端云融合”與終端側(cè)AI技術(shù)解決方案，為生成式AI市場探索更多發(fā)展路徑和動能，通過行業(yè)伙伴利用AI大模型賦能終端設(shè)備，讓更多的用戶享受到生成式AI帶來的全新體驗。
聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃
不久前，聯(lián)發(fā)科宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，雙方將共同推進(jìn) 聯(lián)發(fā)科硬件平臺與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設(shè)備上的執(zhí)行效果，將實現(xiàn)大模型在終端和云端的協(xié)同工作，為用戶帶來突破性的生成式 AI 應(yīng)用體驗。
作為推動 AI 進(jìn)一步發(fā)展的先進(jìn)技術(shù)，與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比，終端側(cè)部署生成式 AI 在節(jié)約服務(wù)器成本、保護(hù)用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面具備明顯優(yōu)勢。雙方的合作將支持基于 聯(lián)發(fā)科芯片的智能手機(jī)、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備上運行文心大模型，賦能終端設(shè)備提供更安全、可靠和差異化的使用體驗。
聯(lián)發(fā)科與百度合作已久，雙方合作完成了 Paddle Lite 輕量化推理引擎基于 MediaTek NeuroPilot 人工智能通用軟件平臺的適配。NeuroPilot 是 MediaTek 為開發(fā)者提供的基于本地端側(cè)的 AI 運算解決方案，它為內(nèi)建 CPU、GPU 和 APU(獨立AI 處理器)等異構(gòu)運算單元的 MediaTek SoC 平臺提供完整且強(qiáng)大的軟件解決方案。
聯(lián)發(fā)科無線通信事業(yè)部副總經(jīng)理李彥輯博士表示：“百度飛槳深度學(xué)習(xí)平臺和文心大模型在AI領(lǐng)域處于領(lǐng)先地位，我們雙方將聚焦 AI 大模型在終端側(cè)的部署，為用戶提供更安全可靠，更個人化，更低成本的端側(cè)生成式 AI 解決方案，賦予終端設(shè)備更強(qiáng)大的 AI 能力。MediaTek攜手百度飛槳和文心大模型，通過 AI 端云融合，將為廣大開發(fā)者和終端用戶帶來更多令人興奮的 AI 創(chuàng)新機(jī)遇和產(chǎn)品體驗。”
運用Meta Llama 2大語言模型賦能終端設(shè)備生成式AI應(yīng)用
近日，聯(lián)發(fā)科宣布利用 Meta 新一代開源大語言模型(LLM)Llama 2 以及聯(lián)發(fā)科先進(jìn)的 AI 處理器(APU)和完整的 AI 開發(fā)平臺(NeuroPilot)，建立完整的終端側(cè) AI 計算生態(tài)，加速智能手機(jī)、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的 AI 應(yīng)用開發(fā)，為終端設(shè)備提供更安全、可靠和差異化的使用體驗。
聯(lián)發(fā)科資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示：“生成式 AI 的日益普及是數(shù)字化轉(zhuǎn)型的重要趨勢之一，我們的愿景是為 Llama 2 的開發(fā)者和終端用戶提供工具，帶來更多令人興奮的 AI 創(chuàng)新機(jī)遇和產(chǎn)品體驗。通過與 Meta 的伙伴關(guān)系，MediaTek可提供更強(qiáng)大的硬件和軟件整體解決方案，為終端設(shè)備帶來遠(yuǎn)超以往的功能和體驗。”
要在終端設(shè)備上充分釋放生成式 AI 的潛力，設(shè)備制造商需采用高算力、低功耗的 AI 處理器(APU)，并通過更快、更可靠的網(wǎng)絡(luò)連接來增強(qiáng)設(shè)備的整體算力。如今，每一顆聯(lián)發(fā)科5G 智能手機(jī) SoC 均搭載 AI 處理器，已廣泛執(zhí)行生成式 AI 應(yīng)用成功案例，例如 AI 降噪(AI-NR)、AI 超級分辨率(AI-SR)以及 AI 運動補(bǔ)償(AI-MEMC)等。
MediaTek將于年末推出新一代旗艦移動芯片，將采用針對Llama 2模型而優(yōu)化的軟件棧(NeuroPilot)，與搭配支持Transformer模型做骨干網(wǎng)絡(luò)加速的升級版AI處理器(APU)，可減少動態(tài)隨機(jī)存取內(nèi)存(DRAM)的讀寫消耗和帶寬占用，進(jìn)一步強(qiáng)化大語言模型和生成式AI應(yīng)用的性能，助力開發(fā)者打造令人驚艷的AI應(yīng)用，加速終端設(shè)備AI應(yīng)用落地發(fā)展。
面向生成式AI技術(shù)和應(yīng)用浪潮，聯(lián)發(fā)科將持續(xù)投資技術(shù)并攜手行業(yè)伙伴，透過先進(jìn)科技和海量伙伴推動生成式AI在終端側(cè)的布局和發(fā)展，加速生成式AI市場的規(guī)模化發(fā)展，持續(xù)為智能手機(jī)、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備用戶帶來振奮人心的生成式AI應(yīng)用體驗。
