ChatGPT的橫空出世極大地激發(fā)了業(yè)界對(duì)于生成式AI的興趣，很多企業(yè)已經(jīng)開啟了AI程序的研發(fā)應(yīng)用之旅，創(chuàng)新步伐不斷加快。而過去30多年來，開源技術(shù)快速創(chuàng)新，大幅降低了IT成本和創(chuàng)新門檻，成為IT企業(yè)的共同選擇。那么，當(dāng)全新的大模型遇到成熟的開源技術(shù)，將產(chǎn)生怎樣的變革？

從21世紀(jì)初通過RHEL提供開放式企業(yè)Linux平臺(tái)，到通過OpenShift推動(dòng)容器和Kubernetes成為開放式混合云和云原生計(jì)算的基礎(chǔ)，紅帽一直引領(lǐng)著開源潮流。近期，紅帽宣布兩大進(jìn)展：推出紅帽企業(yè)Linux AI（RHEL AI），在OpenShift AI中引入新的增強(qiáng)功能，實(shí)現(xiàn)Linux、OpenShift、RHEL與AI和大模型的更好融合。

通過RHEL AI推動(dòng)開源生成式AI創(chuàng)新普及

紅帽企業(yè)Linux AI（RHEL AI）是一個(gè)基礎(chǔ)模型平臺(tái)，能夠使用戶更加便捷地開發(fā)、測(cè)試和部署生成式人工智能（GenAI）模型。RHEL AI整合了IBM研究院的開源授權(quán)Granite大型語言模型（LLM）系列、基于大規(guī)模對(duì)話機(jī)器人對(duì)齊（LAB）方法的InstructLab模型對(duì)齊工具，以及通過InstructLab項(xiàng)目實(shí)施的社區(qū)驅(qū)動(dòng)模型開發(fā)方法。該解決方案被封裝成一個(gè)優(yōu)化的、可啟動(dòng)的RHEL鏡像，用于在混合云環(huán)境中部署單個(gè)服務(wù)器，并已集成到OpenShift AI中。

紅帽認(rèn)為，實(shí)施AI策略遠(yuǎn)非選擇一個(gè)模型那么簡(jiǎn)單。企業(yè)需要專業(yè)知識(shí)來為特定場(chǎng)景調(diào)整適當(dāng)?shù)哪Ｐ停⑶姨幚鞟I實(shí)施過程中的成本難題。為了降低AI創(chuàng)新的進(jìn)入門檻，企業(yè)需要擴(kuò)大參與AI項(xiàng)目的人員范圍，同時(shí)控制相關(guān)成本。

IBM研究院開發(fā)了LAB技術(shù)，這是一種利用分類指導(dǎo)合成數(shù)據(jù)生成和創(chuàng)新的多階段調(diào)整框架的模型對(duì)齊方法。此方法通過減少對(duì)昂貴人工注釋和專有模型的依賴，使AI模型的開發(fā)變得更加開放和易于接觸。在AI突飛猛進(jìn)的當(dāng)下，紅帽當(dāng)機(jī)立斷，決定采用IBM的LAB。

紅帽總裁兼CEO Matt Hicks回憶，在IBM研究院的一次會(huì)議上，IBM介紹了LAB等新技術(shù)——LAB是一種應(yīng)對(duì)客戶在微調(diào)過程中遇到挑戰(zhàn)的方法，使用合成數(shù)據(jù)增強(qiáng)技術(shù)，使得數(shù)據(jù)塊足夠小、便于協(xié)作。這一技術(shù)給Matt Hicks留下了深刻印象，他迅速意識(shí)到紅帽可以圍繞LAB建立一個(gè)社區(qū)，將全球創(chuàng)新帶入大量數(shù)據(jù)聚集的領(lǐng)域。

雙方一拍即合，IBM和紅帽決定推出InstructLab開源社區(qū)，目標(biāo)是使開發(fā)者通過簡(jiǎn)化LLM的創(chuàng)建、構(gòu)建和貢獻(xiàn)過程，像參與任何其他開源項(xiàng)目一樣，將LLM開發(fā)的權(quán)力交到開發(fā)者手中。

RHEL AI沿用開放式AI創(chuàng)新方法，融合了企業(yè)級(jí)就緒的InstructLab項(xiàng)目和Granite語言與代碼模型，及全球領(lǐng)先的企業(yè)級(jí)Linux平臺(tái)，簡(jiǎn)化了混合基礎(chǔ)設(shè)施環(huán)境中的部署，所構(gòu)建的基礎(chǔ)模型平臺(tái)，使開源許可的生成式AI模型能夠被企業(yè)所使用。

隨著各組織在RHEL AI上試驗(yàn)和調(diào)整新AI模型，他們可以通過紅帽O(jiān)penShift AI來擴(kuò)展工作流，OpenShift AI將包含RHEL AI，并利用OpenShift的Kubernetes引擎在大規(guī)模訓(xùn)練和部署AI模型，以及OpenShift AI的集成MLOps能力來管理模型的生命周期。RHEL AI一旦在OpenShift AI中可用，將帶來額外的企業(yè)AI開發(fā)、數(shù)據(jù)管理、模型治理和性價(jià)比改進(jìn)的能力。

“對(duì)企業(yè)來說，生成式AI代表了一次革命性的飛躍，但這需要企業(yè)真正部署起來，并針對(duì)其具體業(yè)務(wù)需求使用AI模型。通過結(jié)合紅帽O(jiān)penShift AI的廣泛應(yīng)用，RHEL AI和InstructLab項(xiàng)目旨在降低混合云中生成式AI所面臨的多種挑戰(zhàn)，從數(shù)據(jù)科學(xué)技能的限制到巨大的資源需求，同時(shí)促進(jìn)企業(yè)的部署并推動(dòng)上游社區(qū)的創(chuàng)新。”紅帽高級(jí)副總裁兼首席產(chǎn)品官Ashesh Badani總結(jié)。

OpenShift AI增強(qiáng)混合云中預(yù)測(cè)和生成式AI靈活性

紅帽O(jiān)penShift AI是基于紅帽O(jiān)penShift構(gòu)建的開放式混合人工智能和機(jī)器學(xué)習(xí)平臺(tái)，幫助企業(yè)在混合云環(huán)境中大規(guī)模創(chuàng)建并交付人工智能支持的應(yīng)用。

紅帽的人工智能戰(zhàn)略支持跨混合云環(huán)境的靈活性，能夠提供基于客戶數(shù)據(jù)增強(qiáng)預(yù)先訓(xùn)練或策劃的基礎(chǔ)模型，并且可以自由地啟用多種硬件和軟件加速器。紅帽O(jiān)penShift AI引入了新的增強(qiáng)功能，以滿足這些需求，包括獲取最新的AI/ML創(chuàng)新和以人工智能為中心的龐大合作伙伴生態(tài)系統(tǒng)的支持。該平臺(tái)的最新版本OpenShift AI 2.9，提供了邊緣模型服務(wù)、增強(qiáng)型模型服務(wù)、采用Ray支持分布式工作負(fù)載、改進(jìn)模型開發(fā)、模型監(jiān)控和可視化、新的加速器配置文件等。

在人工智能模型從實(shí)驗(yàn)階段轉(zhuǎn)向投產(chǎn)階段的過程中，客戶面臨著諸多挑戰(zhàn)，包括硬件成本增加、數(shù)據(jù)隱私問題以及在與基于SaaS的模型共享數(shù)據(jù)時(shí)缺乏信任。生成式人工智能（GenAI）的快速變化加劇了這些挑戰(zhàn)，許多企業(yè)都在積極努力構(gòu)建可靠的核心人工智能平臺(tái)，使其能夠在本地或云端運(yùn)行。

IDC的《數(shù)字基礎(chǔ)架構(gòu)的未來，2024年：AI就緒性平臺(tái)、運(yùn)營模式和治理調(diào)查》指出，要想成功利用人工智能，企業(yè)需要對(duì)許多現(xiàn)有應(yīng)用和數(shù)據(jù)環(huán)境進(jìn)行現(xiàn)代化改造，消除現(xiàn)有系統(tǒng)和存儲(chǔ)平臺(tái)之間的障礙，提高基礎(chǔ)架構(gòu)的可持續(xù)性，并在云端、數(shù)據(jù)中心和邊緣之間謹(jǐn)慎選擇部署不同工作負(fù)載的位置。對(duì)紅帽而言，這意味著人工智能平臺(tái)必須具備靈活性，以支持企業(yè)在采用人工智能的過程中適應(yīng)需求和資源的變化。

OpenShift AI的最新進(jìn)展彰顯了紅帽關(guān)于人工智能的愿景：從底層硬件到服務(wù)和工具，如Jupyter和PyTorch，紅帽為客戶提供全方位的支持，旨在加速創(chuàng)新、提高生產(chǎn)力。并通過這個(gè)更靈活、擴(kuò)展能力更強(qiáng)、適應(yīng)性更佳的開源平臺(tái)，幫助企業(yè)將人工智能應(yīng)用于日常業(yè)務(wù)運(yùn)營中。

“為了滿足大規(guī)模企業(yè)人工智能的需求，紅帽提供了紅帽O(jiān)penShift AI。這一解決方案使IT領(lǐng)導(dǎo)者能夠在混合云中的各種位置部署智能應(yīng)用，同時(shí)根據(jù)需求擴(kuò)展和微調(diào)運(yùn)營及模型，以支持實(shí)際生產(chǎn)應(yīng)用和服務(wù)的需求。”紅帽首席產(chǎn)品官兼高級(jí)副總裁Ashesh Badani表示。

因勢(shì)而動(dòng)，順勢(shì)而為，紅帽擁抱生成式AI

“過去一年人工智能提升了100倍甚至1000倍。回想一年前，這項(xiàng)技術(shù)已顯示出巨大潛力。那時(shí)像ChatGPT這樣的模型剛剛出現(xiàn)，已經(jīng)展示了語言模型在初期階段的強(qiáng)大能力。如今，進(jìn)步已經(jīng)顯而易見。”回憶這一年人工智能的發(fā)展，Matt Hicks表示。

作為掌舵人，Matt Hicks需要密切關(guān)注前沿技術(shù)、作出趨勢(shì)判斷，并據(jù)此制定紅帽發(fā)展戰(zhàn)略。“是否能夠充分發(fā)揮開源在這個(gè)領(lǐng)域的影響力，是我一直在思考的問題。”

Matt Hicks認(rèn)為，毫無疑問隨著模型變得越來越小，訓(xùn)練速度將越來越快，從而能夠更有效執(zhí)行更多功能。這種迅速演變的態(tài)勢(shì)將繼續(xù)加速，顯著影響公司的運(yùn)作方式和對(duì)新技術(shù)的適應(yīng)能力。經(jīng)過一年的發(fā)展，業(yè)界已經(jīng)超越了大模型的實(shí)驗(yàn)證明階段，催生了令人難以置信的創(chuàng)新。因此，紅帽的重點(diǎn)是走在曲線的前面，確保這些進(jìn)步能夠轉(zhuǎn)化為客戶的實(shí)際機(jī)會(huì)。“這讓我想起了20世紀(jì)90年代末對(duì)于Linux潛力的感受，那時(shí)候還只是起步階段，但直覺告訴你，波瀾壯闊的變革即將出現(xiàn)。”

在Matt Hicks看來，傳統(tǒng)IT技術(shù)與人工智能將產(chǎn)生很多交集。“能夠運(yùn)行一個(gè)已經(jīng)構(gòu)建好的模型是一回事，更為強(qiáng)大的是通過訓(xùn)練模型來定制自己的解決方案，接下來必須在實(shí)踐中加以應(yīng)用。”就RHEL和RHEL AI，以及OpenShift和OpenShift AI來看，其平行之處在于：RHEL用于運(yùn)行所有可以在Linux上運(yùn)行的應(yīng)用程序，而RHEL AI則用于運(yùn)行可以通過訓(xùn)練和定制的大型語言模型的AI部分；OpenShift用于管理可以在RHEL上以分布式方式跨集群運(yùn)行的所有應(yīng)用程序，而OpenShift AI則以相同的方式管理一系列模型，高效地分割訓(xùn)練、使用和提供服務(wù)。因?yàn)槿斯ぶ悄懿⒉皇枪铝⒋嬖诘模詡鹘y(tǒng)設(shè)置與人工智能應(yīng)用程序之間產(chǎn)生許多交叉鏈接和整合。

雖然紅帽將人工智能模型與Linux捆綁在一起，但在大模型主導(dǎo)的IT世界，Linux仍將繼續(xù)扮演至關(guān)重要的角色。“盡管我們使用Linux的方式正在演變，但支持大型語言模型操作的核心軟件堆棧，對(duì)Linux有著極大依賴。”Matt Hicks認(rèn)為，Linux優(yōu)化了這些軟件的整合和性能，并作為GPU、CPU和新興硬件類型之間的協(xié)調(diào)者。

AI的發(fā)展離不開云基礎(chǔ)設(shè)施，在對(duì)于云的選擇上，業(yè)界正在悄然轉(zhuǎn)變。很多客戶嘗試使用規(guī)模較小的模型進(jìn)行微調(diào)和訓(xùn)練，但成效往往不佳，因此他們轉(zhuǎn)而使用“全知模型”——通常在公共云中運(yùn)行，參數(shù)量超過1萬億。盡管這些模型開箱即用能完成許多任務(wù)，但運(yùn)行和訓(xùn)練成本非常高。當(dāng)受限于云環(huán)境時(shí)，很多場(chǎng)景難以應(yīng)對(duì)。例如，在筆記本電腦上運(yùn)行模型，而數(shù)據(jù)從未離開過筆記本電腦。因此紅帽認(rèn)為，無論在筆記本電腦、工廠邊緣還是汽車中，混合功能對(duì)于充分發(fā)揮AI潛力都是關(guān)鍵。

Matt Hicks最后表示，紅帽致力于支持小型開源模型混合部署，用戶可以在公共云或數(shù)據(jù)中心訓(xùn)練模型，并在邊緣部署。紅帽的平臺(tái)可支持NVIDIA、AMD和Intel等主要GPU提供商，提供從公共云到邊緣的運(yùn)行位置的靈活性。此外，紅帽在超越僅是Linux和虛擬化方面是獨(dú)一無二的。因勢(shì)而動(dòng)，順勢(shì)而為，紅帽始終堅(jiān)持在Linux和虛擬化等領(lǐng)域的優(yōu)勢(shì)，并將其擴(kuò)展到了中間件、虛擬化、OpenStack、容器和人工智能。“自我顛覆能力以及緊跟技術(shù)趨勢(shì)不斷前進(jìn)的能力使紅帽獨(dú)具特色，也使紅帽成為了有價(jià)值的合作伙伴。”Matt Hicks總結(jié)。