據(jù)“CAICT人工智能”微信公眾號消息,由中國信息通信研究院(以下簡稱“中國信通院”)人工智能研究所及云計算與大數(shù)據(jù)研究所聯(lián)合牽頭的人工智能云平臺標準ITU-T F.AICP-RM “Technical specification for artificial intelligence cloud platform – Resource management"(人工智能云平臺技術規(guī)范-資源管理)成功立項。
該標準由之江實驗室聯(lián)合供稿,主要包含人工智能云平臺資源管理模塊的功能架構,以及資源管理、作業(yè)管理、調(diào)度管理、運維管理等的功能要求。
《大模型基礎設施算力調(diào)度技術要求》標準框架
隨著人工智能領域的持續(xù)發(fā)展,尤其是大模型技術的出現(xiàn)和廣泛應用,帶來了計算資源需求的巨大增長,亟需大模型基礎設施計算資源調(diào)度平臺的整體解決方案。相應解決方案一方面可以幫助企業(yè)建立統(tǒng)一的資源調(diào)度標準和流程,提高資源的利用率,降低資源浪費,從而提升整個大模型基礎設施計算平臺的性能和效率;另一方面可以促進企業(yè)對于計算、存儲、網(wǎng)絡等資源的統(tǒng)一管理和調(diào)度,使得資源的分配更加靈活和高效,有助于應對不同業(yè)務場景下的需求。
據(jù)了解,目前大模型基礎設施計算資源調(diào)度平臺仍處于發(fā)展初期,為了引導產(chǎn)業(yè)有序發(fā)展、規(guī)范行業(yè)自律,并為用戶提供選型參考,此前中國信通院已在中國通信標準化協(xié)會(CCSA)推動大模型基礎設施行業(yè)標準的立項工作,并依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)開展了《大模型基礎設施計算資源調(diào)度平臺技術要求》標準研制,未來將依托相關標準內(nèi)容向國際標準進行轉(zhuǎn)化。