日前,Meta大模型團隊人員流失大半問題引發熱議。據統計,今年2月發表Llama最初研究論文的14位作者中,已有超半數離開了Meta;2022年5月發布的OPT論文的19位作者中,也有大約一半選擇了離開。究其原因,是算力資源短缺導致內斗,繼而造成了人才的大量出走。
據了解,2013年成立的FAIR(Facebook AI Research)曾是Meta AI方面負責研究的核心,Llama由FAIR位于巴黎的團隊負責,OPT則是由FAIR位于美國的團隊負責。
由于沒有盡快采購英偉達的GPU芯片等原因,導致Meta算力不足。基礎AI研究負責人Joelle Pineau坦誠,Llama和OPT團隊在算力分配的問題上“有些緊張”。這一情況下,雖然Meta加大了對生成式AI的關注,但投入相對有限,Meta的CFO Susan Li也表示,“基本上所有的AI算力都投向了廣告、信息流和短視頻項目”。
算力的短缺成為兩個團隊內斗的根源,并且,因為算力資源分配低于北美的OPT團隊,Llama的研究人員因此感覺自己被Meta所冷落,這導致兩個團隊內斗加劇,人員開始不斷離開。
今年2月,Llama正式發布一周前,FAIR的聯合負責人兼巴黎分部負責人Antoine Bordes離開了Meta。三個月后,Llama論文作者兼FAIR研究總監Armand Joulin也選擇離職,加入了蘋果。另外兩名作者Timothée Lacroix和Guillaume Lample則于6月,在法國共同創立了初創公司MistralAI,還邀請了另一名作者Marie-Anne Lachaux加入。
OPT同樣如此,據報道,Meta放棄了OPT團隊想要研發的更大規模的模型,直接導致了OPT大量人員的離職。
最終,這場內斗以兩個團隊的合并告終,FAIR領導人召集OPT團隊的部分成員,讓其加入Llama團隊,專注于模型二代的研發。
值得注意的是,Meta在AI領域依舊在加大投入,“內斗”或許也將持續。Llama研究團隊之外,Meta成立了一個專攻應用的生成式AI團隊。該團隊由蘋果前高管Ahmad Al-Dahle帶隊,已經吸引了多個FAIR研發人員的加入。