
- Llama曾帶領開放模型浪潮,但Llama 4不僅實際表現未達預期,更因被懷疑作弊,令Meta一度錯失前沿競爭。
- Meta不缺資源,而是研究、基建與產品團隊各自爲政,導致模型設計及硬件採購等方面接連出錯。
- 不過,Meta積極進行内部重整和改革,似乎已初步見效。
早在2013年,科技巨頭已經開始重金押注人工智能。谷歌率先收購傑弗里・辛頓(Geoffrey Hinton)所創立的深度學習公司,將這位日後的圖靈獎得主招致麾下;2014年初,再斥資數億美元收購後來開發出AlphaGo,在圍棋棋盤上擊敗人類頂尖棋手的公司DeepMind。
Meta(當時的Facebook)亦不甘落後;在競購DeepMind失利後,朱克伯格轉為邀請另一位未來的圖靈獎得主楊立昆(Yann LeCun)加盟。楊立昆與辛頓、約書亞・本吉奧(Yoshua Bengio)並列深度學習「三巨頭」,在AI業界地位舉足輕重。收到Facebook的邀請後,他提出了三個頗為任性的條件:不離開紐約、不辭去紐約大學教職,以及研究必須保持開放,所有成果均要公開發表,代碼亦要開源。朱克伯格全部答應。
因此,Meta成為全球最早重注AI的科技巨頭之一。楊立昆其後為公司創立著名的FAIR實驗室(Fundamental AI Research),Meta漫長的AI征途亦由此展開。
圖一:2018年度圖靈獎的三位得主,一位曾在谷歌工作,另一位則曾加入Meta

此後10年,FAIR取得不俗的成績,所開發的深度學習框架PyTorch至今仍被全球研究人員及企業廣泛使用;在硬件上,Meta同樣十分捨得投入資金。到了2023年,Meta購入的英偉達H100 GPU比全球任何一家公司都多,甚至超越微軟;旗下平台亦坐擁逾30億日活躍用戶,每天產生海量數據。換言之,人才、數據、算力與資本,Meta幾乎一樣不缺。
然而,到了2025年,在大模型競賽中摔得最難看的偏偏是Meta。
Meta AI 的高光時刻:獲得業界正面反應
我們在〈Kimi K3引爆美國科技界內戰:開放模型之爭直達華府!〉提到,Meta曾是開放模型的領頭羊。
2023年2月,Meta發布首代Llama,以較少參數實現更佳效果。不到一星期,模型權重便流入4chan論壇,更引來美國參議員致函質詢。出人意料的是,業界反應卻相當正面,這場洩漏事故反而揭開大模型開放權重時代的序幕。
2024年,Llama 3接連推出多個版本,Meta更將405B旗艦版本形容為全球最強的開放模型之一,Llama系列亦走到最風光的時刻。
2025年1月底,朱克伯格豪言:「Llama 3的目標,是讓開源模型與閉源模型競爭;Llama 4的目標,則是領先。」三個月後,Llama 4的發布卻是一場滑鐵盧。
Llama 4公信力受損,令Meta跌出前沿之列
Llama 4發布當日,Meta高調宣傳Llama 4在LMArena排行榜名列前茅,成績僅次於Gemini 2.5 Pro。然而,開發者很快發現,公開版本的實際表現與榜單成績存在明顯落差。外界隨即質疑,Meta送測的是經過優化的實驗版本,與公開權重版本並不相同。Meta高層雖迅速否認作弊,但Llama的公信力已經受損。更重要的是,Llama 4未能在推理、編程及實際使用體驗上領先,令Meta一度跌出領先AI模型的核心競爭行列。
若Meta AI想成為成功的大模型公司,需要具備甚麼條件?
在領先的AI模型競爭中,並不能只單靠買入更多GPU或招募更多人才便能勝出。一間公司至少同時具備五項能力:
· 前沿研究:及早捕捉推理、模型架構及訓練方法的範式轉變
· 數據與訓練:把研究迅速轉化為可靠的訓練方法
· 算力與硬件:讓晶片、網絡、記憶體及數據中心圍繞大模型需要設計
· 產品與發布:快速把模型推出市場,取得用戶回饋並持續迭代
· 統一決策:讓研究、模型、基建與產品共同服務同一個目標
Meta AI組織結構複雜,犧牲整體能力,因而錯失領先地位
Meta開發AI並非缺少資源,而是缺乏一套能把資源整合成同高速運轉系統的能力。由於產品、模型與基建團隊各自為政,最終帶來災難性的後果。當時Meta的AI部門分為兩部分,但兩者互不相屬:
- FAIR:負責前沿研究,探索短期未必能夠落地及變現、但可能改變技術方向的課題
- GenAI部門:負責把技術轉化為產品(Llama模型、Meta AI助手)及相關算力基建
在理想情況下,FAIR負責探索新技術,產品團隊則將研究轉化為模型能力,再由用戶需求反過來推動研究。然而,FAIR長期以研究價值為先,首席科學家楊立昆(Yann LeCun)亦多次質疑大型語言模型是否通往人類級AI的正確方向,令Meta處境十分尷尬,同時研究團隊與負責Llama產品化的部門,在技術判斷及優先次序上逐漸分歧。
Meta於2024年1月重組AI團隊,希望能加快落地研究成果,並要求FAIR兩位負責人直接向首席產品匯報。重組團隊雖然拉近了研究與產品的距離,卻也令發布進度、短期功能及產品需求更主導技術路線,尚未成熟的前沿研究則更難進入核心路線圖。
Meta追求AI產品快速落地,因此Llama 4押注於多模態能力。對擁有智能眼鏡、社交平台及AI助手的Meta而言,AI模型應具備理解文字、圖像、語音及影片的能力;但當行業競爭轉向長思維鏈及推理能力,Meta卻未能及時重新配置研究、數據及後訓練資源。
事實上,Meta亦察覺到行業的轉變,FAIR早在OpenAI發布o1前已展開長思維鏈研究,卻未能把先進的成果迅速轉化為核心模型能力。隨着OpenAI以o1開啟推理競賽,緊接着DeepSeek憑推理模型挑戰Meta的開放模型地位,Meta最終錯失這個關鍵窗口,也失去開放模型的領先地位。
Meta不僅在長思維鏈及推理的大方向上押錯注,在具體模型架構上,亦為追求局部效率而犧牲了整體能力。
模型與訓練:局部效率犧牲整體能力
要理解Meta的技術取捨,只需要掌握一個概念:大模型會根據前文,不斷預測下一個token(代幣)。要猜得準,模型便要利用注意力機制,判斷前文的資訊相關性。
傳統的全局注意力讓每個位置都需要查看所有前文,理解最完整;但上下文愈長,計算及記憶體成本便急速上升。到了AI代理時代,模型一次可能讀取數十萬甚至上百萬個代幣,因此,架構設計的核心問題在於理解能力與成本之間取捨。
圖二:注意力機制讓模型回望前文,評估資訊與當前要生成的字相關性最高。

資料來源:奕豐金融編纂
分塊注意力:以較低成本換取更長的上下文
Llama 4為降低運算及記憶體成本,採用分塊注意力架構:模型並非每一層都查看完整上下文,而是大部分時間只處理附近的資訊。這項設計雖然提升效率,卻令模型處理長上下文時容易出現盲點,表現亦較不穩定。
Meta採用這套架構時,低估了分塊注意力的局限;加上當時缺乏完善的長上下文評測及測試基建,未能及早識別架構缺陷,直至訓練中後段才發現問題,修正空間已十分有限。
圖三:標準因果注意力與分塊注意力的分別

資料來源:SemiAnalysis及奕豐金融編纂
路由設計:先照顧GPU利用率,卻犧牲模型表現
現代大模型大多採用混合專家(MoE)架構,將不同代幣(token)分配給不同專家處理。業界較常見的是「代幣選專家」:每個代幣選擇最合適的專家,確保所有資訊均獲處理,但熱門專家容易過載,令GPU負載不均。
Meta在訓練Llama 4期間,一度改用「專家選代幣」,由專家主動挑選代幣,以平衡工作量及減少GPU閒置。代價是部分代幣可能無人處理,令模型遺漏重要資訊。
Meta其後發現問題,在訓練途中切回「代幣選專家」。然而,模型已按照原有路由方式完成大量訓練,中途改變機制等同於要求模型重新適應,擾亂原有訓練結果,最終拖累模型表現。
圖四:兩種MoE架構設計:「代幣選專家」確保每個代幣獲得處理;「專家選代幣」雖有助平衡負載,卻可能令部分token被遺忘。

資料來源:SemiAnalysis及奕豐金融編纂
Meta沒有把龐大數據轉化為優勢
Meta雖坐擁海量用戶與產品數據,但仍高度依賴公開網頁的數據,令大部分內容難以直接投入訓練。過程中須進行嚴格清洗,以免污染或重複樣本。
根據SemiAnalysis,Llama 4訓練期間自建網絡爬蟲以提取數據,但團隊在數據清洗上的工作未如理想,導致數據質素參差,拖累模型能力。
此外,與OpenAI、DeepSeek等領先實驗室不同,Meta亦未有善用YouTube等影音資料,進一步拉大數據配方差距。
硬件與基建:傳統業務變為包袱
除了模型架構設計上的一系列失誤,Meta在硬件決策上亦出現問題。
· Ariel:為推薦系統而設
進入Blackwell世代,英偉達的標準旗艦配置GB200 NVL72把72顆GPU集中在同一個機櫃,透過高速互連組成一個大型運算域,亦成為主要雲端服務商廣泛採用的方案。相反,Meta則選擇訂製Ariel機架。
Blackwell推出的時候,Meta工程團隊擔心其穩定性,同時希望提高CPU配比,以配合廣告推薦系統(RecSys)的需要,因此把72顆GPU分拆到兩個機櫃,再以跨櫃線纜連接。對推薦系統而言,這種取捨有邏輯;但對先進大模型訓練而言,交換器數量增加,以及網絡多一跳延遲,並沒有帶來同樣明顯的好處。根據SemiAnalysis估算,Ariel的總擁有成本較標準方案高約14%。
可見Meta的巨大組織架構導致不同部門在架構選擇上出現衝突,對大語言模型業務造成拖累。
圖五:標準 GB200 NVL72 與 Meta 訂製 Ariel 的區別:Ariel 沿用同一塊運算板,卻拔走一半的 GPU,再把 72 顆 GPU 分拆到兩個機櫃,交換器數量倍增、網絡多一跳延遲,總擁有成本高出 14%。

資料來源:SemiAnalysis及奕豐金融編纂
相關文章:<英偉達|從賣晶片到完整生態:英偉達下一輪增長引擎曝光>
· MI450X:採購框架是否已經改變?
Meta向AMD採購MI450X時亦提出類似要求:為配合RecSys對CPU及記憶體的較高需求,將運算晶片由八顆減至六顆,令理論算力下降約25%。
然而,即使少兩顆晶片節省的成本,在整機及機櫃層級來說根本是微不足道,但硬件配置對前沿大模型的訓練與推理來說不可接受。
Meta一再為遷就推薦系統而犧牲大模型的訓練和推理。
圖六:AMD MI450X標準版與Meta訂製版的區別:訂製版少了兩顆運算晶片與一顆I/O晶片,HBM4記憶體由12層堆疊減至八層,互連頻寬只有英偉達下一代Rubin 的一半。

資料來源: SemiAnalysis及奕豐金融編纂
Meta所擁有的最大優勢,為何反而成為負累?
Meta擁有世界級人才、海量數據、龐大資本及成熟基建,卻因組織龐大、業務繁多,不同部門往往各自為政。部門間因利益出現衝突,推薦系統與前沿大模型的硬件需求並不相同。前者重視CPU、記憶體、推理成本及長期穩定性,後者則更依賴高密度GPU、HBM容量及高速互連。若基建優先照顧既有業務,便可能沿用不利於大模型的設計;若全面轉向大模型,又會推高傳統業務成本,甚至打亂成熟的基建體系。Meta昔日建立的優勢,因而成為轉型時的負累。
事實上,谷歌亦同樣面對成熟企業的轉型難題。Google Brain與DeepMind曾孕育Transformer、AlphaGo等重要突破,但今日卻在模型方面相對落後,而且持續面對人才流失與架構調整。說明龐大的組織架構在如今的AI時代面臨挑戰。
OpenAI及Anthropic的處境則截然不同。公司的核心業務為發展大模型,一旦技術落後,整間公司在融資、客戶數量以致生存都會受到威脅。因此,它們更容易讓研究、數據、後訓練、算力及產品圍繞同一目標運作,並在技術路線轉變時迅速重新配置資源。
在AI時代,勝負並不只取決於誰擁有最多GPU、人才、數據或資本。科技史早已反覆證明,資源從來不是勝利的保證。谷歌與Meta當年也只是規模有限的新創團隊,卻憑藉更清晰的方向、更靈活的組織及更快的迭代,挑戰並超越昔日巨頭。
Meta AI的今生:改革開始見效,但考驗尚未結束?
朱克伯格顯然已意識到,Meta的問題不能單靠再買GPU或再招聘研究員解決,而是要重新搭建AI組織。過去一年,他重新進入「創業模式」,親自招募研究員,斥資143億美元取得Scale AI的49%股權,並把創辦人汪滔及部分團隊帶入Meta;最核心的前沿模型工作亦交由規模更小、權力更集中的團隊,試圖縮短研究、工程與最高決策層之間的距離。
改革已開始帶來正面效果。2026年中推出的Muse Spark系列較Llama 4明顯進步;Muse Spark 1.2在多項推理、科學及代理任務上重新接近前沿模型。證明Meta並未失去重返領先的能力。
圖七:Meta最新模型Muse Spark 1.2 可在前沿模型中佔有一席之地,但谷歌則相對落後

資料來源: Artificial Analysis
數據截至2026年8月11日
朱克伯格如何重組這套系統,讓Meta AI重返前沿?我們將在下篇拆解。








