Meta 推動 GEM 模型架構演進:統一廣告系統計算引擎與擴展規模

文章摘要

Meta 推動 GEM 推薦系統演進,由過往各平台獨立運作轉向單一中央模型架構。此架構能跨 Facebook、Instagram 及 Reels 等數十個介面整合數據,實現全漏斗優化。過去一年,GEM 已顯著提升廣告成效,達成整體轉換率成長 18.9%、點擊率(CTR)提升 12%,並在 Facebook、Instagram 及站外轉換分別提升 5.8%、4.1% 與 1.6% 的成效。

針對推薦系統規模化困境,Meta 開發名為 Kunlun 的 LLM 風格架構,結合 GPU 硬體優化,使模型複雜度較前代提升 2.5 倍,解決過去異質特徵難以擴展的問題。為處理大規模即時運算的高延遲限制,Meta 導入 LoopFM 後訓練技術與 Solaris 彈性預算運算,將模型內部記憶轉移至下游,在不增加運算成本與延遲下,使情報傳輸效率倍增。此變革支援全球每日 36 億用戶的龐大流量,透過單一引擎聯合預測點擊與轉換,有效將數據豐富任務的經驗轉移至數據稀疏的任務,解決各廣告目標獨立運作帶來的效能瓶頸。

AI 大叔解析

【核心判斷】
Meta 將過往割裂在各 App 的推薦系統整合為單一運算引擎,本質上是用大語言模型的長上下文架構來硬啃推薦系統最頭痛的異質特徵。2026 世代 GEM 透過 Kunlun 架構將模型複雜度推升至前代的 2.5 倍,並搭配低精度客製化核心與 5D 平行化技術,在數千顆 GPU 的叢集上把模型算力利用率(MFU)翻倍拉到 20–25%。這套打法證明了推薦系統只要能克服硬體匹配瓶頸,同樣能複製 LLM 堆算力換效果的擴展定律(Scaling Law)。

【毒舌吐槽】
大家都忙著在前端搞對話機器人吸引眼球,Meta 倒是很老實地把最貴的算力拿去算「你下一步會買什麼」。過去各個 App 各玩各的系統,現在直接搬出 Kunlun 硬推單一模型,甚至搬出 LoopFM 後訓練與 Solaris 彈性預算運算,把推論壓力丟給下游來省延遲。講白了,這不是什麼做功德的演算法大突破,而是典型的「只要點擊率能換成美金,工程師就能把數千張 GPU 榨出油來」的工程肌肉展示。

【為什麼重要?】
這項架構演進打破了推薦系統各目標獨立運作的結構性限制,讓單一中央模型得以支撐全球每日 36 億用戶的跨平台流量。在實際業務數字上,GEM 已經驗證了這套轉移學習機制的可行性:過去一年在 Meta 所有廣告介面帶來了 18.9%(delivered 18.9)的整體轉換成長與 12% 的點擊率提升;拆解到個別平台,Facebook 提升 5.8%(contributed 5.8)、Instagram 提升 4.1%,站外轉換也成長 1.6%(and 1.6)。

從系統工程角度來看,真正的瓶頸從來不是模型能做多大,而是能否在毫秒級的線上環境即時推論。傳統推薦系統受限於稀疏特徵與記憶體頻寬,GPU 運算單元大多在「發呆」,GEM 這次在訓練端透過 4 倍總 FLOPs 仍將 MFU 做到 20–25%,並利用 LoopFM 與知識蒸餾將上游記憶轉移至下游,使情報傳輸效率倍增且不增加額外延遲與運算成本。它成功把高頻次、資料豐富的點擊任務經驗,平移灌注給低頻次、資料稀疏的轉換任務,使全漏斗優化不再需要各維度系統疊床架屋。

【影響對象與建議】
- **廣告投放與數位行銷團隊**:應逐步捨棄針對 Facebook、Instagram 或 Reels 拆分預算與受眾的舊思維,轉向全漏斗整合投放,將機器學習特徵交由中央演算法跨平台配對。
- **大規模推薦系統架構師**:評估現有模型是否受限於特徵異質性而無法擴展;可借鏡其低精度特化核心與後訓練運算轉移機制,優先解決 Serving 端即時推論的延遲與成本限制。

想更了解這個話題?