Meta 推出 GenRecs Tokenization 技術,助廣告推薦系統精準預測新品表現

文章摘要

Meta 推出 GenRecs Tokenization 技術,改進廣告推薦系統從單純對比點擊模式,轉為利用大型語言模型架構深度理解廣告內容與用戶偏好。核心機制在於以結構化語意標記(Semantic Tokens)取代既有的獨立 ID,將廣告、產品與服務編碼為離散標記序列。此技術透過預先訓練的多模態模型,整合廣告圖文訊息與用戶互動數據,使系統能對未曾有過曝光紀錄的「冷啟動」新品進行精準預測,將新品內容與已知產品類別連結。例如,新款運動鞋能直接繼承模型對舊款產品的歷史學習經驗,解決過往無法處理無數據新品的問題。該架構包含三階段處理管道,並運用殘差分解、編碼器與向量碼本等技術進行參數化,適用於廣告檢索與排序。根據 2026 年 2 月內部數據,此方法提升了尾部廣告(Tail ads)的預測準確度,並在多個測試版本中驗證了語意指標與點擊率(CTR)預測的正相關性,有效強化廣告系統在大規模產品目錄下的泛化能力,實現跨實體的資訊遷移。

AI 大叔解析

### 【核心判斷】
Meta 廣告推薦系統終於不再死記個別商品編號,改用結構化語意標記(Semantic Tokens)讓零曝光的「冷啟動」新品能直接繼承舊款特徵。

過往推薦系統仰賴單一 ID 去對照歷史點擊,一旦遇到剛上架、缺乏互動數據的長尾廣告(Tail ads)往往形同盲猜。GenRecs 透過預訓練多模態模型讀取廣告圖文與互動訊號,利用殘差分解、編碼器與學習向量碼本(learned vector codebooks)等三階段處理管道,將廣告、粉專到追蹤代碼(pixels)量化為簡短的離散標記序列。根據 2026 年 2 月的內部數據,在測試的八個分詞器版本中,內在品質指標與點擊率(CTR)預測準確度呈現強正相關,使未經曝光的新款越野鞋得以直接共享上一季鞋款的語意表示。

### 【毒舌吐槽】

廣告界喊了多年的「冷啟動救星」,底層邏輯不過是把 LLM 切詞那一套搬來替商品打標籤,避免每次推新品系統都像失憶一樣從零學起。

最務實的取捨寫在最後:完全用文字展開的描述雖然語意最豐富,但廣告系統的推論延遲(latency)根本吃不下龐大的上下文窗口(context windows)。說到底,工程團隊還是得用壓縮後的標記混搭語意 ID,在 LLM 的推論深度與線上即時回應的物理限制之間走鋼索。

### 【為什麼重要?】
這項架構改進了推薦系統兩大核心關卡:檢索(Retrieval)與排序(Ranking)。系統在以共享 LLM 編碼器構建的雙塔架構(two-tower architecture)下,僅需傳統模型幾分之一的訓練資料量,即可達到先進的檢索品質,同時兼顧可服務性(servable)。

更深層的效益在於打破過往資料的馬太效應。當曝光次數極少的尾部廣告能藉由跨實體(cross-entity)資訊遷移被準確排序,連帶讓整體推薦系統的回流訓練資料變乾淨,進而推動整體預測品質的正向循環。

### 【影響對象與建議】
- **廣告投放與行銷主管**:新品上架時應提供更完整且具關聯性的圖文素材,有助多模態模型精準抽取語意標記,提早享受既有爆款累積的特徵紅利。
- **推薦系統架構師**:評估在巨量型錄場景導入向量碼本量化(vector codebook)技術,以離散標記取代龐大的 ID 嵌入層(Embedding tables),緩解冷啟動問題。

想更了解這個話題?