Meta 改用輕量化路由架構,將 AI Agents 拆分減輕負載以提升可靠度
文章摘要
Meta 改採輕量化路由架構,將數據欄位上線自動化系統拆分為 14 個專門 AI 代理與負責序列控制的協調器,解決單一代理因知識過載導致的幻覺與效能衰減問題。該系統運用「精簡協調器」模式,僅保留序列與可靠性檢查,將領域決策交由專門代理處理。協調器遵循固定的 7 步驟協議,僅第 6 步涉及 LLM 推理,且由載入特定領域知識的子代理執行。架構將「要做什麼」與「如何執行」分離,透過狀態機限制模型決策空間,並利用 25 個依領域組織的知識檔實現即時更新,無需變更核心程式碼。在彈性方面,支援透過新增 workflow 模板重新組合既有代理,無需重寫程式碼即可支援管線遷移。此架構不僅消除跨領域概念污染,也大幅提升處理效率,過往手動需耗時 3 至 4 天的設定工作,在原先配置驅動系統下需 1 天,改用此架構後流程更穩定。研究顯示,多代理系統在處理 80 項任務時準確率可達 65.3%,遠優於單一代理的 16.6%,且 token 用量最高可減少 65 倍。
AI 大叔解析
【核心判斷】
把「流程控制」與「領域推論」拆開,才是大模型落地能穩定的關鍵解法。Meta 用僅 1,300 行程式碼的「精簡協調器(thin orchestrator)」管理超過 20 個工作流程與 14 個專屬代理(subagents),證明了想靠單一全能模型硬塞全部 Context(上下文視窗,即模型一次能處理的文字量)來搞定跨系統工程,下場就是概念交叉污染與幻覺暴增。
【毒舌吐槽】
很多團隊以為 Context 開到極致就能搞定一切,結果只是讓模型淹死在自己的知識庫裡。Meta 測出單一代理在沒工程師手把手精調 Prompt(提示詞)時,成功率直接掉到 10%~20%,跟抽籤差不多;改用確定性的狀態機去限制模型發揮,只留 1 個步驟給 LLM,系統反而能跑順。這狠狠打臉了那種「只要模型夠聰明、Prompt 寫得好,就不需要軟體架構設計」的行銷幻覺。
【為什麼重要?】
這套架構讓自動化配置的時間直接從早期配置系統的一整天、手動設定的 3 至 4 天,大幅縮短到一小時以內,且有約三分之二的變更不需人工大幅介入修改。核心亮點在於協調器執行的 7 個固定步驟中,只有第 6 步才呼叫 LLM,其餘皆走確定性流程;搭配按需載入的 25 個以上領域知識檔,不僅新任務能靠現有 14 個代理重新排列組合,連跨系統管線遷移都不用重寫代理程式碼。
此外,該架構引用研究數據支撐其設計取捨:在 80 項批次任務中,多代理系統能維持 65.3%(held 65.3)的準確率,遠勝單一代理雪崩至 16.6%(to 16.6)的表現,Token(模型計算與文字處理單位)消耗量甚至降低高達 65 倍。把業務邊界直接切成計算邊界,讓模型只在封閉範圍內發揮,徹底解決了中心控制節點一旦胡言亂語就會拖垮整個下游系統的架構災難。
【影響對象與建議】
- AI 系統架構師:應立即廢棄「單一超大 Prompt 統包全局」的模式,將協調器降級為確定性狀態機,嚴格隔離不同領域的知識上下文。
- 企業平台維運主管:可將配置流程模組化,把知識抽離成獨立維護的外部檔案,降低日後維護成本與模型反覆部署的風險。
把「流程控制」與「領域推論」拆開,才是大模型落地能穩定的關鍵解法。Meta 用僅 1,300 行程式碼的「精簡協調器(thin orchestrator)」管理超過 20 個工作流程與 14 個專屬代理(subagents),證明了想靠單一全能模型硬塞全部 Context(上下文視窗,即模型一次能處理的文字量)來搞定跨系統工程,下場就是概念交叉污染與幻覺暴增。
【毒舌吐槽】
很多團隊以為 Context 開到極致就能搞定一切,結果只是讓模型淹死在自己的知識庫裡。Meta 測出單一代理在沒工程師手把手精調 Prompt(提示詞)時,成功率直接掉到 10%~20%,跟抽籤差不多;改用確定性的狀態機去限制模型發揮,只留 1 個步驟給 LLM,系統反而能跑順。這狠狠打臉了那種「只要模型夠聰明、Prompt 寫得好,就不需要軟體架構設計」的行銷幻覺。
【為什麼重要?】
這套架構讓自動化配置的時間直接從早期配置系統的一整天、手動設定的 3 至 4 天,大幅縮短到一小時以內,且有約三分之二的變更不需人工大幅介入修改。核心亮點在於協調器執行的 7 個固定步驟中,只有第 6 步才呼叫 LLM,其餘皆走確定性流程;搭配按需載入的 25 個以上領域知識檔,不僅新任務能靠現有 14 個代理重新排列組合,連跨系統管線遷移都不用重寫代理程式碼。
此外,該架構引用研究數據支撐其設計取捨:在 80 項批次任務中,多代理系統能維持 65.3%(held 65.3)的準確率,遠勝單一代理雪崩至 16.6%(to 16.6)的表現,Token(模型計算與文字處理單位)消耗量甚至降低高達 65 倍。把業務邊界直接切成計算邊界,讓模型只在封閉範圍內發揮,徹底解決了中心控制節點一旦胡言亂語就會拖垮整個下游系統的架構災難。
【影響對象與建議】
- AI 系統架構師:應立即廢棄「單一超大 Prompt 統包全局」的模式,將協調器降級為確定性狀態機,嚴格隔離不同領域的知識上下文。
- 企業平台維運主管:可將配置流程模組化,把知識抽離成獨立維護的外部檔案,降低日後維護成本與模型反覆部署的風險。