Infrastructure: Netflix 建立知識圖譜整合營運資料支援 AI 代理與系統觀測
文章摘要
Netflix 正開發一套基於本體論的知識圖譜,旨在整合分散於不同系統的應用程式、事故與基礎設施關聯資訊,解決工程師處理異常時需耗時四小時手動拼湊資料的問題。Netflix 目前每日處理超過 20 億次請求,並以每秒超過 3,800 萬次的速度進行即時日誌記錄,面對如此龐大規模,其 Observability Ontology 透過 RDF、OWL 等標準建立共同模型,並存儲於基於 Rust 的 QuipuDB 資料庫中。該系統利用稱為「enrichers」的組件,結合確定性規則與大型語言模型,將各類營運訊號轉換為結構化關聯,並將事件討論內容納入知識庫。透過此架構,Netflix 的自動根因分析系統(AutoRCA)能讓不同 AI 代理在分析日誌或追蹤資料時,透過統一接口進行資訊交換,進而支援未來的自我修復基礎設施目標。此知識圖譜核心在於連結部署、實驗、服務相依性等多種訊號,以縮短異常調查所需的決策過程。
AI 大叔解析
【核心判斷】
Netflix 這項架構的核心改變,在於承認光靠丟海量日誌給 AI 根本抓不到問題,必須回頭用嚴謹的語意結構給大模型戴上「緊箍咒」。面對每日超過 20 億次請求、每秒逾 3,800 萬次即時日誌記錄的龐大規模,工程師過去查一次效能倒退常得耗費約四小時手動拼湊上下游關係。Netflix 選擇以 RDF、OWL、SHACL 與 SPARQL 等既有標準建立 Observability Ontology,並將資料存入以 Rust 嵌入式資料庫 redb 為底層的 QuipuDB 分布式圖資料庫,本質上是將混亂的維運訊號強迫收斂成確定性的三元組(主詞-述詞-受詞),以此為 AI 代理人提供共通的語意界面。
【毒舌吐槽】
這年頭大家都迷信用 LLM 施展通靈魔法,以為維運機器人能自動找出事故根因,結果往往只是讓工程師看著幻覺產生的除錯建議直搖頭。Netflix 繞了一大圈,最後還是回過頭去翻二十多年前的語意網(Semantic Web)老古董。這巴掌打得極響:當你的基礎設施撐過 2024 年 11 月拳賽時約 6,500 萬人同時在線觀看的超大流量時,如果沒有透過 enrichment 元件以嚴格的 URI 命名規則、軟體目錄檢查與 SHACL 約束,任何頂尖的 AI 代理丟進去分析,都只會在十三種營運訊號裡迷航,把維運事故變成高單價的文字猜謎。
【為什麼重要?】
這套架構最重要的系統價值,是解決了大型分散式系統中「事故知識隨著通訊軟體關閉而蒸發」的長年痛點。其 correlation engine 能同時掃描日誌錯誤、指標異常、追蹤(traces)、警報、事故、部署、設定變更、實驗與程式碼變更等 13 類訊號,並把人為排除故障時的假設、被否決的推論與緩解決策全部轉化為知識圖譜節點。這種「觀察、豐富、推論、適應」的飛輪,讓內部的 AutoRCA 系統得以運作——專門分析 traces 或 logs 的特化 AI 代理人,不再需要了解彼此底層實作,而是透過統一本體論交換具備時間鄰近性與嚴重度權重的結構化證據。
相較於 Datadog、Dynatrace 或 Splunk 等現成平台側重於訊號層級的關聯與 AI 調查,Netflix 的取捨是選擇自行維護高維度的語意實體模型。這使他們能在保留人類最終審批權(human-in-the-loop)的前提下產出具備證據排名的假說,甚至替未來的自我修復基礎設施鋪路;然而,代價就是必須承擔將事件討論等非結構化文字透過 LLM 轉譯成精確 RDF 三元組時的驗證成本,以及跨系統資料本體論維護的工程負擔。
【影響對象與建議】
- **SRE 與平台工程主管**:別急著採購號稱全自動的維運 AI 工具。應先盤點內部統整部署、實驗與依賴關係的軟體目錄,將事故通訊記錄結構化,先有清晰的架構相依關係,演算法推論才有實質意義。
- **維運監控系統架構師**:評估多代理人除錯架構時,避免直接讓 AI 交換自由文字。應參考以 RDF/SHACL 概念建立統一通訊規格,透過確定性規則驗證輸出,防止代理人之間產生資訊幻覺。
Netflix 這項架構的核心改變,在於承認光靠丟海量日誌給 AI 根本抓不到問題,必須回頭用嚴謹的語意結構給大模型戴上「緊箍咒」。面對每日超過 20 億次請求、每秒逾 3,800 萬次即時日誌記錄的龐大規模,工程師過去查一次效能倒退常得耗費約四小時手動拼湊上下游關係。Netflix 選擇以 RDF、OWL、SHACL 與 SPARQL 等既有標準建立 Observability Ontology,並將資料存入以 Rust 嵌入式資料庫 redb 為底層的 QuipuDB 分布式圖資料庫,本質上是將混亂的維運訊號強迫收斂成確定性的三元組(主詞-述詞-受詞),以此為 AI 代理人提供共通的語意界面。
【毒舌吐槽】
這年頭大家都迷信用 LLM 施展通靈魔法,以為維運機器人能自動找出事故根因,結果往往只是讓工程師看著幻覺產生的除錯建議直搖頭。Netflix 繞了一大圈,最後還是回過頭去翻二十多年前的語意網(Semantic Web)老古董。這巴掌打得極響:當你的基礎設施撐過 2024 年 11 月拳賽時約 6,500 萬人同時在線觀看的超大流量時,如果沒有透過 enrichment 元件以嚴格的 URI 命名規則、軟體目錄檢查與 SHACL 約束,任何頂尖的 AI 代理丟進去分析,都只會在十三種營運訊號裡迷航,把維運事故變成高單價的文字猜謎。
【為什麼重要?】
這套架構最重要的系統價值,是解決了大型分散式系統中「事故知識隨著通訊軟體關閉而蒸發」的長年痛點。其 correlation engine 能同時掃描日誌錯誤、指標異常、追蹤(traces)、警報、事故、部署、設定變更、實驗與程式碼變更等 13 類訊號,並把人為排除故障時的假設、被否決的推論與緩解決策全部轉化為知識圖譜節點。這種「觀察、豐富、推論、適應」的飛輪,讓內部的 AutoRCA 系統得以運作——專門分析 traces 或 logs 的特化 AI 代理人,不再需要了解彼此底層實作,而是透過統一本體論交換具備時間鄰近性與嚴重度權重的結構化證據。
相較於 Datadog、Dynatrace 或 Splunk 等現成平台側重於訊號層級的關聯與 AI 調查,Netflix 的取捨是選擇自行維護高維度的語意實體模型。這使他們能在保留人類最終審批權(human-in-the-loop)的前提下產出具備證據排名的假說,甚至替未來的自我修復基礎設施鋪路;然而,代價就是必須承擔將事件討論等非結構化文字透過 LLM 轉譯成精確 RDF 三元組時的驗證成本,以及跨系統資料本體論維護的工程負擔。
【影響對象與建議】
- **SRE 與平台工程主管**:別急著採購號稱全自動的維運 AI 工具。應先盤點內部統整部署、實驗與依賴關係的軟體目錄,將事故通訊記錄結構化,先有清晰的架構相依關係,演算法推論才有實質意義。
- **維運監控系統架構師**:評估多代理人除錯架構時,避免直接讓 AI 交換自由文字。應參考以 RDF/SHACL 概念建立統一通訊規格,透過確定性規則驗證輸出,防止代理人之間產生資訊幻覺。