Google 開源 ML Drift 引擎,加速跨裝置 GPU 執行 AI 推論

文章摘要

Google 已開源跨平台 GPU 運算引擎 ML Drift,作為 LiteRT 的核心加速組件,旨在簡化跨硬體裝置的 AI 推論複雜度。此引擎依循 Apache 2.0 授權,透過張量虛擬化統一著色器、支援五維張量與擴充自定義操作,並針對 Arm、Intel 及 Qualcomm 硬體進行優化。開發者可透過 Dawn 於 Windows 與 Linux 應用 WebGPU,macOS 則維持原生 Metal 支援。Google 宣布將停止更新 TensorFlow Lite 原生 GPU 代理,建議舊有模型遷移至此。實測數據顯示,以 Gemma 模型推論時記憶體開銷較 llama.cpp 與 MLX LM 低 12%;實際應用上,YouTube Shorts 分割特效延遲最高降低 40%,Google Photos 計算攝影流程提速至多兩秒,Adobe Lightroom 與 Photoshop 部分 AI 功能效能提升 30%,Snapchat 模型延遲亦降低 30%。儘管效能顯著,仍有開發者指出官方尚未提供與 Apple Core ML 於近期 iPhone 的詳細比較數據。開發者現可運用 LiteRT 進行應用開發,或利用底層 C++ API 建構自定義計算圖。

AI 大叔解析

### 【核心判斷】
Google 這次開源 ML Drift,本質上是用一套跨硬體著色器抽象層,正式拔掉舊版 TensorFlow Lite GPU delegate 的生命維持器。它把底層 OpenGL ES、OpenCL、Metal 與 WebGPU 封裝在 Apache 2.0 授權下,讓邊緣推論不必再針對不同晶片驅動重寫著色器(Shader)。但這份跨平台紅利的前提,是開發者必須全面配合轉向 LiteRT 執行環境。

### 【毒舌吐槽】
**#Ecosystem Shift**
這招就是標準的「先給蘿蔔再拆橋」。官方搬出 Gemma 記憶體開銷比 llama.cpp 與 MLX LM 低 12% 的亮眼數字,同時宣佈舊版 TFLite GPU 代理停止維護。說穿了,你想要拿到五維張量原生支援和統一著色器(Shader)的好處,就得乖乖把舊管線翻出來整改,否則未來在 Arm、Intel 或 Qualcomm 新晶片上遇到驅動問題,舊架構就只能自生自滅。

### 【為什麼重要?】
在跨平台推論的工程實務中,過去最痛苦的不是算力不夠,而是各家晶片驅動與記憶體排佈各自為政。ML Drift 透過張量虛擬化(Tensor Virtualization)將邏輯張量與物理記憶體配置解耦,解決了多維資料在不同硬體上搬移時嚴重的記憶體碎片化問題。桌面端藉由 Chromium 的 Dawn 實作 WebGPU,直接吃下 Windows 與 Linux,免去工程師直接對接 DirectX 或 Vulkan 的底層負擔,macOS 則續留原生 Metal 支援。

從商用數據來看,這種底層管線清理直接反映在端側效能:YouTube Shorts 的分割特效延遲降低最高達 40%、Google Photos 影像管線提速最多兩秒,而 Adobe Lightroom 與 Photoshop 的主體選取等功能效能亦提升 30%、Snapchat 則壓低了 30% 延遲以塞入更大的擴散模型(Diffusion Models)。這代表原本受限於延遲的端側互動式影像與邊緣生成功能,確實獲得了實質的硬體頻寬釋放。

### 【影響對象與建議】
- **邊緣端 AI / 系統工程師**
舊版 TFLite GPU 代理已停止更新,建議盤點既有專案並規劃遷移至 LiteRT;若需自訂運算子,可評估改用 ML Drift 的 C++ 底層 API 重建運算圖。

- **跨平台多媒體 App 開發團隊**
若在 Windows 與 Linux 有跨平台推論需求,可評估透過 Dawn 取代手動維護的圖形 API 後端,以降低著色器維護成本。

### 【逆風觀點】
雖然跨平台藍圖看似美好,但在封閉生態中它未必是最優解。誠如社群開發者所質疑,Google 並未公開 ML Drift 在近期 iPhone 上與 Apple 原生 Core ML 的延遲與記憶體對比數據。在 iOS 生態系中,繞過高度垂直整合的專屬加速框架,是否能在維持通用性的同時不犧牲極致效能,目前在原文數據中仍缺乏直接佐證。

想更了解這個話題?