Nvidia 發布 Nemotron 3.5 與 Bolt 開源模型,支援企業與邊緣運算 Agent

文章摘要

Nvidia 發布 Nemotron 3.5 Super VL 及 Bolt 系列開源模型,旨在支援企業級與邊緣運算的 AI Agent 應用。1200 億參數的 Super VL 專為企業設計,在指令遵循與工具使用上展現與前代相當的精準度,並能在文件智慧、財務會計、科學實驗、醫療保險理賠及安全防護等任務中,實現超越 Anthropic 與 OpenAI 競品的執行速度。目前 Skydance、EY、Salesforce 等企業已導入使用。

針對本地端 AI PC 與工作站需求,Nvidia 推出兩款輕量化 Bolt 模型,包含 740 億參數、主打多步驟推理與網頁瀏覽的 Bolt 74B-A9B,以及專攻對話功能的 E4B 模型。此系列旨在推動裝置端運算,解決隱私疑慮,讓使用者無需將數據傳輸至雲端即可執行任務。Super VL 與 Bolt 74B-A9B 現已開放,E4B 預計本月底推出。Nvidia 此舉意在協助企業建立可自行訓練且部署於自有基礎設施的開源架構,同時進攻消費級 AI 助理市場。然而,隨著科技大廠與新創紛紛投入 AI 模型開發,市場不僅限於 Nvidia 生態,亦有企業轉向採用 AWS Trainium 或 Cerebras 等替代方案。

AI 大叔解析

### 【核心判斷】
硬體霸主親自下場做開源模型,本質是為了替自家的伺服器與邊緣硬體鎖定出路。Nvidia 這次推出的 1,200 億參數 Nemotron 3.5 Super VL,在後訓練(post-trained)特定任務下號稱速度超越 Anthropic 與 OpenAI 競品(如 Opus 5、GPT 6.1 Sol 等);同時搭配針對 RTX Spark 與 DGX Spark 工作站推出的 Bolt 系列輕量化模型,主打多步驟推理與端點隱私,試圖在企業資料中心與邊緣 AI PC 兩端建立以自家運算架構為核心的代理人(Agent)防線。

### 【毒舌吐槽】
老黃這招「既賣鏟子又搶挖礦」的戲碼越演越純熟。檯面上的閉源巨頭既是客戶又是投資對象,但私底下大家都在搞自研晶片或找 AWS Trainium、Cerebras 當備胎。Nvidia 轉身就對企業端客戶遞出開源權重,甜言蜜語說「自己部署才安全」,實際上是算準了雲端大廠想跑票,不如直接把模型做成自家 GPU 和 Spark 晶片的專用誘餌。

### 【為什麼重要?】
這標誌著硬體供應商直接介入軟體分發層的策略深化。企業部署智慧代理人時,往往在「閉源 API 廠商綁定與隱私風險」與「開源模型難以落地」之間拉扯。Super VL 瞄準文件智慧、財會、科學實驗、保險理賠與資安防護等垂直工作,並獲得 EY、Salesforce、Crowdstrike 等企業導入,試圖證明 120B 的規模經過後訓練即可兼顧指令遵循與推論速度。

更深層的系統影響在於邊緣端的硬體佈局。藉由釋出 740 億參數的 Bolt 74B-A9B 以及月底接力發布的對話型 E4B,Nvidia 正聯手 Microsoft 與 Dell 等通路,試圖替 AI PC 與工作站硬體建立「不需要上雲就能跑網頁瀏覽與多步驟推理」的離線代理人典範,藉此防堵競品並創造終端換機需求。

### 【影響對象與建議】
- **企業系統架構師**:評估財務、理賠等高敏感度代理人系統時,可利用已開源的 Super VL 進行本地後訓練評估,驗證推論延遲與資料隱私是否優於商用閉源 API。
- **邊緣端與邊緣軟體開發者**:若正為 RTX Spark 或 DGX Spark 工作站開發離線代理人,建議先行測試已開放的 Bolt 74B-A9B 於多步驟工具呼叫的表現,並為月底推出的 E4B 保留對話模組介面。

### 【逆風觀點】
原文提及已有雲端實驗室與企業轉向採用 AWS Trainium 或 Cerebras 等替代晶片架構,甚至著手自研晶片。雖然 Nemotron 3.5 系列提供了開源權重誘因,但若替代硬體在總體持有成本(TCO)或專用加速上拉開差距,僅憑模型最佳化與生態系綁定,是否真能長期遏止企業硬體轉移潮,仍有待市場觀察。

想更了解這個話題?