Microsoft 推出的 Guardian Agents 監控功能,以防 AI Agent 產生內部威脅

文章摘要

微軟於週一推出 Guardian Agents 安全功能,旨在防範企業內部部署的 AI Agent 產生潛在威脅。此功能隸屬於今年六月發布的 Project Perception 專案,該專案原針對外部攻擊設計,包含模擬駭客的紅隊、負責檢測漏洞的藍隊及修復系統的綠隊。鑒於現今 AI Agent 擁有存取敏感資料與執行關鍵任務的權限,微軟執行長納德拉與安全業務主管哈耶特警告,AI 模型即便非惡意,因其本質難以預測且無法主動遵循組織規範,仍可能構成內部風險。

為此,微軟強調企業必須實施由外部監控的獨立系統,將「智慧供應」與「決策授權」分離。除了 Guardian Agents,微軟也在 Microsoft Defender 中新增代理檢測功能,可辨識包括 Claude Code、Codex 與 OpenClaw 等逾 60 種進入工作場所的代理程式。此外,新機制能依據任務需求動態調整存取權限,若代理程式執行高風險決策,則須經由人類審核確認。此舉旨在透過獨立的安全審計機制,防止 AI 代理淪為企業內部的「不信任員工」。微軟亦已加入輝達的 Open Agent Safety Platform,與業界共同強化相關防禦標準。

AI 大叔解析

【核心判斷】
微軟將 AI Agent 的防禦邊界從防範外部駭客轉為防禦內部自家人,確立了「產出智慧」與「控管決策」必須拆分的架構原則。這項在 Project Perception 擴充的 Guardian Agents 功能,直接點破目前前沿模型本質具備不可預測性且缺乏組織判斷力,不能再以「供應商說安全就安全」的信任模式部署於關鍵業務。

【毒舌吐槽】
左手向企業推銷 OpenAI 與 Anthropic 的前沿代理工具,右手立刻拿出 Guardian Agents 與 Defender 警告大家這些模型不可信,這套「先賣武器、再賣防彈衣」的雲端防禦生意經玩得極為純熟;當系統給了 AI 代理存取敏感資料與工具的權限後,再來指派另一個代理盯著它動態要授權,完全暴露出企業為了自動化,正不斷在不可預測的黑盒子外層層疊加運算與維運負擔。

【為什麼重要?】
企業資安治理邏輯正在發生結構性轉移。過去防範外部威脅的紅藍綠隊架構,已不足以應對直接握有敏感資料與系統執行權限的合法代理;一旦具備自主行動力的工具失控,等同於權限過大的內部威脅。微軟將監控機制植入 Microsoft Defender,透過辨識進入工作場域的逾 60 種代理程式(例如 Claude Code、Codex 與 OpenClaw),並結合動態存取權限與高風險任務的人工審核(Human-in-the-loop),實質上把身分安全與存取控制(IAM)的防線推向了軟體內部自主運行的程式碼層級。

硬體與跨廠商聯盟的聯手則顯示這項防禦正走向實體隔離。微軟加入輝達獲得逾百家科技公司支援的 Open Agent Safety Platform,並在新發布、搭載輝達晶片的 Surface Laptop Ultra 中內建控制機制,意味著防範代理暴走已不再單靠軟體端監控,而是試圖透過硬體層級的強制中斷機制(Kill switch)來築起最後一道物理防線。

【影響對象與建議】
- 企業資安長與架構主管:立即盤點內部員工已引入的 AI 代理工具清單,針對握有資料存取權限的代理程式實施外部獨立審計,落實智慧供應與授權分離。
- 企業系統維運團隊:評估 Defender 或相關監控方案以掌握工作環境中運行的逾 60 種代理程式,對涉及核心資料與高風險執行的決策設定強制性的人工審核關卡。

想更了解這個話題?