Commvault推出了AI Protect，這是一個針對在AWS、Azure和Google Cloud環境中運行的AI代理的監控和回滾系統。該工具發現在企業基礎架構中運行的隱藏AI代理，追蹤它們的API呼叫和數據互動，然後為管理員提供在出現問題時完全逆轉代理驅動變更的能力。系統映射代理會話的「爆炸半徑」，將AI做出的變更與同一時間段內合法的人工操作隔離，防止大規模回滾破壞有效工作。

這解決了大多數企業假裝不存在的真正治理噩夢。AI代理表現出湧現行為——它們以未批准的方式將已批准的權限鏈接在一起來解決複雜問題。與可能在刪除生產資料庫前暫停的人類不同，代理基於其內部推理循環在毫秒內執行破壞性指令。傳統的靜態權限系統並非為每秒發出數千個API請求並可以動態重寫存取政策的軟體而設計。

Commvault並非唯一認識到這個問題的公司。Okta上個月推出了類似的代理發現和關閉功能，而Commvault引用的Deloitte研究顯示，60%的AI領導者將風險和合規視為代理採用的主要障礙。The Register的報導強調了這如何融入Commvault更廣泛的AI韌性策略，包括保護儲存支援LLM操作embeddings的向量資料庫。令人深思的是，Commvault的現場CTO特別提到企業「忽略了需要開始保護向量資料庫這一事實」。

對於已經在生產中運行代理的開發者來說，這是一個警鐘。影子AI部署無處不在，大多數公司對其代理實際在做什麼完全沒有可見性。回滾能力很有用，但真正的價值在於監控——終於在出現問題之前對代理行為有了監督。