根據Forcepoint首席資料策略長Ronan Murphy的說法，企業AI部署正在撞上一堵大多數組織都沒有準備好應對的根本性安全牆。隨著代理式AI在企業中規模化擴展，薄弱的資料分類和無管控的存取控制正在創造Murphy所描述的公司「距離災難只有一個prompt」的情況。核心問題不僅僅是關於AI模型安全——而是大多數企業依賴的底層資料基礎設施從未被設計來處理AI代理創建的複雜存取模式。
這直接連接到我在三月份寫的內容，當時企業身分系統開始在AI代理工作負載下出現故障。問題已經演變：不僅僅是認證在失效，而是整個資料治理層。當AI代理可能在單個請求中存取和綜合來自數十個資料源的資訊時，傳統的基於邊界的安全模型就會崩潰。Murphy關於「過度自信」團隊的觀點很中肯——許多組織在部署AI時沒有理解他們現有的資料分類系統無法處理這些工具所需要的細緻的存取決策。
特別令人擔憂的是，這種風險不是理論上的。與需要故意攻擊的傳統安全漏洞不同，AI驅動的資料暴露可能透過看似無害的prompt發生，意外暴露模型本不應該存取的敏感資訊。對於建構AI應用程式的開發者來說，這意味著資料治理不能是事後考慮——它需要從第一天就進行架構設計，明確界定你的AI可以存取哪些資料源的邊界，並對跨安全域的資訊綜合建立明確控制。