Manifold Security發布了Manifest,這是一個供應鏈情報平台,旨在映射和分析AI代理組件如何相互交互以及與外部系統交互。該平台幫助企業理解代理行為背後的依賴關係,包括與外部服務的連接——這是公司急於在生產環境中部署自主代理時的關鍵盲點。

這解決了一個一直在檯面下醞釀的真實問題。隨著AI代理變得更加複雜並開始呼叫API、存取資料庫以及與第三方服務整合,傳統安全模型就崩潰了。當你的代理可能根據使用者提示動態連接到數十個外部服務時,你不能僅僅掃描一個Docker容器就稱其為安全。當代理開始自主決定使用什麼工具時,供應鏈攻擊面就會爆炸性增長。

這個時機與圍繞代理安全的更廣泛基礎設施努力保持一致。像nono(來自Sigstore創建者)這樣的專案正在為AI代理專門建構基於能力的沙箱,而OWASP的GenAI Security Project正在擴展代理AI安全框架。這些不是孤立的努力——它們是對同一個根本挑戰的回應:當你的「應用程式」可以重寫自己並呼叫任意外部服務時,傳統應用程式安全就不起作用了。

對於建構代理系統的開發者來說,這意味著安全不能再是事後考慮了。如果你正在將代理整合到生產工作流程中,你需要了解它們實際連接到什麼以及何時連接。另一種選擇是在你的基礎設施中部署黑盒並祈禱最好的結果——這正是供應鏈攻擊成功的原因。