Manifold Security发布了Manifest,这是一个供应链情报平台,旨在映射和分析AI代理组件如何相互交互以及与外部系统交互。该平台帮助企业理解代理行为背后的依赖关系,包括与外部服务的连接——这是公司匆忙在生产环境中部署自主代理时的关键盲点。
这解决了一个一直在暗流涌动的真实问题。随着AI代理变得更加复杂并开始调用API、访问数据库以及与第三方服务集成,传统安全模型就崩溃了。当你的代理可能根据用户提示动态连接到几十个外部服务时,你不能仅仅扫描一个Docker容器就称其为安全。当代理开始自主决定使用什么工具时,供应链攻击面就会爆炸性增长。
这个时机与围绕代理安全的更广泛基础设施努力保持一致。像nono(来自Sigstore创建者)这样的项目正在为AI代理专门构建基于能力的沙箱,而OWASP的GenAI Security Project正在扩展代理AI安全框架。这些不是孤立的努力——它们是对同一个根本挑战的回应:当你的"应用程序"可以重写自己并调用任意外部服务时,传统应用程序安全就不起作用了。
对于构建代理系统的开发者来说,这意味着安全不能再是事后考虑了。如果你正在将代理集成到生产工作流中,你需要了解它们实际连接到什么以及何时连接。另一种选择是在你的基础设施中部署黑盒并祈祷最好的结果——这正是供应链攻击成功的原因。
