Menlo Security推出了其Browser Security Platform,针对CPO Ramin Farassat所称的"代理悖论" —— AI代理提供巨大的生产力收益,但运行速度打破了传统安全模型。该公司的Guardian Runtime将安全控制直接移入浏览器会话,代理通过"无头浏览器"与SaaS应用程序交互,因为API可用性有限。Farassat报告看到单个代理的流量在企业网络内一夜之间激增至10,000个。

这解决了一个真正的部署瓶颈。安全团队正在阻止AI代理进入生产环境,因为他们无法保证防护利用代理固有"轻信性"的prompt注入攻击。与能够识别明显诈骗的人类不同,代理会被简单的技巧愚弄,比如与背景颜色匹配的不可见文本prompt。以浏览器为中心的方法很有道理——如果代理以机器速度点击网页界面,那就是你需要控制的地方。

消息来源揭示了一个有趣的脱节。虽然Menlo将此框定为用自主代理解决"下一个十亿用户"问题,但匈牙利银行监管机构MNB的消息来源表明,传统金融机构仍在为人类用户的基本网络安全合规而苦苦挣扎。这突出了不同行业在AI采用方面处于截然不同的阶段,一些企业部署数千个代理,而其他企业尚未超越试点项目。

对于构建AI代理的开发者来说,这指向一个基本的架构决策:将安全性构建到代理本身中,还是依赖外部防护措施,如浏览器级别的控制。鉴于代理扩展速度之快以及它们被对抗性prompt愚弄的容易程度,外部防护措施方法似乎对生产部署更实用,因为单个被攻破的代理可能会繁殖成数千个。