Menlo Security推出其Browser Security Platform,針對CPO Ramin Farassat所稱的「代理悖論」—— AI代理提供巨大的生產力收益,但運行速度打破了傳統安全模型。該公司的Guardian Runtime將安全控制直接移入瀏覽器會話,代理透過「無頭瀏覽器」與SaaS應用程式互動,因為API可用性有限。Farassat報告看到單一代理的流量在企業網路內一夜之間激增至10,000個。
這解決了一個真正的部署瓶頸。安全團隊正在阻止AI代理進入生產環境,因為他們無法保證防護利用代理固有「輕信性」的prompt注入攻擊。與能夠識別明顯詐騙的人類不同,代理會被簡單的技巧愚弄,比如與背景顏色匹配的不可見文字prompt。以瀏覽器為中心的方法很有道理——如果代理以機器速度點擊網頁介面,那就是你需要控制的地方。
消息來源揭示了一個有趣的脫節。雖然Menlo將此框定為用自主代理解決「下一個十億用戶」問題,但匈牙利銀行監管機構MNB的消息來源表明,傳統金融機構仍在為人類用戶的基本網路安全合規而苦苦掙扎。這突顯了不同行業在AI採用方面處於截然不同的階段,一些企業部署數千個代理,而其他企業尚未超越試點專案。
對於構建AI代理的開發者來說,這指向一個基本的架構決策:將安全性構建到代理本身中,還是依賴外部防護措施,如瀏覽器級別的控制。鑑於代理擴展速度之快以及它們被對抗性prompt愚弄的容易程度,外部防護措施方法似乎對生產部署更實用,因為單一被攻破的代理可能會繁殖成數千個。
