Trent AI由前AWS工程师Eno Thereska和Neil[姓氏在原文中被截断]创立,在LocalGlobe和Cambridge Innovation Capital领投下获得1300万美元种子轮融资。这家总部位于伦敦的初创公司昨日在Databricks、Stripe等科技公司高管的支持下启动,将自己定位为"AI代理安全"公司。

时机选择很合理——AI代理正从演示转向生产,处理从客户服务到代码生成的各种任务。但这些系统的安全格局仍在定义中。传统网络安全专注于保护数据和网络。AI代理安全涉及新的攻击向量:prompt注入、模型投毒、通过巧妙查询进行数据提取,以及代理超出预期边界的行为。问题是Trent AI是否已识别出具体有价值的问题,还是在押注一个尚不存在的类别。

公告中稀少的细节很能说明问题。没有提及具体产品、目标客户,甚至没说他们要保护哪类AI代理。对于一家安全公司来说,这要么是战略性隐蔽模式,要么是他们还在摸索要构建什么。AWS背景表明他们理解基础设施规模的问题,但AI代理安全需要与传统云安全不同的专业知识。

部署AI代理的开发者应该专注于基础:输入验证、输出过滤和明确的代理边界。在我们看到Trent AI实际推出什么之前,最好的安全是谨慎的prompt工程和对代理实际行为的强力监控。