软件提供商Kilo推出了KiloClaw for Organizations,这是一个企业平台,旨在治理员工在官方IT渠道之外部署的自主代理。该工具解决了Kilo所称的"Bring Your Own AI"(BYOAI)问题——员工绕过采购流程,在个人基础设施上设置代理来处理解析错误日志或协调电子表格等任务。这些代理通过个人API密钥例行访问企业Slack频道、Jira看板和代码仓库,为数据泄露创造了盲点。
这反映了2010年代初期的BYOD时代,但风险更高。被攻破的手机暴露的是静态数据;未监控的代理在集成平台上具有主动执行权限。这些自主脚本通常依赖外部计算能力,可能将企业数据发送到第三方推理服务器,这些服务器可能使用摄入的数据进行模型训练。KiloClaw建立了一个集中注册表,合规官员可以在不阻碍生产力提升的情况下审计代理行为和数据流。
技术挑战比传统的身份和访问管理系统更深层,这些系统并非为动态自主行为者而构建。代理按顺序链接任务,基于先前输出制定新请求——这种行为不符合标准IAM模式。在没有其他来源额外覆盖的情况下,KiloClaw如何在技术上识别这些影子部署,或者实际提供什么执行机制,目前尚不清楚。
对于已经运行个人AI工作流的开发者来说,这表明企业监督即将到来,无论你是否准备好。明智的做法是提前应对治理要求,而不是等待IT发现你的生产力技巧。
