軟體供應商Kilo推出了KiloClaw for Organizations,這是一個企業平台,旨在治理員工在官方IT管道之外部署的自主代理程式。該工具解決了Kilo所稱的"Bring Your Own AI"(BYOAI)問題——員工繞過採購流程,在個人基礎設施上設置代理程式來處理解析錯誤日誌或協調試算表等任務。這些代理程式透過個人API金鑰例行存取企業Slack頻道、Jira看板和程式碼儲存庫,為資料外洩創造了盲點。
這反映了2010年代初期的BYOD時代,但風險更高。被攻破的手機暴露的是靜態資料;未監控的代理程式在整合平台上具有主動執行權限。這些自主腳本通常依賴外部運算能力,可能將企業資料發送到第三方推論伺服器,這些伺服器可能使用擷取的資料進行模型訓練。KiloClaw建立了一個集中註冊表,合規人員可以在不阻礙生產力提升的情況下稽核代理程式行為和資料流。
技術挑戰比傳統的身分與存取管理系統更深層,這些系統並非為動態自主行為者而建構。代理程式按順序鏈結任務,基於先前輸出制定新請求——這種行為不符合標準IAM模式。在沒有其他來源額外覆蓋的情況下,KiloClaw如何在技術上識別這些影子部署,或者實際提供什麼執行機制,目前尚不清楚。
對於已經運行個人AI工作流的開發者來說,這表明企業監督即將到來,無論你是否準備好。明智的做法是提前因應治理要求,而不是等待IT發現你的生產力技巧。
