ServiceNow 正將自己定位為代理 AI 的企業平台——這種軟體能夠自主執行任務,而不僅僅是協助人類。該公司主張企業已經準備好從副駕駛模式轉向能夠獨立處理整個工作流程的系統,從 IT 工單解決到採購流程。但 ServiceNow 的提案帶有一個重大警告:公司在釋放自主代理之前需要強大的治理框架,儘管該公司很少提供關於這實際意味著什麼的具體細節。
這代表了企業 AI 的下一個戰場,真正的資金不在聊天介面,而在於能夠大規模替代人類決策的系統。ServiceNow 押注企業將為能夠無需人類批准就能行動的代理支付高價——這是與主導當前 AI 採用的生產力工具根本不同的價值主張。時機很合理,因為公司已經耗盡了 AI 助手的簡單收益,需要從自動化中獲得可衡量的 ROI。
ServiceNow 沒有解決的是責任惡夢。當自主代理做出錯誤的採購決定或錯誤地升級安全事件時,誰負責?平台提供商?公司?AI 模型供應商?ServiceNow 談論「治理和身份」,但迴避了關於保險、稽核軌跡和法規合規的棘手問題,這些將決定企業是否真正部署這些系統。
對於在企業平台上建構的開發者來說,這表明市場走向——從 human-in-the-loop 系統轉向完全自動化。但治理缺口不僅僅是 ServiceNow 要解決的問題。任何建構代理工作流程的團隊都需要關於監控、回滾機制和決策稽核軌跡的具體答案,然後才能將自主代理投入生產。
