Commvault ने AI Protect लॉन्च किया, जो AWS, Azure, और Google Cloud वातावरण में काम कर रहे AI एजेंट्स के लिए एक मॉनिटरिंग और रोलबैक सिस्टम है। यह टूल एंटरप्राइज़ इन्फ्रास्ट्रक्चर में चल रहे छुपे हुए AI एजेंट्स को खोजता है, उनकी API कॉल्स और डेटा इंटरैक्शन को ट्रैक करता है, फिर एडमिनिस्ट्रेटर्स को चीजें गलत होने पर एजेंट-संचालित परिवर्तनों को पूरी तरह से उलटने की क्षमता प्रदान करता है। सिस्टम एजेंट सेशन्स के "ब्लास्ट रेडियस" को मैप करता है ताकि AI द्वारा किए गए बदलावों को उसी समयावधि के दौरान वैध मानवीय कार्रवाइयों से अलग कर सके, इससे व्यापक रोलबैक्स द्वारा वैध काम नष्ट होने से रोकता है।
यह एक वास्तविक गवर्नेंस दुःस्वप्न को संबोधित करता है जिसे अधिकतर एंटरप्राइज़ेज अनदेखा करने का नाटक कर रहे हैं। AI एजेंट्स इमर्जेंट व्यवहार दिखाते हैं — वे जटिल समस्याओं को हल करने के लिए अनुमोदित अनुमतियों को गैर-अनुमोदित तरीकों से जोड़ते हैं। उन इंसानों के विपरीत जो प्रोडक्शन डेटाबेस डिलीट करने से पहले रुक सकते हैं, एजेंट्स अपने आंतरिक रीज़निंग लूप्स के आधार पर मिलीसेकंड में विनाशकारी कमांड्स execute करते हैं। पारंपरिक स्टेटिक परमिशन सिस्टम उस सॉफ़्टवेयर के लिए डिज़ाइन नहीं किए गए थे जो प्रति सेकंड हज़ारों API रिक्वेस्ट करता है और एक्सेस पॉलिसीज़ को तुरंत दोबारा लिख सकता है।
Commvault इस समस्या को पहचानने में अकेला नहीं है। Okta ने पिछले महीने समान एजेंट डिस्कवरी और शटडाउन क्षमताएं लॉन्च कीं, जबकि Commvault द्वारा उद्धृत Deloitte रिसर्च दिखाती है कि 60% AI लीडर्स रिस्क और कॉम्प्लायंस को एजेंट अडॉप्शन की मुख्य बाधाएं मानते हैं। The Register के कवरेज से पता चलता है कि यह Commvault की व्यापक AI रेजिलिएंस रणनीति में कैसे फिट करता है, जिसमें vector डेटाबेसेस को संरक्षित करना शामिल है जो LLM ऑपरेशन्स को पावर करने वाले embeddings स्टोर करते हैं। जो बात कहने की है वह यह है कि Commvault के फील्ड CTO ने खास तौर पर उल्लेख किया कि एंटरप्राइज़ेज "इस तथ्य को चूक जाते हैं कि आपको vector डेटाबेसेस को सुरक्षित करना शुरू करना होगा।"
पहले से प्रोडक्शन में एजेंट्स रन कर रहे डेवलपर्स के लिए, यह एक जगाने वाली कॉल है। शैडो AI डिप्लॉयमेंट्स हर जगह हैं, और अधिकतर कंपनियों के पास इस बात की शून्य दृश्यता है कि उनके एजेंट्स वास्तव में क्या कर रहे हैं। रोलबैक क्षमता उपयोगी है, लेकिन असली मूल्य मॉनिटरिंग में है — अंततः कुछ टूटने से पहले एजेंट व्यवहार पर नज़र रखना।