Le dernier sondage de Cisco révèle ce que ceux d'entre nous qui construisent des agents IA savent déjà : la sécurité d'entreprise n'est pas prête pour une IA autonome qui fait vraiment des choses. Le géant du réseautage avertit que les agents IA capables d'actions commerciales réelles pourraient causer des « dommages irréversibles » parce que les systèmes actuels de contrôle d'accès et d'identité n'ont pas été conçus pour des acteurs non-humains prenant des décisions à la vitesse des machines.
Ce n'est pas une nouvelle technologie qui brise des systèmes fonctionnels — c'est une nouvelle technologie qui expose à quel point nos systèmes sont déjà brisés. J'ai écrit en mars sur comment l'identité d'entreprise fonctionne à peine pour les humains, et maintenant on lui demande de gérer des agents IA qui pourraient exécuter des centaines d'actions par minute à travers plusieurs systèmes. Le problème fondamental n'est pas les capacités de l'IA ; c'est que les entreprises ont construit leur architecture de sécurité en assumant que chaque action a un humain derrière qui fait des choix délibérés.
Ce qui manque dans l'avertissement de Cisco, c'est la réalité pratique : les entreprises déploient déjà ces agents de toute façon. Le choix n'est pas entre une sécurité parfaite et les agents IA — c'est entre un déploiement contrôlé avec des garde-fous appropriés versus des implémentations d'IA fantôme qui contournent complètement les TI. Les données du sondage seraient plus précieuses si elles incluaient combien d'organisations font déjà tourner de l'IA agentique en production malgré ces risques.
Pour les développeurs qui construisent des agents IA, cela renforce ce qu'on dit sur les conceptions avec humain dans la boucle. La solution n'est pas d'empêcher les agents IA de prendre des actions — c'est de concevoir des systèmes où les agents peuvent agir dans des limites définies, avec des capacités de retour en arrière, et des pistes d'audit claires. Construisez en assumant que votre modèle de sécurité est déjà compromis, parce que dans la plupart des entreprises, il l'est probablement.