Google DeepMind, avec Schmidt Sciences, l'agence moonshot du gouvernement britannique ARIA, la Cooperative AI Foundation et Google.org, a ouvert un pool de financement de jusqu'à 10 millions de dollars pour la recherche en sécurité IA multi-agents, et le cadrage compte autant que l'argent. Comme le formule Rohin Shah, directeur de la sécurité AGI et de la recherche en alignement chez DeepMind, le futur proche en est un où des millions d'agents IA vont interagir à travers des environnements numériques, communiquant, négociant et transigeant entre eux, prenant souvent des instructions d'autres agents plutôt que de personnes. Une fois que des agents agissent sur les outputs des uns des autres sans humain dans la boucle, argumente-t-il, tu obtiens une toute nouvelle classe de risque que le travail de sécurité mono-agent des deux dernières années a jamais été bâti pour couvrir.
Les dangers nommés s'étendent du banal au systémique. Au bout concret : les scams et les schémas de fraude, et le prompt injection qui transforme un agent en malware auto-guidé suivant des instructions enterrées dans le contenu qu'il lit. Au bout système : des cyberattaques qui se propagent d'agent en agent, la possibilité que de l'infrastructure critique bascule dans ce que Shah appelle crûment de l'anarchie absolue, et le risque plus dur à nommer du comportement collectif émergent, des capacités qui surgissent d'agents qui interagissent et qu'aucun d'eux avait seul. Il cite le double tranchant directement : nos institutions peuvent accomplir des choses qu'aucun humain individuel peut, ce qui est exactement pourquoi une population d'agents pourrait aussi, pour le meilleur ou le pire. Shah a mis les scénarios d'effondrement économique pur hors de la fenêtre de six mois mais dans l'ensemble qui vaut la peine d'être étudié maintenant, aux côtés de surges imprévisibles d'activité économique et de pannes volatiles à l'échelle du réseau.
La première chose que l'argent achète, c'est la capacité d'étudier tout ça tout court, parce que l'aveu central est frappant : il y a juste pas vraiment de domaine de recherche pour la sécurité multi-agents encore. Le programme nomme quatre priorités. Une, des sandboxes et testbeds, des marketplaces virtuels reproductibles et des écosystèmes simulés où tu peux laisser tomber des agents à l'échelle, puisque le comportement peut pas être prédit depuis un agent ou un petit groupe. Deux, une science des réseaux d'agents, comprendre comment les capacités collectives émergent et détecter des propriétés dangereuses à l'échelle de la population avant qu'elles mordent. Trois, durcir l'infrastructure sur laquelle les agents s'appuient, les protocoles d'identité, de réputation et d'engagement qui laissent les agents se faire confiance. Quatre, supervision et contrôle, surveiller les populations d'agents déployées et atténuer les dommages collectifs. Les candidatures ferment le 8 août, avec des octrois attendus à l'automne.
Pour la picture plus large que ce newsroom track, c'est l'axe sécurité qui arrive, pour une fois, légèrement en avance sur le déploiement qui l'inquiète plutôt que de nettoyer après. Chaque histoire d'agent-runtime de la dernière quinzaine assumait le même point final, un monde de plusieurs agents qui interagissent, et le rapport OWASP d'aujourd'hui a montré que les défenses par-agent qui existent, la lethal trifecta, la Rule of Two, contraignent ce qu'un agent compromis peut atteindre. L'inquiétude de DeepMind, c'est la couche au-dessus de tout ça : la population. Aucune règle par-agent adresse ce qu'un million d'agents font collectivement, dans un marché ou un réseau électrique, plus vite qu'aucun humain peut regarder. C'est la question vraiment ouverte sous tout le build-out agentique, et c'est Tier-3 au sens précis qu'elle ouvre sur quelque chose de plus grand qu'un produit, l'émergence dans des systèmes qu'on assemble avant de les comprendre. Financer un domaine jusqu'à l'existence avant que son sujet arrive pleinement est la forme inhabituelle et bienvenue ici, et le caveat honnête est dans les mots de DeepMind eux-mêmes : la science pour répondre à la question existe pas encore, donc pour l'instant la chose la plus vraie que quiconque peut dire sur un monde d'agents qui interagissent, c'est qu'on sait pas.