In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è garantire che gli agenti AI non siano lasciati come unica autorità di sicurezza e siano costantemente monitorati.
- Quali funzionalità offrono i Guardian Agents?
- Offrono controlli su identità, permessi, dati e altro, oltre a strumenti per limitare l'accesso e valutare i rischi.
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi. Pertanto, non dovrebbero essere considerati l’unica autorità in materia di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni, affidando la sorveglianza continua a meccanismi esterni al modello. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle strategie di sicurezza già avviate dall’azienda, come il Project Perception e la cyber stack di Microsoft.
Il Project Perception utilizza tre tipologie di agenti — red, blue e green — per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza viene estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365. Questo approccio mira a fornire una visione coerente di agenti e rischi.
I controlli proposti da Microsoft si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Tali controlli si applicano a sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Inoltre, perseguono quattro responsabilità chiave: conoscere l’esistenza, la proprietà e il comportamento degli agenti; contenere l’accesso e le azioni prima che avvengano; proteggere dati, strumenti e risorse utilizzate dagli agenti; e adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Tra le funzionalità annunciate con i Guardian Agents, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID sarà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per garantire un controllo operativo efficace, sono previste diverse funzionalità come le Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti associati agli agenti e ad adattare le contromisure in tempo reale.