Microsoft lancia Guardian Agents: la nuova frontiera nella sicurezza degli agenti AI

In un mondo sempre più dominato dall’intelligenza artificiale, Microsoft ha annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto in cui gli agenti AI, pur non essendo intrinsecamente maligni, possono presentare vulnerabilità e rischi significativi.

La necessità di un controllo esterno

Microsoft sottolinea che gli agenti AI non devono essere considerati come un’unica autorità di sicurezza. Anzi, è fondamentale separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. A tal fine, la sorveglianza deve essere affidata a meccanismi esterni al modello, per garantire una gestione più sicura e responsabile degli agenti AI.

Integrazione con iniziative esistenti

Questa proposta si inserisce nell’evoluzione di iniziative già avviate, come Project Perception e la cyber stack di Microsoft, che coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. Project Perception utilizza tre tipi di agenti (red, blue e green) per provare, investigare e correggere minacce. Con i Guardian Agents, Microsoft intende estendere questa architettura per proteggere gli “agentic insiders”, condividendo segnali e contesto attraverso un registro unificato con Microsoft Agent 365.

Controlli proposti e responsabilità

I controlli introdotti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le quattro responsabilità principali includono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che avvengano;
• Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
• Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Nuove funzionalità e strumenti

Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, come Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per il controllo operativo, Microsoft introduce Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.

Un passo avanti nella sicurezza AI

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, l’azienda mira a comprendere i rischi emergenti associati agli agenti AI e ad adattare le contromisure in tempo reale.