In Breve
- Quali sono i rischi associati agli agenti AI autonomi?
- I rischi includono la difficoltà di attribuire responsabilità e la possibilità di malfunzionamenti senza una chiara tracciabilità delle decisioni.
- Come devono essere gestiti gli agenti AI?
- Devono essere trattati come entità dotate di identità, con credenziali e audit trail simili a quelli degli operatori umani.
- Qual è l'importanza della governance per gli agenti AI?
- La governance è fondamentale per garantire trasparenza, responsabilità e sicurezza nelle operazioni degli agenti AI.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le problematiche di rete. Questi sistemi possono risolvere problemi durante la notte senza alcuna notifica, lasciando la verifica delle azioni a un operatore umano nel turno successivo. Tuttavia, questa pratica, descritta come Human-on-the-Loop, presenta delle insidie significative.
In scenari alternativi, agenti AI costruiti in modo improvvisato possono eseguire correzioni simili senza fornire tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano solo il “cosa” è stato fatto, ma non sempre il “perché” o le modifiche collaterali necessarie per raggiungere l’obiettivo. Questo limite può trasformare il click di approvazione in un rito privo di reale valutazione critica, complicando l’attribuzione di responsabilità in caso di malfunzionamenti o outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi fino a creare livelli di autonomia non esplicitamente approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno o meno, mentre il 79% considera già gli agenti AI come utenti che necessitano di gestione delle identità e controlli di governance.
Per garantire una gestione efficace, gli agenti che operano su reti devono essere trattati come entità dotate di identità. Ciò implica la necessità di fornire credenziali, politiche, limiti operativi, spiegabilità e audit trail, analoghi a quelli degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone; pertanto, applicare soluzioni adattate in modo informale agli agenti può generare accessi ombra e rischi non quantificati. Per mitigare tali rischi, è cruciale che ogni agente sia configurato come principal con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute, delle autorizzazioni e delle motivazioni alla base delle scelte effettuate.
La fiducia nell’autonomia degli agenti dovrebbe essere progressiva. Gli agenti possono iniziare in modalità suggerimento, guadagnando capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento del volume e della complessità delle decisioni autonome, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si passano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. Il lavoro spesso considerato noioso — impostare permessi rigorosi, controlli d’identità e audit trail — è, in realtà, un elemento cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.