La sfida della verifica dell’autorità nell’era degli agenti AI
In Breve
- Qual è il problema principale con gli agenti AI?
- Il modello di fiducia digitale è messo in crisi poiché non si può più presupporre che dietro ogni accesso ci sia una persona.
- Cosa si intende per principio del minimo privilegio?
- Si tratta di assegnare agli agenti mandate specifiche e limitate per prevenire danni potenziali.
- Quali domande chiave devono essere poste riguardo agli agenti AI?
- Chi agisce, chi ha autorizzato, cosa può fare, sotto quali vincoli e se l'autorità è ancora valida.
Con l’aumento dell’uso di agenti di intelligenza artificiale (AI) per gestire transazioni e compiti amministrativi, il tradizionale modello di fiducia digitale è messo a dura prova. Questo modello si basa sull’assunto che dietro ogni accesso ci sia un essere umano, ma la crescente automazione richiede un ripensamento delle modalità di autenticazione e verifica dell’identità.
Tradizionalmente, i sistemi di autenticazione hanno come obiettivo principale quello di confermare le credenziali di chi richiede un’azione. Tuttavia, è fondamentale non solo identificare chi sta accedendo, ma anche comprendere chi ha autorizzato tale accesso e quali limitazioni sono associate. La distinzione tra autenticazione, identità e autorità diventa quindi cruciale.
Nell’ambito aziendale, in settori come quelli dei servizi finanziari e della sanità, sono già in uso controlli di ruolo ed eleggibilità. Tuttavia, l’infrastruttura attuale è più avanzata nella verifica dell’identità rispetto all’applicazione delle deleghe di autorità. Per affrontare questa sfida, si suggerisce di adottare il principio del minimo privilegio: agli agenti devono essere assegnate mandate specifiche e limitate, piuttosto che un accesso illimitato. Questo approccio è essenziale per prevenire danni causati da agenti compromessi o mal configurati.
Per ogni azione intrapresa da un agente AI, è fondamentale rispondere a cinque domande chiave: chi o cosa sta agendo, chi ha autorizzato l’azione, quali sono i limiti delle azioni consentite, sotto quali vincoli opera e se l’autorità è ancora valida. Questo metodo si basa su modelli di delega “on-behalf-of” già presenti negli standard di identità.
Strumenti come i portafogli digitali possono svolgere un ruolo cruciale in questo contesto, ospitando mandati verificabili meccanicamente e revocabili, affiancati alle credenziali verificate di individui o organizzazioni. È quindi necessario estendere le autorità e i framework esistenti, incluso il quadro di fiducia per i servizi di verifica digitale, rafforzato dal Data (Use and Access) Act nel Regno Unito, per includere i delegati software.
Le misure suggerite per affrontare questa nuova realtà includono il trasferimento della verifica dell’autorità prima che l’agente agisca, la documentazione di chi concede i poteri e la limitazione dell’ambito di tali poteri. Queste azioni sono essenziali per ridurre l’esposizione al rischio prima che le implementazioni di agenti AI superino i controlli progettati per governarle.
