Controllo agenti AI in azienda: come governarli davvero

Perché il vero problema inizia dopo l'accensione

Quando si parla di agenti AI — sistemi capaci di pianificare ed eseguire sequenze di azioni in autonomia, accedere a strumenti esterni, leggere e scrivere documenti — l'attenzione si concentra quasi sempre sulla fase di scelta e implementazione. Quale piattaforma? Quale modello? Quanto tempo per configurarlo? Sono domande legittime, ma secondarie rispetto a quella che conta davvero: come faccio a sapere cosa sta facendo l'agente dopo che l'ho attivato?

Come nota Agenda Digitale, l'AI è già nei workflow di molte organizzazioni, ma la governance — le regole operative, i controlli, le responsabilità — non ha tenuto il passo. Il risultato è un'asimmetria pericolosa: l'agente lavora, produce output, invia comunicazioni, ma nessuno ha definito chi verifica cosa, con quale frequenza e con quali criteri.

Per uno studio commercialista o un consulente del lavoro, questo non è un problema astratto. Un agente che gestisce la raccolta documenti potrebbe contattare il cliente sbagliato, allegare file di un altro fascicolo o sollecitare una scadenza già saldata. Ogni errore di questo tipo ha un nome, un cognome e una conseguenza professionale. La governance non è un lusso: è la condizione perché l'automazione produca valore invece di danni.

Chi è responsabile se un agente AI commette un errore?

La risposta breve è: voi. La risposta lunga è: voi, con qualche sfumatura che dipende da come avete strutturato il rapporto con il fornitore, ma che non cambia la sostanza. L'AI Act europeo — già in vigore nelle sue parti principali — stabilisce che il responsabile del deployment di un sistema AI ad alto rischio è il soggetto che lo adotta e lo mette in esercizio, non chi lo ha costruito. Per uno studio professionale, questo si sovrappone agli obblighi deontologici: il segreto professionale, la diligenza, la responsabilità verso il cliente non si delegano a un software.

Questo significa che, prima di attivare un agente, è necessario definire per iscritto almeno tre cose: quali azioni può compiere in autonomia, quali richiedono approvazione umana e quali sono vietate in assoluto (ad esempio, inviare comunicazioni a clienti senza revisione, accedere a fascicoli di terzi, modificare dati contabili). Queste soglie non sono dettagli tecnici: sono il confine tra un sistema governato e uno che lavora per conto suo. Per approfondire il quadro normativo, il nostro articolo sull'AI Act per studi professionali e PMI offre un punto di partenza utile.

Sul piano GDPR, il problema si aggiunge: un agente che accede a dati di clienti senza una base giuridica definita, senza misure di minimizzazione e senza log verificabili, configura una violazione anche in assenza di un danno diretto. Il Garante non chiede se c'è stato un danno: chiede se erano in vigore le misure tecniche e organizzative adeguate.

Come si definiscono i limiti operativi di un agente AI

Definire i limiti di un agente non è un compito tecnico: è un compito strategico. Prima di scrivere una riga di configurazione, chi governa lo studio o l'azienda deve rispondere a domande precise. Quali processi voglio automatizzare? Quali dati può toccare l'agente? In quali condizioni deve fermarsi e chiedere conferma a un essere umano? Quanto tempo ho per verificare i suoi output prima che raggiungano il cliente?

Nella pratica, la governance di un agente AI si costruisce su quattro livelli. Il primo è il perimetro dei dati: l'agente accede solo alle informazioni strettamente necessarie, non all'intera base dati dello studio. Il secondo è la gerarchia delle azioni: alcune può compierle in autonomia (leggere, classificare, redigere una bozza), altre richiedono un'approvazione (inviare, firmare, modificare un record ufficiale), altre ancora sono bloccate a priori (accedere a fascicoli di altri clienti, esportare dati verso sistemi esterni non autorizzati). Il terzo livello è il log: ogni azione dell'agente viene registrata con timestamp, contesto e risultato. Il quarto è la soglia di escalation: se l'agente incontra un caso ambiguo o supera una certa frequenza di errori, avvisa automaticamente il supervisore umano.

Questo schema non richiede tecnologie sofisticate: richiede che qualcuno si sieda e lo scriva, prima dell'attivazione. Il problema di molti studi e PMI che sperimentano agenti AI è che questo lavoro viene rimandato — o non viene mai fatto — e l'agente opera in un vuoto di regole. Per capire come strutturare questo lavoro anche sul fronte della raccolta e gestione documentale, il servizio Ovia Documenti è costruito esattamente attorno a questi principi: perimetri definiti, solleciti mirati, storico verificabile.

Quanto costa davvero monitorare un agente AI

La domanda sul costo del monitoraggio è legittima, ma spesso mal posta. Il confronto corretto non è tra «agente con monitoraggio» e «agente senza monitoraggio»: è tra il costo del monitoraggio e il costo di un errore non rilevato in tempo. Per uno studio professionale, un errore su un cliente — una scadenza mancata, un documento inviato a chi non doveva riceverlo, una comunicazione fiscalmente errata — può costare in termini di responsabilità professionale, rimborsi e reputazione molto più di qualsiasi sistema di controllo.

Sul piano tecnico, il monitoraggio degli agenti AI si sta evolvendo rapidamente. TechCrunch riporta il lancio di Goodfire, una startup specializzata in interpretabilità dei modelli AI, che ha sviluppato monitor «inside-out»: invece di far leggere a un secondo modello AI tutto quello che fa il primo (approccio costoso), questi monitor leggono i segnali interni del modello mentre elabora, riutilizzando i calcoli già in corso. Il risultato, nei test su circa un milione di scambi con il modello Kimi K3, è un costo di circa 185 dollari contro i 5.420 dollari di un monitor AI tradizionale più economico — con un tasso di rilevamento dei comportamenti malevoli del 93%.

Per studi e PMI italiane, questo dato ha un significato pratico: il monitoraggio non deve essere né il costo dominante né la scusa per non fare nulla. Esistono approcci graduali — dalla semplice revisione umana degli output su base campionaria, al log automatico delle azioni, fino a sistemi più sofisticati per chi gestisce volumi elevati. L'importante è che ci sia qualcosa, documentato e verificabile. L'assenza totale di controllo è il rischio più costoso di tutti.

Supervisione umana e obblighi normativi: cosa dice la legge oggi

La supervisione umana sugli agenti AI non è solo buona pratica: in alcuni contesti è un obbligo di legge. L'AI Act europeo classifica come ad alto rischio i sistemi AI usati in ambiti come l'amministrazione della giustizia, la gestione di dati personali sensibili, i servizi essenziali. Per questi sistemi, l'articolo 14 impone misure di human oversight: l'operatore deve essere in grado di comprendere le capacità e i limiti del sistema, di monitorarne il funzionamento e di intervenire o disattivarlo. La Legge 132/2025 italiana ha aggiunto ulteriori obblighi per i professionisti che usano AI nei confronti dei clienti, incluso l'obbligo di informativa — un tema che abbiamo approfondito nel nostro articolo sulla Legge 132/2025 e l'AI negli studi professionali.

Sul piano GDPR, la supervisione umana si traduce in un obbligo specifico quando l'agente prende decisioni che producono effetti giuridici o significativi sulle persone fisiche: in quel caso, il Regolamento 2016/679 prevede il diritto dell'interessato a non essere sottoposto a una decisione esclusivamente automatizzata. Per uno studio commercialista che usa un agente per elaborare dati fiscali o un consulente del lavoro che automatizza comunicazioni su buste paga, questo confine merita attenzione concreta.

In sintesi: non è sufficiente che l'agente funzioni bene in media. Deve esistere un supervisore umano identificato, con strumenti per verificare gli output, con la capacità di intervenire e con la responsabilità formale di farlo. Chi non ha ancora definito questo ruolo nel proprio studio o nella propria PMI ha un gap di compliance che cresce con ogni settimana in cui l'agente opera senza controllo.

Checklist di conformità per chi usa agenti AI

• ✓
  Supervisore umano identificatoÈ stato nominato un responsabile interno con il compito di verificare gli output dell'agente con frequenza definita.
• ✓
  Log strutturato attivoOgni azione dell'agente produce un record verificabile: cosa, quando, su quali dati, con quale risultato.
• ✓
  Informativa aggiornata ai clientiI clienti sono stati informati dell'uso di sistemi AI nei processi che li riguardano, come previsto dalla Legge 132/2025.
• ✕
  Perimetro dati documentatoÈ definito per iscritto a quali dati l'agente può accedere e quali sono esclusi, con revisione annuale.
• ✕
  Soglie di escalation operativeEsistono regole chiare su quando l'agente deve fermarsi e avvisare un umano, non solo in caso di errore tecnico.
• ✕
  Metriche di ROI definite prima dell'attivazioneSono stati stabiliti indicatori misurabili (tempo risparmiato, errori ridotti, pratiche gestite) per valutare il valore reale dell'agente.

Come si misura il ROI di un agente AI dopo che è attivo

La domanda sul ritorno sull'investimento di un agente AI è spesso l'ultima che viene posta — e dovrebbe essere la prima. Senza metriche definite prima dell'attivazione, qualsiasi valutazione successiva è arbitraria: si tende a ricordare i casi in cui l'agente ha funzionato bene e a minimizzare quelli in cui ha sbagliato. Un approccio strutturato al ROI richiede invece di stabilire in anticipo cosa si misura, con quale frequenza e con quale obiettivo.

Le metriche più rilevanti per studi professionali e PMI italiane non sono quelle tecniche (latenza, uptime, costo per token): sono quelle operative. Quante pratiche gestisce l'agente al mese rispetto a prima? In quanto tempo si risolve una richiesta documentale? Quante email vengono smaltite senza intervento umano? Quanti errori vengono rilevati e corretti prima di raggiungere il cliente? La gestione strutturata delle comunicazioni con i clienti, ad esempio tramite il servizio Ovia Inbox, permette di avere baseline misurabili da confrontare con i risultati dell'automazione.

Il ROI di un agente AI è anche negativo quando non viene misurato: un agente che occupa tempo di supervisione, genera errori da correggere e non libera risorse reali è un costo, non un investimento. Per approfondire il metodo di misurazione, il nostro articolo sul ROI dell'intelligenza artificiale per studi e PMI offre un framework applicabile subito. La governance e la misurazione non sono freni all'innovazione: sono la condizione perché l'innovazione produca risultati che si possano dimostrare, al proprio team e ai propri clienti.