Responsabilità agenti AI azienda: chi risponde se qualcosa va storto?

Chi è responsabile se un agente AI causa un danno?

La risposta breve è: tu. O meglio, l'impresa o il professionista che ha scelto di attivare l'agente, ne ha definito i permessi e lo ha inserito nei propri processi. Come spiega Agenda Digitale, il passaggio dagli output alle azioni sposta il baricentro della responsabilità: non si tratta più di valutare se un testo era corretto, ma di stabilire se un'azione era autorizzata, proporzionata e tracciabile.

Nel diritto italiano vigente — e ancor più nell'impianto dell'AI Act europeo — i sistemi di AI ad alto rischio richiedono supervisione umana. Ma "supervisione" non significa stare a guardare: significa avere procedure scritte, log delle azioni, limiti espliciti e un responsabile nominato. Se l'agente agisce oltre i limiti che gli avevi assegnato, la domanda del giudice sarà: come dimostra che quei limiti esistevano e che erano applicati?

Per uno studio professionale questa domanda ha un peso aggiuntivo: il commercialista, l'avvocato o il consulente del lavoro risponde anche sul piano deontologico. Un agente AI che invia al cliente sbagliato un documento riservato non è solo un errore tecnico: può configurare una violazione del segreto professionale con conseguenze disciplinari. La governance dell'agente è quindi, a tutti gli effetti, parte della governance dello studio.

CEO fraud e deepfake vocali: il rischio che nessuno si aspetta

Nel febbraio 2026 Fideuram ha subito una frode da circa 95 milioni di euro, di cui 36 milioni ancora da recuperare. I truffatori hanno usato messaggi WhatsApp che sembravano provenire dall'Ad di Intesa Sanpaolo Carlo Messina e una voce clonata con l'AI che imitava quella di un avvocato d'affari conosciuto. La combinazione di urgenza, autorità percepita e voce familiare ha convinto chi di dovere ad autorizzare i trasferimenti.

Non è un caso isolato. Come ricostruisce Key4biz, la CEO fraud potenziata dall'AI ha già colpito Massimo Moratti (quasi un milione di euro, poi recuperato), Maire Tecnimont (18 milioni trasferiti verso banche cinesi), Sisal (5,5 milioni), e ha sfiorato Ferrari e il gruppo pubblicitario WPP. Nel caso Arup di Hong Kong, un dipendente ha partecipato a una videoconferenza con avatar deepfake generati in tempo reale di colleghi e del direttore finanziario, trasferendo 25 milioni di dollari.

Il collegamento con gli agenti AI è diretto: se hai un agente che gestisce email, autorizza pagamenti o accede a sistemi gestionali, un'istruzione fraudolenta — vocale, testuale o via WhatsApp — può diventare il trigger di un'azione automatica. L'agente non ha senso critico sulle intenzioni di chi comanda: esegue. Questo significa che la difesa dalla CEO fraud non può più basarsi sul riconoscimento della voce o sulla fiducia nel mittente, ma deve diventare procedurale e indipendente dall'AI stessa.

Cosa cambia con la Legge 132/2025 sulla tracciabilità e le prove

La Legge 132/2025 introduce requisiti di tracciabilità che hanno un impatto diretto su chi usa agenti AI in contesti professionali o aziendali. Il principio di fondo è che un sistema automatizzato che produce effetti giuridici deve lasciare tracce verificabili: chi ha dato l'istruzione, in quale momento, con quali parametri, e quale azione ne è seguita. Senza questa catena documentale, in caso di contenzioso è impossibile separare l'azione legittima dell'agente dall'errore o dalla frode.

Per gli studi professionali il tema si intreccia con obblighi già esistenti: conservazione dei documenti, obbligo di informativa al cliente sull'uso dell'AI (già previsto da norme deontologiche e rafforzato dalla Legge 132/2025, come abbiamo analizzato nell'articolo sulla Legge 132/2025 e l'informativa ai clienti), e GDPR. Un log di attività dell'agente AI non è solo una buona pratica: sta diventando un requisito implicito di compliance.

La conseguenza pratica è che chi attiva oggi un agente AI senza predisporre un sistema di logging strutturato e conservazione delle prove si espone a un doppio rischio: quello dell'incidente stesso, e quello di non riuscire a difendersi nemmeno quando l'incidente non è colpa sua. La documentazione preventiva è la prima linea di difesa, non un adempimento burocratico da fare dopo.

Cosa documentare prima di attivare un agente AI

• ✓
  Policy di utilizzo scrittaDefinisce cosa l'agente può e non può fare, con quali dati e verso quali destinatari.
• ✓
  Perimetro dei permessiAccessi minimi necessari: nessun permesso in più rispetto a quanto serve per il compito assegnato.
• ✓
  Log delle azioni conservatiOgni azione dell'agente è registrata con timestamp, parametri e output, e conservata per il periodo previsto dalla normativa.
• ✓
  Responsabile interno nominatoUna persona fisica risponde della supervisione dell'agente e sa come intervenire in caso di anomalia.
• ✓
  Procedure di verifica umana per azioni ad alto rischioBonifici, invio di documenti riservati, comunicazioni verso terzi: richiedono conferma umana esplicita, fuori dal canale AI.
• ✓
  Informativa aggiornata ai clientiI clienti sanno che parte del servizio è erogata con il supporto di sistemi automatizzati, come previsto dalla Legge 132/2025.
• ✕
  Piano di risposta agli incidentiCosa fare nelle prime ore se l'agente compie un'azione non autorizzata o diventa vettore di una frode.

Come costruire un sistema di controllo dimostrabile in caso di contenzioso

Un sistema di controllo per gli agenti AI non è un firewall tecnico: è un insieme di regole, procedure e tracce documentali che permettono di rispondere alla domanda del giudice, del Garante o del cliente: "Come dimostra che l'agente ha agito nei limiti che gli aveva assegnato?". La risposta deve esistere prima dell'incidente, non essere costruita dopo.

Il punto di partenza è il principio del minimo privilegio: l'agente riceve solo i permessi strettamente necessari per il compito che deve svolgere. Se gestisce le email in arrivo, non ha bisogno di accedere al gestionale contabile. Se elabora documenti fiscali, non ha bisogno di inviare comunicazioni ai clienti in autonomia. Ogni permesso non necessario è una superficie di rischio.

Il secondo elemento è la separazione tra il canale AI e il canale di verifica. La CEO fraud funziona perché sfrutta l'urgenza e la fiducia nel canale: una voce familiare, un messaggio che sembra autentico. La difesa non è tecnologica ma procedurale: per qualsiasi azione che superi una soglia definita (economica, di riservatezza, di impatto), la conferma deve arrivare attraverso un canale diverso e indipendente, con una parola d'ordine o un codice concordato preventivamente. Il caso Ferrari insegna: il manager che ha chiesto al falso Vigna il titolo di un libro ha bloccato la truffa con una domanda semplice.

Il terzo elemento è la revisione periodica. I log dell'agente devono essere letti, non solo conservati. Una revisione mensile delle azioni anomale — istruzioni fuori orario, destinatari insoliti, volumi di dati inattesi — è il modo più efficace per intercettare un problema prima che diventi irreversibile. Per chi gestisce un CRM operativo con workflow automatizzati, questo tipo di revisione può essere integrata direttamente nei report di sistema.

I rischi concreti di una PMI o di uno studio senza governance AI

La tentazione di attivare un agente AI senza strutturare prima la governance è comprensibile: gli strumenti sono accessibili, i risultati immediati, e le procedure sembrano un rallentamento. Ma i dati del National Privacy Test 2026 di NordVPN fotografano una realtà preoccupante: solo il 43% degli italiani riconosce una truffa generata dall'AI e appena il 25% sa individuare un deepfake. Questo significa che la maggior parte dei dipendenti, collaboratori e anche titolari di studio non è in grado di riconoscere un'istruzione fraudolenta che sembra autentica.

Per una PMI o uno studio professionale i rischi concreti si articolano su tre livelli. Il primo è il rischio operativo: un agente mal configurato che invia il documento sbagliato al cliente sbagliato, che esegue un'azione fuori contesto, che si blocca in un loop su una scadenza critica. Il secondo è il rischio di frode: un'istruzione fraudolenta — vocale, testuale, via email — che l'agente esegue perché rientra nel suo perimetro di azione e non ha strumenti per dubitarne. Il terzo è il rischio legale e reputazionale: non riuscire a dimostrare, dopo l'incidente, che l'agente aveva limiti definiti e che questi limiti erano applicati.

Chi ha già letto il nostro articolo sui rischi degli agenti AI negli studi professionali sa che il problema non è l'AI in sé, ma il modo in cui viene integrata nei processi. Un agente AI ben governato riduce il rischio operativo rispetto ai processi manuali, perché è tracciabile e coerente. Un agente AI senza governance lo amplifica, perché agisce in modo autonomo su basi che nessuno ha mai scritto nero su bianco.

Come la gestione delle email e delle comunicazioni diventa il primo punto di controllo

Se c'è un punto in cui la governance degli agenti AI ha un impatto immediato per uno studio professionale o una PMI, è la gestione delle comunicazioni in entrata. Email, PEC, messaggi: sono il vettore principale della CEO fraud, il canale attraverso cui arrivano le istruzioni fraudolente, e spesso il primo sistema che viene automatizzato con un agente AI.

Un agente che gestisce la casella email deve avere regole chiare su cosa può fare da solo e cosa deve portare all'attenzione di un essere umano prima di agire. La bozza di risposta preparata dall'agente e approvata dal titolare è un modello di governance sano: l'efficienza dell'automazione con il controllo umano sui contenuti. È diverso da un agente che invia in autonomia, senza che nessuno veda cosa è uscito e a chi.

Allo stesso modo, la trascrizione e la sintesi delle chiamate — con attribuzione al cliente e conservazione strutturata — costruisce automaticamente una parte dei log di cui hai bisogno per la compliance: chi ha chiesto cosa, quando, e quale risposta è stata data. Non è solo efficienza operativa: è tracciabilità documentale che vale anche in sede di contenzioso.

Comunicazioni e agenti AI: cosa deve essere sotto controllo umano

• ✓
  Istruzioni che coinvolgono pagamenti o bonificiQualsiasi istruzione finanziaria deve passare per una verifica su canale indipendente, con codice concordato preventivamente.
• ✓
  Invio di documenti riservati a terziL'agente prepara, un essere umano approva prima dell'invio. Nessun documento riservato inviato in autonomia.
• ✓
  Risposte a nuovi contatti o potenziali clientiL'agente può gestire la prima risposta, ma la qualifica e le informazioni sensibili richiedono supervisione.
• ✕
  Comunicazioni urgenti che provengono da figure di autoritàPiù l'istruzione è urgente e autorevole, più deve essere verificata. L'urgenza è il segnale d'allarme, non una ragione per accelerare.
• ✕
  Aggiornamenti di dati sensibili nel gestionaleModifiche a dati anagrafici, fiscali o bancari dei clienti devono essere confermate da un operatore umano.