Contesto normativo e responsabilità di governance
Responsabilità sulle decisioni, controllo dei dati e limiti all’autonomia dei sistemi: l’adozione dell’AI nella PA richiede scelte verificabili. La legge italiana e il calendario europeo definiscono il contesto in cui preparare i servizi, con la sicurezza integrata nella loro gestione quotidiana.
Quando un’amministrazione collega un assistente di intelligenza artificiale ai propri archivi, apre un nuovo canale di accesso al patrimonio informativo dell’ente. Se il sistema aiuta a istruire una pratica, la qualità delle informazioni restituite può incidere sul lavoro del funzionario e sulla posizione del cittadino.
Le scelte sui dati consultabili e sui margini di autonomia dell’applicazione entrano così nel funzionamento del servizio pubblico. La governance dell’intelligenza artificiale nella PA richiede quindi di stabilire chi autorizza l’uso di un sistema, chi ne verifica gli effetti e quali procedure attivare quando produce una risposta inattendibile o espone informazioni riservate.
Ruoli e competenze
- Direzione dell’ente: autorizzazione e definizione delle policy operative.
- Uffici di erogazione del servizio: monitoraggio dell’applicazione e gestione delle eccezioni.
- Presidio sicurezza e protezione dati: verifica della conformità alle normative privacy.
La legge 23 settembre 2025, n. 132 e le sue disposizioni
L’articolo 14 della legge assegna a queste scelte un riferimento preciso. Prevede che l’AI supporti l’attività amministrativa, assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo.
La persona conserva autonomia decisionale e responsabilità sui provvedimenti e sui procedimenti nei quali viene impiegata l’intelligenza artificiale. Lo stesso articolo richiede misure tecniche, organizzative e formative per un uso responsabile.
Per l’ente, questo significa mettere il funzionario nelle condizioni di controllare il contributo del sistema. Un esito generato automaticamente dovrebbe poter essere confrontato con i documenti da cui deriva e con le regole applicabili alla pratica.
La registrazione delle operazioni è progettata per consentire verifiche successive, contemplando conservazione e accessi coerenti con la protezione dei dati personali.
Autorità nazionali
- AgID (Agenzia per l’Italia Digitale): definizione di linee guida e coordinamento del procurement.
- ACN (Autorità per la Conformità Normativa): vigilanza sull’applicazione delle disposizioni legislative.
Linee guida AgID e il percorso operativo
Nel marzo 2026 l’Agenzia ha avviato la consultazione dei documenti per lo sviluppo e il procurement di sistemi AI nella PA. Sono riferimenti da considerare nella pianificazione dei progetti, distinguendo i testi in consultazione dalle disposizioni già applicabili.
“Per un’amministrazione, adottare l’AI significa stabilire quale parte del lavoro affidarle e quali verifiche mantenere in capo alle persone. Il controllo deve essere applicabile anche quando il modello o l’infrastruttura dipendono da soggetti esterni. Servono responsabilità definite e la possibilità di ricostruire l’uso del sistema, soprattutto quando il suo risultato entra in un procedimento che riguarda un cittadino,” spiega Salvatore Marcis, Country Manager Italy di TrendAI.
È inoltre fondamentale rilevare e limitare la cosiddetta shadow AI, cioè tutti quegli usi non regolamentati basati su iniziative personali che potrebbero esporre l’organizzazione a violazioni della privacy e fughe di dati.
Obblighi di trasparenza già attivi
- Informare l’interessato sul coinvolgimento dell’AI.
- Fornire la logica di base del modello utilizzato.
- Garantire la possibilità di contestare la decisione automatizzata.
Calendario europeo dell’AI Act
Il quadro aggiornato della Commissione europea prevede che le regole per i sistemi ad alto rischio elencati nell’Allegato III dell’AI Act si applichino dal 2 dicembre 2027; per quelli incorporati nei prodotti regolamentati la data indicata è il 2 agosto 2028.
Le disposizioni del regolamento seguono scadenze differenti e gli obblighi di trasparenza per determinati sistemi, compresi quelli che interagiscono con le persone, sono già applicabili.
Le amministrazioni devono quindi classificare gli utilizzi effettivi. Un assistente informativo e un sistema impiegato per valutare l’accesso a una prestazione pubblica richiedono analisi diverse, in relazione alla finalità e agli effetti sulle persone.
L’AI Act include tra gli ambiti ad alto rischio determinati impieghi per l’accesso a servizi pubblici essenziali. La ricognizione dei progetti serve a individuare il regime applicabile e a programmare gli adeguamenti, mentre restano fermi gli obblighi sulla protezione dei dati personali.
Passi operativi consigliati
- Censire i sistemi AI già in uso.
- Ricostruire i dati trattati e identificare il responsabile di ciascun servizio.
- Valutare la presenza di funzionalità AI in contratti gestionali esistenti.
Stato della sicurezza AI nella PA: dati di TrendAI
Nel rapporto sullo stato della sicurezza AI del primo semestre 2026, pubblicato il 23 settembre, TrendAI ha identificato 43.175 istanze di servizi legati all’AI in 25 settori, analizzando 21,6 milioni di URL.
La rilevazione ha un perimetro internazionale e multisettoriale e documenta, tra le criticità osservate, componenti accessibili da Internet senza autenticazione e software non aggiornato.
TrendAI osserva inoltre che gli attaccanti prendono sempre più di mira la fiducia riposta negli strumenti degli sviluppatori, la supply chain e le identità digitali, più che i modelli stessi.
Tipologie di vulnerabilità riscontrate
- Accessi non autorizzati a interfacce AI.
- Software obsoleto o non patchato.
- Prompt injection indiretta (OWASP).
- Abuso di permessi elevati per operazioni automatizzate.
Rischi tecnici specifici: prompt injection e operazioni autonome
Per un’applicazione che consulta documenti amministrativi, il rischio riguarda anche il contenuto delle informazioni elaborate. Una pagina web o un allegato possono contenere istruzioni costruite per deviare il comportamento del modello. OWASP descrive questo meccanismo come “prompt injection indiretta” e ne segnala i possibili effetti, dalla divulgazione di dati all’uso non autorizzato delle funzioni collegate al sistema.
Il problema si estende quando l’assistente può compiere operazioni: aggiornare una pratica, inviare una comunicazione o interrogare un archivio attraverso un’utenza con privilegi elevati. OWASP indica il rischio di azioni dannose anche a funzionalità eccessive, permessi troppo ampi e autonomia sproporzionata.
La valutazione deve quindi comprendere ciò che il sistema è autorizzato a fare nei servizi ai quali si collega.
Misure di mitigazione
- Limitare i permessi a operazioni strettamente necessarie.
- Richiedere conferma umana per azioni con impatto rilevante.
- Implementare audit trail dettagliati per ogni chiamata AI.
- Eseguire test di penetrazione specifici per prompt injection.
Sovranità dei dati e dei modelli: la prospettiva “Building Sovereign AI”
La scelta dei fornitori porta al tema della sovranità di dati e modelli. Nella ricerca “Building Sovereign AI”, TrendAI propone una valutazione su cinque livelli, dalle basi tecnologiche all’infrastruttura, fino a dati e modelli, operazioni e autonomia strategica.
Il documento riconosce che anche i paesi tecnologicamente più avanzati operano in dipendenze globali e che la residenza del dato, da sola, non esaurisce la questione del controllo.
Per la PA, questa lettura consente di formulare requisiti coerenti con il servizio. La localizzazione delle informazioni va valutata insieme alla gestione delle chiavi, agli accessi amministrativi e alle condizioni alle quali il fornitore può riutilizzare dati e conversazioni.
Occorre inoltre chiarire cosa accade quando cambia il modello sottostante o quando termina il rapporto contrattuale: esportabilità delle informazioni e disponibilità della documentazione incidono sulla possibilità dell’ente di mantenere il servizio.
Checklist per la sovranità AI
- Definizione chiara del luogo di archiviazione dei dati.
- Clausole contrattuali sulla non‑riutilizzazione dei dati da parte del fornitore.
- Procedura di migrazione dei modelli al termine del contratto.
- Verifica periodica della conformità alle normative nazionali ed europee.
Strategie operative per una governance efficace
Un ente può circoscrivere gli effetti di un errore assegnando permessi limitati al compito, verificando gli accessi ai documenti e richiedendo una conferma umana per le operazioni con conseguenze rilevanti. La verifica dell’attendibilità della risposta resta un presidio ulteriore: anche un sistema protetto dagli accessi abusivi può produrre informazioni inesatte.
Il funzionario deve disporre delle competenze e del tempo necessari per riconoscerle. Pertanto, è indispensabile investire in formazione continua sull’interpretazione dei risultati AI e sull’individuazione di bias o falsi positivi.
La scelta dei fornitori deve includere criteri di valutazione della capacità di garantire:
- Sicurezza della supply chain.
- Trasparenza dei processi di addestramento del modello.
- Meccanismi di audit indipendente.
- Supporto tecnico per aggiornamenti e patch.
In conclusione, la governance dell’intelligenza artificiale nella pubblica amministrazione non è solo un obbligo normativo, ma un elemento strategico per costruire fiducia tra cittadini e istituzioni. Solo attraverso responsabilità chiaramente definite, tracciabilità delle operazioni e una rigorosa gestione della sovranità dei dati sarà possibile sfruttare i benefici dell’AI senza compromettere la sicurezza e la trasparenza dei servizi pubblici.